Прискорений градієнтний тест Нестерова

Відповіді та пояснення з’являються під час виконання тесту.

1. Яка визначальна ідея прискореного градієнта Нестерова порівняно з класичним імпульсом?
   • Це повністю усуває імпульс
   • Він використовує фіксовану швидкість навчання 1,0
   • Він оцінює градієнт у точці прогнозу, а не в поточній позиції
   • Працює лише без міні-партій
2. Яку доказову швидкість збіжності досягає метод Нестерова на гладких опуклих задачах?
   • Порядок 1/k^2
   • Замовлення 1/к
   • Замовлення 1/журнал к
   • Немає гарантованої ставки
3. Хто спочатку представив цей метод прискореного градієнта?
   • Джеффрі Хінтон у 2012 році
   • Ісаак Ньютон
   • Джон фон Нейман
   • Юрій Нестеров у 1983 році
4. Чому градієнт прогнозу допомагає поблизу криволінійних мінімумів?
   • Це підвищує швидкість навчання
   • Він передбачає перевищення та застосовує корекцію до того, як це станеться
   • Він видаляє член швидкості
   • Він рандомізує напрямок кроку
5. На практиці, як обчислювальна вартість імпульсу Нестерова порівнюється з класичним імпульсом?
   • Приблизно те саме, завдяки алгебраїчно зміненому оновленню
   • Приблизно в десять разів вище
   • Для цього потрібні другі похідні на кожному кроці
   • Це неможливо обчислити на графічних процесорах
6. Який адаптивний оптимізатор поєднує прогноз Нестерова з масштабуванням у стилі Адама?
   • RMSprop
   • Адаград
   • Nadam
   • LBFGS
7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
   • 10.18
   • 9.82
   • 8.20
   • 10.90
8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
   • At a point displaced by the full old velocity
   • At the previous validation score
   • At an arbitrary future minibatch
   • At the current parameter position