Тест за ускорен градиент на Нестеров

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. Каква е определящата идея на ускорения градиент на Нестеров в сравнение с класическия импулс?
   • Премахва изцяло инерцията
   • Той използва фиксирана скорост на обучение от 1,0
   • Той оценява градиента в точка за гледане напред, а не в текущата позиция
   • Работи само без мини партиди
2. Каква доказуема степен на сходимост постига методът на Нестеров при гладки изпъкнали проблеми?
   • Поръчка 1/k^2
   • Поръчка 1/к
   • Поръчка 1/дневник k
   • Няма гарантирана ставка
3. Кой първоначално въведе този метод на ускорен градиент?
   • Джефри Хинтън през 2012 г
   • Исак Нютон
   • Джон фон Нойман
   • Юрий Нестеров през 1983 г
4. Защо градиентът за гледане напред помага близо до извитите минимуми?
   • Увеличава скоростта на учене
   • Той предвижда превишение и прилага корекция, преди това да се случи
   • Той изтрива термина за скоростта
   • Той рандомизира посоката на стъпката
5. На практика, как изчислителната цена на импулса на Нестеров се сравнява с класическия импулс?
   • Приблизително същото, благодарение на алгебрично пренаредена актуализация
   • Около десет пъти по-висока
   • Изисква втори производни на всяка стъпка
   • Не може да се изчисли на GPU
6. Кой адаптивен оптимизатор съчетава прогнозата на Nesterov с мащабиране в стил Adam?
   • RMSprop
   • Адаград
   • Надявам се
   • LBFGS
7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
   • 10.18
   • 9.82
   • 8.20
   • 10.90
8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
   • At a point displaced by the full old velocity
   • At the previous validation score
   • At an arbitrary future minibatch
   • At the current parameter position