Quiz cu gradient accelerat Nesterov

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

1. Care este ideea definitorie a gradientului accelerat Nesterov în comparație cu impulsul clasic?
   • Îndepărtează în întregime impulsul
   • Utilizează o rată fixă de învățare de 1,0
   • Evaluează gradientul într-un punct de vedere înainte, mai degrabă decât poziția curentă
   • Funcționează doar fără mini-loturi
2. Ce rată de convergență demonstrabilă obține metoda lui Nesterov pe probleme convexe netede?
   • Ordinul 1/k^2
   • Ordinul 1/k
   • Comanda 1/log k
   • Fără tarif garantat
3. Cine a introdus inițial această metodă de gradient accelerat?
   • Geoffrey Hinton în 2012
   • Isaac Newton
   • John von Neumann
   • Yurii Nesterov în 1983
4. De ce gradientul de anticipare ajută aproape de minimele curbe?
   • Crește rata de învățare
   • Anticipează depășirea și aplică o corecție înainte de a se întâmpla
   • Acesta șterge termenul de viteză
   • Randomizează direcția pasului
5. În practică, cum se compară costul de calcul al impulsului Nesterov cu impulsul clasic?
   • Aproximativ la fel, datorită unei actualizări rearanjate algebric
   • De vreo zece ori mai mare
   • Necesită derivate secunde la fiecare pas
   • Nu poate fi calculat pe GPU-uri
6. Ce optimizator adaptiv combină perspectiva Nesterov cu scalarea în stil Adam?
   • RMSprop
   • Adagrad
   • Nadam
   • LBFGS
7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
   • 10.18
   • 9.82
   • 8.20
   • 10.90
8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
   • At a point displaced by the full old velocity
   • At the previous validation score
   • At an arbitrary future minibatch
   • At the current parameter position