Nesterov Hızlandırılmış Gradyan Sınavı

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Klasik momentumla karşılaştırıldığında Nesterov Hızlandırılmış Gradyan'ın tanımlayıcı fikri nedir?
   • Momentumu tamamen ortadan kaldırır
   • 1,0 sabit öğrenme oranı kullanır
   • Mevcut konum yerine ilerideki bir noktada eğimi değerlendirir
   • Yalnızca mini gruplar olmadan çalışır
2. Nesterov'un yöntemi düzgün dışbükey problemlerde hangi kanıtlanabilir yakınsama oranına ulaşıyor?
   • Sipariş 1/k^2
   • Sipariş 1/k
   • Sipariş 1/günlük k
   • Garantili oran yok
3. Bu hızlandırılmış gradyan yöntemini ilk olarak kim tanıttı?
   • 2012 yılında Geoffrey Hinton
   • Isaac Newton
   • John von Neumann
   • 1983 yılında Yuriy Nesterov
4. İleriye doğru eğim neden kavisli minimumlara yaklaşmaya yardımcı oluyor?
   • Öğrenme oranını artırır
   • Aşmayı tahmin eder ve gerçekleşmeden önce bir düzeltme uygular
   • Hız terimini siler
   • Adım yönünü rastgele seçer
5. Pratikte Nesterov momentumunun hesaplama maliyeti klasik momentumla karşılaştırıldığında nasıldır?
   • Cebirsel olarak yeniden düzenlenen güncelleme sayesinde hemen hemen aynı
   • Yaklaşık on kat daha yüksek
   • Her adımda ikinci türev gerektirir
   • GPU'larda hesaplanamaz
6. Hangi uyarlamalı optimize edici, Nesterov'un ileriye dönük bakış açısını Adam tarzı ölçeklendirmeyle birleştirir?
   • RMS prop
   • Adagrad
   • Nadam
   • LBFGS
7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
   • 10.18
   • 9.82
   • 8.20
   • 10.90
8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
   • At a point displaced by the full old velocity
   • At the previous validation score
   • At an arbitrary future minibatch
   • At the current parameter position