Kuiz Gradien Dipercepatkan Nesterov

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Apakah idea yang menentukan Kecerunan Dipercepatkan Nesterov berbanding dengan momentum klasik?
   • Ia menghilangkan momentum sepenuhnya
   • Ia menggunakan kadar pembelajaran tetap 1.0
   • Ia menilai kecerunan pada titik pandang ke hadapan dan bukannya kedudukan semasa
   • Ia hanya berfungsi tanpa kumpulan mini
2. Apakah kadar penumpuan yang boleh dibuktikan yang dicapai oleh kaedah Nesterov pada masalah cembung licin?
   • Pesanan 1/k^2
   • Pesanan 1/k
   • Pesanan 1/log k
   • Tiada kadar terjamin
3. Siapa yang mula-mula memperkenalkan kaedah kecerunan dipercepatkan ini?
   • Geoffrey Hinton pada tahun 2012
   • Isaac Newton
   • John von Neumann
   • Yurii Nesterov pada tahun 1983
4. Mengapakah kecerunan pandangan ke hadapan membantu berhampiran minima melengkung?
   • Ia meningkatkan kadar pembelajaran
   • Ia menjangkakan overshoot dan menggunakan pembetulan sebelum ia berlaku
   • Ia memadamkan istilah halaju
   • Ia secara rawak arah langkah
5. Dalam amalan, bagaimanakah kos pengiraan momentum Nesterov berbanding dengan momentum klasik?
   • Kira-kira sama, terima kasih kepada kemas kini yang disusun semula secara algebra
   • Kira-kira sepuluh kali lebih tinggi
   • Ia memerlukan derivatif kedua setiap langkah
   • Ia tidak boleh dikira pada GPU
6. Pengoptimum adaptif manakah yang menggabungkan pandangan ke hadapan Nesterov dengan penskalaan gaya Adam?
   • RMSprop
   • Adagrad
   • Nadam
   • LBFGS
7. Using the stated look-ahead form, theta = 10, learning rate = 0.1, beta = 0.9 and velocity = 2 give which evaluation point?
   • 10.18
   • 9.82
   • 8.20
   • 10.90
8. If beta is zero in the guide’s Nesterov look-ahead formula, where is the gradient evaluated?
   • At a point displaced by the full old velocity
   • At the previous validation score
   • At an arbitrary future minibatch
   • At the current parameter position