Ağırlık Azalması ve L2 Düzenlileştirme Sınavı

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. L2 düzenlemesi kayıp fonksiyonuna ne katar?
   • Ağdaki katman sayısı
   • Öğrenme oranına ceza
   • Eğitim örneklerinin sayısı
   • Ağırlıkların karelerinin toplamı ile orantılı bir ceza
2. Kilo kaybının önlenmesine yardımcı olan temel sorun nedir?
   • Yavaş veri yükleme
   • Modelin eğitim verilerindeki gürültüyü ezberlediği aşırı uyum
   • Donanım arızaları
   • Yanlış etiketler
3. Ağırlık azalması modelin ağırlıklarını hangi yöne iter?
   • Sonsuzluğa doğru
   • En büyük ağırlığa doğru
   • Sıfıra doğru
   • Rastgele değerlere doğru
4. AdamW neden tanıtıldı?
   • Ağırlık azalmasının uyarlanabilir gradyan güncellemesinden ayrılması, böylece bozunmanın doğru şekilde davranması
   • Degradeyi tamamen kaldırmak için
   • Antrenmanı bilerek yavaşlatmak
   • Öğrenme oranına olan ihtiyacı ortadan kaldırmak için
5. Düz stokastik gradyan inişi için L2 düzenlemesi ve ağırlık azalması nasıl ilişkilidir?
   • Onlar her zaman zıttır
   • Matematiksel olarak eşdeğerdirler
   • Ağırlık azalması degradeyi devre dışı bırakır
   • L2 yalnızca ivmeli SGD için çalışır
6. L2 düzenlemesinde lambda katsayısı neyi kontrol eder?
   • Toplu iş boyutu
   • Dönem sayısı
   • Etkinleştirme işlevi
   • Büyük ağırlıklarda cezanın gücü
7. Why can adding an L2 term to Adam’s loss differ from applying decoupled weight decay?
   • Adaptive per-parameter gradient scaling can distort the coupled penalty
   • Adam cannot train with any regularization
   • The two methods use different training labels
   • Decoupled decay removes the data loss
8. In a simple decoupled update, what changes the fractional shrinkage of a weight?
   • Only the number of classes
   • Only the model’s input dimension
   • The learning rate and decay coefficient together
   • Only the validation-set size