Isınma ve Kosinüs Tavlama Programları Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Antrenman başlangıcındaki ısınma aşamasının temel amacı nedir?
   • Ağırlıkların rastgele olduğu ve eğimlerin gürültülü olduğu erken antrenmanları dengelemek için
   • Toplu iş boyutunu kademeli olarak artırmak için
   • Modelin alt katmanlarını dondurmak için
   • Daha hızlı çıkarım için modeli sıkıştırmak için
2. Kosinüs tavlaması hangi şekle göre öğrenme oranını bozar?
   • Düz bir çapraz çizgi
   • Yüksekten başlayan, hafifleyen ve sıfıra yakın düzleşen bir kosinüs eğrisi
   • Sabit dönemlerde düşen bir adım fonksiyonu
   • Yukarıya doğru üstel bir artış
3. Varyans tahminleri başlangıçta güvenilmez olduğundan hangi optimize edici ısınmadan özellikle yararlanır?
   • Momentumsuz düz SGD
   • Izgara araması
   • Adem ve çeşitleri
   • K-anlamına gelir
4. Kosinüs formülünde T neyi temsil eder?
   • Örnekleme için modelin sıcaklığı
   • Kullanılan GPU sayısı
   • Tokenizer kelime boyutu
   • Programdaki toplam eğitim adımı sayısı
5. In the guide’s warmup-plus-cosine schedule, what begins after warmup reaches its target rate?
   • Cosine decay begins from the peak learning rate
   • All model weights are reset
   • The schedule switches to a constant zero rate
   • Momentum is removed from every optimizer
6. A linear warmup rises from zero to its target rate over 200 steps. About what rate is used halfway through?
   • The full target rate
   • About half of the target rate
   • The learning rate is exactly zero
   • Twice the target rate
7. At the cosine horizon t = T, what multiplier does the guide’s cosine formula produce?
   • Bir
   • One-half
   • Sıfır
   • It becomes negative one
8. Why use a gradual cosine decay after warmup rather than abruptly setting the rate to zero?
   • It guarantees a global minimum
   • It increases the model’s parameter count
   • It removes the need to check training loss
   • It lets the rate ease down so optimization can settle gradually