Sonraki Jeton Tahmin Sınavı

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Bir sonraki jeton tahmin modeli her adımda ne çıktı verir?
   • Bir sonraki jeton için kelime dağarcığı üzerindeki olasılık dağılımı
   • Tek bir sabit kelime
   • Cümlenin çevirisi
   • Bir gramer puanı
2. GPT tarzı bir kod çözücü hangi tür dikkati kullanır?
   • Çift yönlü dikkat
   • Gelecekteki belirteçleri gizleyen nedensel (maskeli) dikkat
   • Hiç dikkat yok
   • Rastgele dikkat
3. 'Otoregresif' nesil burada ne anlama geliyor?
   • Model tüm jetonları aynı anda üretiyor
   • Model ortalama değere geriler
   • Her yeni jeton eklenir ve bir sonrakini tahmin etmek için geri beslenir
   • Jetonlar rastgele sırayla oluşturulur
4. Eğitim sırasında tipik olarak hangi kayıp fonksiyonu en aza indirilir?
   • Ortalama kare hatası
   • Menteşe kaybı
   • Kosinüs mesafesi
   • Bir sonraki jetonun çapraz entropisi
5. Numune alma sırasında sıcaklığın yükseltilmesi ne işe yarar?
   • Çıktıyı daha rastgele ve yaratıcı hale getirir
   • Çıktıyı kesinlikle deterministik hale getirir
   • Kelime dağarcığının boyutunu artırır
   • Softmax katmanını kaldırır
6. Tahminden önce ham metin genellikle nasıl hazırlanır?
   • İngilizceye çevrilmiştir
   • Bir tokenizer tarafından tokenlara bölünür
   • Sese dönüştürülür
   • Hiçbir işlem yapılmadan ham karakterler olarak bırakılır
7. During next-token training, what is teacher forcing?
   • The model receives future target tokens before the input
   • The model randomly changes the tokenizer at every step
   • The model receives the ground-truth preceding tokens when predicting the next token
   • The model always samples its own previous prediction during training
8. What mismatch can arise because generation feeds back model-produced tokens?
   • The model can no longer use attention
   • The vocabulary disappears after the first token
   • The model’s loss is computed only on images
   • Errors in generated prefixes can affect later predictions, unlike training on the ground-truth prefix