Dizi Modelleri Testinde Öğretmen Zorlaması

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Öğretmen zorlaması sırasında, her kod çözme adımında girdi olarak ne beslenir?
   • Temel gerçeklik önceki belirteci
   • Modelin önceki tahmini
   • Rastgele bir jeton
   • Son çıktı jetonu
2. During teacher-forced training, what target is paired with decoder input y_(t−1)?
   • The previous ground-truth token
   • The next target token y_t
   • A token sampled from the validation set
   • The maximum-probability output from an earlier training run
3. Öğretmenin zorlamasından kaynaklanan tren-test uyumsuzluğu şu şekilde bilinir:
   • Kaybolan degradeler
   • Mod çöküşü
   • Pozlama yanlılığı
   • Etiket sızıntısı
4. Bir Transformer kod çözücüde, hangi mekanizma öğretmenin zorunlu kıldığı eğitimin pozisyonlar arasında paralel olarak yürütülmesini sağlar?
   • Bırakma
   • Toplu normalleştirme
   • Işın arama
   • Nedensel (ileriye bakan) bir dikkat maskesi
5. Çıkarım zamanında neden öğretmen zorlaması kullanılamaz?
   • Beslenecek gerçekçi gelecek tokenları yok
   • Kayıp işlevi kullanılamıyor
   • GPU çok yavaş
   • Dikkat maskeleri devre dışı
6. Öğretmen zorlamalı eğitim sırasında her adımda tipik olarak hangi kayıp kullanılır?
   • Ham logitlerde ortalama kare hatası
   • Tahmin edilen dağılım ile gerçek sonraki belirteç arasındaki çapraz entropi
   • Gömmelerde menteşe kaybı
   • Kosinüs benzerlik kaybı
7. The target sequence is “red, blue, green.” Under teacher forcing, which token is supplied when training the prediction of “green”?
   • The model’s prediction for “green”
   • The future token after “green”
   • The ground-truth previous token “blue”
   • A randomly sampled vocabulary item
8. At decoder position t, which tokens must a causal attention mask block?
   • The source sequence
   • All earlier target tokens
   • The current position’s own input
   • Target tokens at positions later than t