Kuiz Model Memaksa Guru dalam Urutan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

1. Semasa guru memaksa, apakah yang disuap sebagai input pada setiap langkah penyahkodan?
   • Token kebenaran tanah sebelumnya
   • Ramalan model itu sendiri sebelum ini
   • Token rawak
   • Token keluaran akhir
2. During teacher-forced training, what target is paired with decoder input y_(t−1)?
   • The previous ground-truth token
   • The next target token y_t
   • A token sampled from the validation set
   • The maximum-probability output from an earlier training run
3. Ketidakpadanan ujian kereta api yang disebabkan oleh paksaan guru dikenali sebagai:
   • Kecerunan yang hilang
   • Mod runtuh
   • Bias pendedahan
   • Kebocoran label
4. Dalam penyahkod Transformer, apakah mekanisme yang membolehkan latihan paksa guru berjalan selari merentasi kedudukan?
   • Keciciran
   • Normalisasi kelompok
   • Carian rasuk
   • Topeng perhatian sebab (pandang ke hadapan).
5. Pada masa inferens, mengapa paksaan guru tidak boleh digunakan?
   • Tiada token masa depan yang benar untuk diberi makan
   • Fungsi kehilangan tidak tersedia
   • GPU terlalu perlahan
   • Topeng perhatian dilumpuhkan
6. Kerugian manakah yang biasanya digunakan pada setiap langkah semasa latihan paksa guru?
   • Min ralat kuasa dua pada logit mentah
   • Entropi silang antara pengedaran yang diramalkan dan token seterusnya yang benar
   • Kehilangan engsel pada benam
   • Kehilangan persamaan kosinus
7. The target sequence is “red, blue, green.” Under teacher forcing, which token is supplied when training the prediction of “green”?
   • The model’s prediction for “green”
   • The future token after “green”
   • The ground-truth previous token “blue”
   • A randomly sampled vocabulary item
8. At decoder position t, which tokens must a causal attention mask block?
   • The source sequence
   • All earlier target tokens
   • The current position’s own input
   • Target tokens at positions later than t