Kuis Decoding Kontrastif

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Dalam penguraian kode kontrastif, peran apa yang dimainkan oleh model 'amatir' kecil?
   • Probabilitas lognya dikurangi untuk menekan mode kegagalan bersama
   • Ini menghasilkan teks keluaran akhir secara langsung
   • Ini disesuaikan dengan kesalahan ahli
   • Ia menggantikan ahli ketika ahli tersebut tidak yakin
2. Mengapa mengurangi probabilitas amatir mengurangi pengulangan dan hasil yang hambar?
   • Amatir dilatih untuk tidak pernah mengulangi kata-kata
   • Token generik dan berulang disukai oleh kedua model, sehingga kontrasnya membatalkannya
   • Amatir menghapus token duplikat setelah generasi
   • Pengulangan tidak mungkin dilakukan setelah dua model memilih
3. What does the adaptive plausibility constraint do in contrastive decoding?
   • It guarantees every remaining continuation is coherent and true
   • It replaces the expert distribution with the amateur distribution
   • It filters out candidates whose expert probability is too low relative to the expert’s top token
   • It forces every token to have equal probability
4. Kira-kira bagaimana rumus penilaian pada decoding kontrastif?
   • log p_amateur dikurangi log p_expert
   • p_ahli kali p_amatir
   • Rata-rata dari dua probabilitas
   • log p_expert dikurangi koefisien dikalikan log p_amateur
5. Keuntungan praktis utama dari decoding kontrastif adalah:
   • Bekerja pada waktu inferensi tanpa pelatihan tambahan
   • Memerlukan pelatihan ulang kedua model secara bersamaan
   • Hanya bekerja pada tugas klasifikasi
   • Menghilangkan kebutuhan akan model yang besar
6. Metode manakah yang selanjutnya memperluas gagasan kontras ke lapisan model tunggal?
   • Pencarian balok
   • DoLa, yang membedakan lapisan awal dan lapisan akhir
   • Penguraian kode yang serakah
   • Penskalaan suhu
7. The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
   • 0,4
   • 0,1
   • 0.04
   • 0.004
8. Why can contrastive decoding require more inference work than using the expert model alone?
   • It must retrain both models for every prompt
   • It replaces the vocabulary with image patches
   • It runs only the amateur model
   • It scores candidates with both an expert and an amateur model at inference time