Kuis Pengambilan Sampel Inti dan Top-k

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Bagaimana pengambilan sampel top-k membatasi pilihan token?
   • Itu hanya menyimpan k token dengan probabilitas tertinggi, lalu mengambil sampel di antara mereka
   • Itu menyimpan token sampai probabilitas kumulatif melebihi k
   • Itu selalu memilih satu token yang paling mungkin
   • Ini hanya menghapus k token yang paling kecil kemungkinannya
2. Apa yang mendefinisikan 'inti' dalam pengambilan sampel inti (p-atas)?
   • K kata yang paling sering digunakan dalam data pelatihan
   • Kumpulan token terkecil yang probabilitasnya berjumlah setidaknya p
   • Token tunggal dengan probabilitas tertinggi
   • Semua token dengan probabilitas di atas 50%
3. Apa keunggulan utama top-p dibandingkan top-k?
   • Itu selalu lebih cepat untuk menghitung
   • Itu tidak pernah menghasilkan keluaran acak
   • Jumlah token kandidat menyesuaikan dengan keyakinan model
   • Ini mengabaikan probabilitas token
4. Apa yang dilakukan parameter suhu sebelum pengambilan sampel?
   • Ini menetapkan panjang urutan maksimum
   • Ini memilih bahasa keluaran
   • Ini menghitung ukuran kosakata
   • Ini mengubah skala distribusi probabilitas menjadi lebih tajam atau datar
5. What result did the nucleus-sampling paper report for its tested open-ended generation tasks?
   • It improved diversity without sacrificing fluency and coherence in the reported comparisons
   • It guaranteed factual correctness in every output
   • It eliminated all sampling randomness
   • It improved translation quality on every benchmark
6. For a greedy decoding baseline with no token sampling, how should generation be configured?
   • Disable sampling and use greedy decoding to select the highest-probability token at each step
   • Use high temperature and a large nucleus threshold
   • Randomize the temperature at every step
   • Keep sampling enabled but increase top-p
7. After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
   • They remain assigned their original total mass below one
   • They are replaced with equal probabilities
   • They are renormalized over the retained top-k tokens
   • They are converted into beam-search scores
8. What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
   • It always yields the most diverse human-like passages
   • Ini menghilangkan kebutuhan akan model bahasa
   • It guarantees factual correctness
   • It can produce bland and repetitive text despite strong likelihood scores