Pencarian Sinar Terpandu dengan Kuis Kendala

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa yang disimpan oleh pencarian sinar biasa pada setiap langkah generasi?
   • Urutan parsial paling mungkin di k teratas
   • Hanya satu token yang paling mungkin
   • Semua urutan yang mungkin
   • Sampel urutan acak
2. Bagaimana metode yang dibatasi secara leksikal seperti Grid Beam Search mengatur balok?
   • Berdasarkan panjang keluaran saja
   • Berdasarkan berapa banyak batasan yang diperlukan yang telah dipenuhi oleh setiap balok
   • Berdasarkan abjad
   • Hanya berdasarkan kepercayaan diri sang model
3. Dalam decoding yang dibatasi tata bahasa, bagaimana cara mencegah keluaran yang tidak valid?
   • Dengan menghapus token buruk dari generasi ke generasi
   • Dengan melatih ulang model menggunakan contoh yang valid
   • Dengan menutupi probabilitas token sehingga hanya token dengan tata bahasa yang valid yang diperbolehkan
   • Dengan menurunkan suhu
4. Masalah apa yang dipecahkan oleh Alokasi Sinar Dinamis?
   • Ini menghilangkan kebutuhan akan batasan
   • Itu membuat modelnya lebih besar
   • Ini menghilangkan pencarian sinar sepenuhnya
   • Ini secara efisien membagi slot sinar di seluruh tingkat kemajuan kendala
5. When can grammar-constrained decoding produce syntactically valid JSON?
   • When the grammar constraint is enforced through completion and the output is not truncated
   • Whenever JSON is mentioned in the prompt
   • Even if the runtime stops before required closing tokens
   • Regardless of whether the active grammar matches the intended schema
6. Mengapa batasan yang sulit dapat menggantikan rangkaian yang baik tanpa penanganan khusus?
   • Mereka membuat semua balok menjadi identik
   • Sinar dengan probabilitas tinggi yang mengabaikan batasan dapat mendominasi k teratas
   • Mereka memperlambat GPU
   • Mereka meningkatkan ukuran kosa kata
7. A lexical constraint requires a translation to include “bridge” and “river.” What does constrained beam search enforce?
   • The output has exactly two words
   • The model uses only one beam
   • The completed output includes the required terms
   • The translation is factually accurate
8. A grammar-constrained generator returns JSON that parses successfully. What does that not establish by itself?
   • That the output follows the grammar
   • That required fields can be present
   • That the syntax is valid
   • That the values are factually correct or appropriate for the application