Kuiz berkaitan panduan · Sederhana Tahap
Kuiz Kawalan Penalti Ulangan dan Penyahkodan
Bandingkan suhu, top-k, top-p dan penalti ulangan, termasuk cara logit berubah sebelum pensampelan dalam aliran kerja penjanaan LLM.
soalan 1 daripada 8
Apakah yang meningkatkan parameter 'suhu' lakukan kepada output model?
Pratonton setiap soalan8 soalan
Jawapan dan penjelasan muncul semasa anda mengambil kuiz.
- Apakah yang meningkatkan parameter 'suhu' lakukan kepada output model?
- Menjadikannya lebih rawak dan pelbagai
- Menjadikannya lebih deterministik dan fokus
- Mengubah berat model secara kekal
- Mempercepatkan penjanaan
- Bagaimanakah pensampelan top-p (nukleus) menentukan token yang perlu dipertimbangkan?
- Ia menyimpan bilangan token tetap tanpa mengira kebarangkalian
- Ia menyimpan set terkecil token yang kebarangkaliannya berjumlah ambang
- Ia hanya menyimpan satu token yang berkemungkinan besar
- Ia menyimpan token dengan kebarangkalian melebihi 50%
- Pada peringkat apakah penalti ulangan biasanya bertindak?
- Pada teks mentah selepas generasi
- Mengenai data latihan
- Pada logit sebelum softmax
- Pada perbendaharaan kata tokenizer
- In OpenAI’s text-generation API, how do presence and frequency penalties differ?
- Skala penalti kehadiran dengan kiraan token; penalti kekerapan adalah rata
- Mereka adalah sama
- Kedua-duanya hanya digunakan pada token pertama
- Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
- For code completion where deterministic sampling is desired, which setting best matches the guide?
- Suhu hampir sifar
- Suhu yang sangat tinggi
- Penalti ulangan tinggi melebihi 2.0
- P atas 1.0 dengan suhu tinggi
- Apakah yang dilakukan oleh pensampelan top-k?
- Menyimpan token menjumlahkan kepada kebarangkalian k
- Menyimpan hanya token yang paling berkemungkinan sebagai calon
- Mendarab semua logit dengan k
- Mengalih keluar token yang paling tidak berkemungkinan daripada latihan
- With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
- It sets every repeated-token logit to zero
- It adds the penalty to every token equally
- It divides a positive logit by the penalty and multiplies a negative logit by it
- It removes the token from the vocabulary permanently
- How does top-k differ from top-p sampling?
- Top-k uses cumulative probability while top-p fixes a count
- Top-k changes model weights while top-p changes the tokenizer
- They are both deterministic decoding methods
- Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set