Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Kawalan Penalti Ulangan dan Penyahkodan

Bandingkan suhu, top-k, top-p dan penalti ulangan, termasuk cara logit berubah sebelum pensampelan dalam aliran kerja penjanaan LLM.

Laluan panduan yang berkaitanPenalti Ulangan Dan Kawalan Penyahkodan
soalan 1 daripada 8

Apakah yang meningkatkan parameter 'suhu' lakukan kepada output model?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah yang meningkatkan parameter 'suhu' lakukan kepada output model?
    • Menjadikannya lebih rawak dan pelbagai
    • Menjadikannya lebih deterministik dan fokus
    • Mengubah berat model secara kekal
    • Mempercepatkan penjanaan
  2. Bagaimanakah pensampelan top-p (nukleus) menentukan token yang perlu dipertimbangkan?
    • Ia menyimpan bilangan token tetap tanpa mengira kebarangkalian
    • Ia menyimpan set terkecil token yang kebarangkaliannya berjumlah ambang
    • Ia hanya menyimpan satu token yang berkemungkinan besar
    • Ia menyimpan token dengan kebarangkalian melebihi 50%
  3. Pada peringkat apakah penalti ulangan biasanya bertindak?
    • Pada teks mentah selepas generasi
    • Mengenai data latihan
    • Pada logit sebelum softmax
    • Pada perbendaharaan kata tokenizer
  4. In OpenAI’s text-generation API, how do presence and frequency penalties differ?
    • Skala penalti kehadiran dengan kiraan token; penalti kekerapan adalah rata
    • Mereka adalah sama
    • Kedua-duanya hanya digunakan pada token pertama
    • Frequency penalty scales with how often a token appeared; presence penalty applies once if it appeared at all
  5. For code completion where deterministic sampling is desired, which setting best matches the guide?
    • Suhu hampir sifar
    • Suhu yang sangat tinggi
    • Penalti ulangan tinggi melebihi 2.0
    • P atas 1.0 dengan suhu tinggi
  6. Apakah yang dilakukan oleh pensampelan top-k?
    • Menyimpan token menjumlahkan kepada kebarangkalian k
    • Menyimpan hanya token yang paling berkemungkinan sebagai calon
    • Mendarab semua logit dengan k
    • Mengalih keluar token yang paling tidak berkemungkinan daripada latihan
  7. With a repetition penalty above 1, how does a standard logits processor adjust a previously seen token?
    • It sets every repeated-token logit to zero
    • It adds the penalty to every token equally
    • It divides a positive logit by the penalty and multiplies a negative logit by it
    • It removes the token from the vocabulary permanently
  8. How does top-k differ from top-p sampling?
    • Top-k uses cumulative probability while top-p fixes a count
    • Top-k changes model weights while top-p changes the tokenizer
    • They are both deterministic decoding methods
    • Top-k keeps a fixed number of candidates; top-p keeps a probability-mass-based set