Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Penyahkodan Kontrastif

Menguji pemarkahan pakar-amatur, penindasan token kongsi, penapisan kebolehpercayaan, penggunaan masa penyahkodan dan penilaian penjanaan kontrastif.

Laluan panduan yang berkaitanPenyahkodan Kontrastif
soalan 1 daripada 8

Dalam penyahkodan kontras, apakah peranan yang dimainkan oleh model 'amatur' kecil?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Dalam penyahkodan kontras, apakah peranan yang dimainkan oleh model 'amatur' kecil?
    • Kebarangkalian lognya ditolak untuk menyekat mod kegagalan dikongsi
    • Ia menjana teks output akhir secara langsung
    • Ia diperhalusi atas kesilapan pakar
    • Ia menggantikan pakar apabila pakar tidak pasti
  2. Mengapakah penolakan kebarangkalian amatur mengurangkan pengulangan dan keluaran hambar?
    • Orang amatur dilatih untuk tidak mengulangi perkataan
    • Token generik dan berulang digemari oleh kedua-dua model, jadi kontras membatalkannya
    • Amatur memadamkan token pendua selepas generasi
    • Pengulangan adalah mustahil apabila dua model mengundi
  3. What does the adaptive plausibility constraint do in contrastive decoding?
    • It guarantees every remaining continuation is coherent and true
    • It replaces the expert distribution with the amateur distribution
    • It filters out candidates whose expert probability is too low relative to the expert’s top token
    • It forces every token to have equal probability
  4. Secara kasar apakah formula pemarkahan dalam penyahkodan kontrastif?
    • log p_amatur tolak log p_expert
    • p_pakar kali p_amatur
    • Purata dua kebarangkalian
    • log p_expert tolak pekali kali log p_amatur
  5. Kelebihan praktikal utama penyahkodan kontrastif ialah ia:
    • Berfungsi pada masa inferens tanpa latihan tambahan
    • Memerlukan latihan semula kedua-dua model secara bersama
    • Hanya berfungsi pada tugas klasifikasi
    • Menghapuskan keperluan untuk model besar
  6. Kaedah kemudian yang manakah memanjangkan idea kontras kepada lapisan model tunggal?
    • Carian rasuk
    • DoLa, yang membezakan lapisan awal berbanding lapisan lewat
    • Penyahkodan tamak
    • Penskalaan suhu
  7. The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
    • 0.4
    • 0.1
    • 0.04
    • 0.004
  8. Why can contrastive decoding require more inference work than using the expert model alone?
    • It must retrain both models for every prompt
    • It replaces the vocabulary with image patches
    • It runs only the amateur model
    • It scores candidates with both an expert and an amateur model at inference time