Test legat de ghid · Mediu Nivel

Test de decodare contrastantă

Testează scorul expert-amator, suprimarea token-ului partajat, filtrarea plauzibilității, utilizarea timpului de decodare și evaluarea generării contrastive.

Căi de ghidare aferenteDecodificare contrastantă
Întrebare 1 de 8

În decodificarea contrastivă, ce rol joacă micul model „amator”?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. În decodificarea contrastivă, ce rol joacă micul model „amator”?
    • Probabilitățile sale de log sunt scăzute pentru a suprima modurile de eșec partajate
    • Acesta generează direct textul final de ieșire
    • Este reglat fin pe greșelile expertului
    • Acesta înlocuiește expertul atunci când expertul este incert
  2. De ce scăderea probabilităților amatorului reduce repetarea și producția fadă?
    • Amatorul este antrenat să nu repete niciodată cuvintele
    • Tokenurile generice și repetitive sunt favorizate de ambele modele, așa că contrastul le anulează
    • Amatorul șterge jetoanele duplicat după generație
    • Repetarea este imposibilă odată ce două modele votează
  3. What does the adaptive plausibility constraint do in contrastive decoding?
    • It guarantees every remaining continuation is coherent and true
    • It replaces the expert distribution with the amateur distribution
    • It filters out candidates whose expert probability is too low relative to the expert’s top token
    • It forces every token to have equal probability
  4. Aproximativ care este formula de scor în decodificarea contrastivă?
    • log p_amateur minus log p_expert
    • p_expert ori p_amateur
    • Media celor două probabilități
    • log p_expert minus un coeficient ori log p_amateur
  5. Un avantaj practic cheie al decodării contrastive este că:
    • Funcționează la timp de inferență fără pregătire suplimentară
    • Necesită recalificarea ambelor modele împreună
    • Funcționează numai la sarcini de clasificare
    • Elimina necesitatea unui model mare
  6. Care metodă ulterioară extinde ideea contrastantă la straturile proprii ale unui singur model?
    • Căutare fascicul
    • DoLa, care contrastează straturile timpurii cu cele târzii
    • Decodare lacomă
    • Scalare de temperatură
  7. The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
    • 0.4
    • 0,1
    • 0.04
    • 0.004
  8. Why can contrastive decoding require more inference work than using the expert model alone?
    • It must retrain both models for every prompt
    • It replaces the vocabulary with image patches
    • It runs only the amateur model
    • It scores candidates with both an expert and an amateur model at inference time