Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Kontrasztív dekódoló kvíz

Tests expert–amateur scoring, shared-token suppression, plausibility filtering, decoding-time use, and evaluation of contrastive generation.

Kapcsolódó útmutató utakKontrasztív dekódolás
kérdés 1 -ból 8

Milyen szerepet játszik a kontrasztív dekódolásban a kis „amatőr” modell?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Milyen szerepet játszik a kontrasztív dekódolásban a kis „amatőr” modell?
    • A naplózási valószínűségeket levonják a megosztott hibamódok elnyomása érdekében
    • Közvetlenül generálja a végső kimeneti szöveget
    • A szakértő hibáira van finomhangolva
    • Leváltja a szakértőt, ha a szakértő bizonytalan
  2. Miért csökkenti az amatőr valószínűségeinek kivonása az ismétlődést és a unalmas kimenetet?
    • Az amatőr arra van kiképezve, hogy soha ne ismételje meg a szavakat
    • Az általános és ismétlődő tokeneket mindkét modell előnyben részesíti, így a kontraszt megszünteti őket
    • Az amatőr generálás után törli a duplikált tokeneket
    • Az ismétlés lehetetlen, ha két modell szavaz
  3. What does the adaptive plausibility constraint do in contrastive decoding?
    • It guarantees every remaining continuation is coherent and true
    • It replaces the expert distribution with the amateur distribution
    • It filters out candidates whose expert probability is too low relative to the expert’s top token
    • It forces every token to have equal probability
  4. Nagyjából mi a pontozási képlet a kontrasztív dekódolásban?
    • log p_amatőr mínusz log p_szakértő
    • p_expert times p_amatőr
    • A két valószínűség átlaga
    • log p_expert mínusz együttható szor log p_amatőr
  5. A kontrasztív dekódolás egyik legfontosabb gyakorlati előnye, hogy:
    • Következtetési időben működik, extra képzés nélkül
    • Mindkét modell együttes átképzését igényli
    • Csak osztályozási feladatoknál működik
    • Kiküszöböli a nagy modellek szükségességét
  6. Melyik későbbi módszer terjeszti ki a kontrasztív ötletet egyetlen modell saját rétegeire?
    • Sugárkeresés
    • DoLa, amely szembeállítja a korai és késői rétegeket
    • Mohó dekódolás
    • Hőmérséklet-skálázás
  7. The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
    • 0.4
    • 0.1
    • 0.04
    • 0.004
  8. Why can contrastive decoding require more inference work than using the expert model alone?
    • It must retrain both models for every prompt
    • It replaces the vocabulary with image patches
    • It runs only the amateur model
    • It scores candidates with both an expert and an amateur model at inference time