Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Kontrasztív dekódoló kvíz
Tests expert–amateur scoring, shared-token suppression, plausibility filtering, decoding-time use, and evaluation of contrastive generation.
kérdés 1 -ból 8
Milyen szerepet játszik a kontrasztív dekódolásban a kis „amatőr” modell?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Milyen szerepet játszik a kontrasztív dekódolásban a kis „amatőr” modell?
- A naplózási valószínűségeket levonják a megosztott hibamódok elnyomása érdekében
- Közvetlenül generálja a végső kimeneti szöveget
- A szakértő hibáira van finomhangolva
- Leváltja a szakértőt, ha a szakértő bizonytalan
- Miért csökkenti az amatőr valószínűségeinek kivonása az ismétlődést és a unalmas kimenetet?
- Az amatőr arra van kiképezve, hogy soha ne ismételje meg a szavakat
- Az általános és ismétlődő tokeneket mindkét modell előnyben részesíti, így a kontraszt megszünteti őket
- Az amatőr generálás után törli a duplikált tokeneket
- Az ismétlés lehetetlen, ha két modell szavaz
- What does the adaptive plausibility constraint do in contrastive decoding?
- It guarantees every remaining continuation is coherent and true
- It replaces the expert distribution with the amateur distribution
- It filters out candidates whose expert probability is too low relative to the expert’s top token
- It forces every token to have equal probability
- Nagyjából mi a pontozási képlet a kontrasztív dekódolásban?
- log p_amatőr mínusz log p_szakértő
- p_expert times p_amatőr
- A két valószínűség átlaga
- log p_expert mínusz együttható szor log p_amatőr
- A kontrasztív dekódolás egyik legfontosabb gyakorlati előnye, hogy:
- Következtetési időben működik, extra képzés nélkül
- Mindkét modell együttes átképzését igényli
- Csak osztályozási feladatoknál működik
- Kiküszöböli a nagy modellek szükségességét
- Melyik későbbi módszer terjeszti ki a kontrasztív ötletet egyetlen modell saját rétegeire?
- Sugárkeresés
- DoLa, amely szembeállítja a korai és késői rétegeket
- Mohó dekódolás
- Hőmérséklet-skálázás
- The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
- 0.4
- 0.1
- 0.04
- 0.004
- Why can contrastive decoding require more inference work than using the expert model alone?
- It must retrain both models for every prompt
- It replaces the vocabulary with image patches
- It runs only the amateur model
- It scores candidates with both an expert and an amateur model at inference time