Gids-gekoppelde quiz · Moeilijk Niveau
Speculatieve bemonsteringsverificatiequiz
Test exacte speculatieve steekproeven, acceptatie- en correctiekansen, conceptkosten en beperkingen op de prestatieclaims.
Vraag 1 van 8
Wat is het kernidee achter speculatieve sampling?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat is het kernidee achter speculatieve sampling?
- Gebruik een klein conceptmodel om meerdere tokens voor te stellen die een groot model parallel verifieert
- Train een gigantisch model om lagen dynamisch over te slaan
- Cache elke mogelijke zin vooraf
- Vervang sampling door hebzuchtige decodering om tijd te besparen
- Waarom verslechtert speculatieve bemonstering de uitvoerkwaliteit niet?
- Omdat het conceptmodel altijd correct is
- Omdat de verificatieregel de uiteindelijke verdeling identiek maakt aan een pure doelsteekproef
- Omdat het alleen werkt bij korte aanwijzingen
- Omdat het de outputs van de twee modellen gemiddeld
- Wat gebeurt er bij exacte speculatieve steekproeven als een opgesteld token wordt afgewezen?
- Het voert het afgewezen concepttoken onveranderd uit
- Het verwijdert het hele gesprek en start opnieuw
- Het algoritme neemt monsters van een gecorrigeerde restverdeling op die positie
- Het verandert permanent het doelmodel
- Wat is er bij exacte speculatieve steekproeven gegarandeerd over de outputverdeling?
- Het is altijd deterministisch
- Het komt in plaats daarvan overeen met de distributie van het conceptmodel
- Het is diverser dan elke output van het doelmodel
- Het komt overeen met de steekproefverdeling van het doelmodel
- Welke informatie biedt de doelverificatiepas bij exacte speculatieve steekproeven?
- Doelkansen voor voorgestelde posities, gebruikt voor acceptatietests en resterende herbemonstering
- Een garantie dat er geen doelmodelberekening nodig is
- Alleen de next-token-distributie van het conceptmodel
- A corrected token sequence without any sampling
- Which description correctly distinguishes two self-speculative approaches?
- Both use only an unrelated small draft model
- Medusa adds prediction heads, while EAGLE uses feature-space proposals
- Medusa is a tokenizer and EAGLE is a reward model
- Both remove the target model from decoding
- The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
- 0.2
- 0.4
- 0,5
- 1,0
- What most limits speculative sampling’s realized speedup?
- The color of the model’s interface
- The target model’s name length
- Whether the prompt contains punctuation
- The draft-model cost and how much proposed work the target accepts