Gids-gekoppelde quiz · Moeilijk Niveau

Speculatieve bemonsteringsverificatiequiz

Test exacte speculatieve steekproeven, acceptatie- en correctiekansen, conceptkosten en beperkingen op de prestatieclaims.

Vraag 1 van 8

Wat is het kernidee achter speculatieve sampling?

Bekijk elke vraag8 vragen

Antwoorden en uitleg verschijnen terwijl je de quiz doet.

  1. Wat is het kernidee achter speculatieve sampling?
    • Gebruik een klein conceptmodel om meerdere tokens voor te stellen die een groot model parallel verifieert
    • Train een gigantisch model om lagen dynamisch over te slaan
    • Cache elke mogelijke zin vooraf
    • Vervang sampling door hebzuchtige decodering om tijd te besparen
  2. Waarom verslechtert speculatieve bemonstering de uitvoerkwaliteit niet?
    • Omdat het conceptmodel altijd correct is
    • Omdat de verificatieregel de uiteindelijke verdeling identiek maakt aan een pure doelsteekproef
    • Omdat het alleen werkt bij korte aanwijzingen
    • Omdat het de outputs van de twee modellen gemiddeld
  3. Wat gebeurt er bij exacte speculatieve steekproeven als een opgesteld token wordt afgewezen?
    • Het voert het afgewezen concepttoken onveranderd uit
    • Het verwijdert het hele gesprek en start opnieuw
    • Het algoritme neemt monsters van een gecorrigeerde restverdeling op die positie
    • Het verandert permanent het doelmodel
  4. Wat is er bij exacte speculatieve steekproeven gegarandeerd over de outputverdeling?
    • Het is altijd deterministisch
    • Het komt in plaats daarvan overeen met de distributie van het conceptmodel
    • Het is diverser dan elke output van het doelmodel
    • Het komt overeen met de steekproefverdeling van het doelmodel
  5. Welke informatie biedt de doelverificatiepas bij exacte speculatieve steekproeven?
    • Doelkansen voor voorgestelde posities, gebruikt voor acceptatietests en resterende herbemonstering
    • Een garantie dat er geen doelmodelberekening nodig is
    • Alleen de next-token-distributie van het conceptmodel
    • A corrected token sequence without any sampling
  6. Which description correctly distinguishes two self-speculative approaches?
    • Both use only an unrelated small draft model
    • Medusa adds prediction heads, while EAGLE uses feature-space proposals
    • Medusa is a tokenizer and EAGLE is a reward model
    • Both remove the target model from decoding
  7. The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
    • 0.2
    • 0.4
    • 0,5
    • 1,0
  8. What most limits speculative sampling’s realized speedup?
    • The color of the model’s interface
    • The target model’s name length
    • Whether the prompt contains punctuation
    • The draft-model cost and how much proposed work the target accepts