Test legat de ghid · Greu Nivel

Test de verificare prin eșantionare speculativă

Testează eșantionarea speculativă exactă, probabilitățile de acceptare și corectare, costurile de proiect și constrângerile privind afirmațiile sale de performanță.

Întrebare 1 de 8

Care este ideea de bază din spatele eșantionării speculative?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Care este ideea de bază din spatele eșantionării speculative?
    • Utilizați un model nefinalizat pentru a propune mai multe jetoane pe care un model mare le verifică în paralel
    • Antrenează un model gigant pentru a sări peste straturi în mod dinamic
    • Memorați în cache fiecare propoziție posibilă în avans
    • Înlocuiți eșantionarea cu decodare lacomă pentru a economisi timp
  2. De ce eșantionarea speculativă nu degradează calitatea ieșirii?
    • Pentru că schița de model este întotdeauna corectă
    • Deoarece regula de verificare face distribuția finală identică cu eșantionarea țintă pură
    • Pentru că funcționează doar pe solicitări scurte
    • Pentru că face media rezultatelor celor două modele
  3. In exact speculative sampling, what happens when a drafted token is rejected?
    • It outputs the rejected draft token unchanged
    • It discards the entire conversation and restarts
    • The algorithm samples from a corrected residual distribution at that position
    • It permanently changes the target model
  4. Under exact speculative sampling, what is guaranteed about the output distribution?
    • It is always deterministic
    • It matches the draft model’s distribution instead
    • It is more diverse than every target-model output
    • It matches the target model’s sampling distribution
  5. What information does the target verification pass provide in exact speculative sampling?
    • Target probabilities for proposed positions, used for acceptance tests and residual resampling
    • A guarantee that no target-model computation is needed
    • Only the draft model’s next-token distribution
    • A corrected token sequence without any sampling
  6. Which description correctly distinguishes two self-speculative approaches?
    • Both use only an unrelated small draft model
    • Medusa adds prediction heads, while EAGLE uses feature-space proposals
    • Medusa is a tokenizer and EAGLE is a reward model
    • Both remove the target model from decoding
  7. The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
    • 0,2
    • 0.4
    • 0,5
    • 1.0
  8. What most limits speculative sampling’s realized speedup?
    • The color of the model’s interface
    • The target model’s name length
    • Whether the prompt contains punctuation
    • The draft-model cost and how much proposed work the target accepts