가이드 연계 퀴즈 · 하드 레벨

추측 샘플링 검증 퀴즈

정확한 추측 샘플링, 승인 및 수정 확률, 초안 비용, 성능 주장에 대한 제약 조건을 테스트합니다.

관련 가이드 경로추측적 샘플링 검증
질문 1 의 8

추측 샘플링의 핵심 아이디어는 무엇입니까?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. 추측 샘플링의 핵심 아이디어는 무엇입니까?
    • 소규모 초안 모델을 사용하여 대규모 모델이 병렬로 검증하는 여러 토큰을 제안합니다.
    • 레이어를 동적으로 건너뛰도록 하나의 거대한 모델을 훈련합니다.
    • 가능한 모든 문장을 미리 캐시하세요.
    • 시간을 절약하려면 샘플링을 그리디 디코딩으로 대체하세요.
  2. 추측 샘플링이 출력 품질을 저하시키지 않는 이유는 무엇입니까?
    • 초안 모델은 항상 정확하기 때문에
    • 검증 규칙은 최종 분포를 순수 대상 샘플링과 동일하게 만들기 때문에
    • 짧은 프롬프트에서만 작동하기 때문에
    • 두 모델의 출력을 평균화하기 때문입니다.
  3. In exact speculative sampling, what happens when a drafted token is rejected?
    • It outputs the rejected draft token unchanged
    • It discards the entire conversation and restarts
    • The algorithm samples from a corrected residual distribution at that position
    • It permanently changes the target model
  4. Under exact speculative sampling, what is guaranteed about the output distribution?
    • It is always deterministic
    • It matches the draft model’s distribution instead
    • It is more diverse than every target-model output
    • It matches the target model’s sampling distribution
  5. What information does the target verification pass provide in exact speculative sampling?
    • Target probabilities for proposed positions, used for acceptance tests and residual resampling
    • A guarantee that no target-model computation is needed
    • Only the draft model’s next-token distribution
    • A corrected token sequence without any sampling
  6. Which description correctly distinguishes two self-speculative approaches?
    • Both use only an unrelated small draft model
    • Medusa adds prediction heads, while EAGLE uses feature-space proposals
    • Medusa is a tokenizer and EAGLE is a reward model
    • Both remove the target model from decoding
  7. The draft assigns probability 0.8 to a token and the target assigns 0.4. What is the speculative acceptance probability?
    • 0.2
    • 0.4
    • 0.5
    • 1.0
  8. What most limits speculative sampling’s realized speedup?
    • The color of the model’s interface
    • The target model’s name length
    • Whether the prompt contains punctuation
    • The draft-model cost and how much proposed work the target accepts