가이드 연계 퀴즈 · 하드 레벨

예측 디코딩 퀴즈

미리보기 분기, Jacobi 반복, 캐시된 N-그램, 대상 확인 및 순차적 디코딩 단계 감소에 따른 계산 절충을 검토합니다.

관련 가이드 경로예측 디코딩
질문 1 의 8

예측 디코딩과 표준 추측 디코딩의 차이점은 무엇입니까?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. 예측 디코딩과 표준 추측 디코딩의 차이점은 무엇입니까?
    • 두 개의 개별적으로 훈련된 모델이 필요합니다.
    • 별도의 초안 모델을 사용하지 않고 대상 모델 자체만 사용합니다.
    • 번역 작업에만 작동합니다.
    • 모델을 영구적으로 양자화합니다.
  2. 예측 디코딩을 뒷받침하는 수치적 방법은 무엇입니까?
    • 경사하강법
    • 푸리에 변환
    • K-평균 클러스터링
    • 야코비(고정 소수점) 반복
  3. 각 단계에서 실행되는 두 개의 병렬 분기는 무엇입니까?
    • 훈련 브랜치와 테스트 브랜치
    • 인코더와 디코더
    • 예측 분기와 검증 분기
    • 초안 모델과 대상 모델
  4. 'n-gram pool'에는 무엇이 저장되나요?
    • 병렬 반복 중에 보이는 그럴듯한 멀티 토큰 시퀀스
    • 사용자의 채팅 기록
    • 모델 가중치
    • 주의 마스크
  5. What supports correctness when lookahead decoding commits a guessed n-gram prefix?
    • Using the same model makes every unverified guess correct
    • Every candidate in the n-gram pool must be committed
    • Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
    • A larger window proves the generated statements are true
  6. What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
    • Candidate generation uses no compute or memory
    • Additional parallel work may offset the benefit of fewer sequential passes
    • Every larger window must lower wall-clock latency
    • The target weights are automatically compressed to zero size
  7. Why should a lookahead candidate remain provisional until target verification?
    • Parallel iteration guesses can differ from the target's valid continuation
    • Every cached n-gram has already been proven correct by storage alone
    • The lookahead branch permanently changes the target weights
    • Verification is needed only to determine the output filename
  8. Does a standard training-free lookahead iteration update the target model's learned weights?
    • Yes; each candidate applies a gradient update to every parameter
    • Yes; verified n-grams become a new training dataset immediately
    • Only the tokenizer's vocabulary is retrained at every step
    • No; it changes candidate token states and verifies outputs while keeping the model weights fixed