가이드 연계 퀴즈 · 중간 레벨

메두사 디코딩 헤드 퀴즈

Medusa의 멀티 토큰 예측 헤드, 후보 트리, 트리 주의 검증, 최장 접두사 승인 및 배포 보존을 검토합니다.

관련 가이드 경로메두사 디코딩 헤드
질문 1 의 8

여분의 메두사 머리는 무엇을 예측합니까?

모든 질문 미리보기8 질문

퀴즈를 풀면 정답과 설명이 나타납니다.

  1. 여분의 메두사 머리는 무엇을 예측합니까?
    • 앞으로 다양한 위치에 있는 여러 미래 토큰
    • 모델의 훈련 손실
    • 사용할 GPU
    • 토큰의 이미지 캡션
  2. Under which Medusa configuration does the paper describe lossless inference acceleration?
    • 모델 가중치를 완벽하게 압축합니다.
    • Medusa-1 with a frozen backbone and exact verification against the original model
    • 문법은 절대 틀리지 않아요
    • 어휘의 필요성을 제거합니다.
  3. 검증을 위해 메두사의 후보 연속은 어떤 구조로 배열되어 있나요?
    • 하나씩 점수가 매겨진 단순 목록
    • 해시 테이블
    • 나무 주의 마스크를 사용하여 단일 패스로 득점한 나무
    • 각 토큰에 대한 반복 루프
  4. 초안 모델 추측 디코딩에 비해 Medusa의 주요 장점은 무엇입니까?
    • 두 개의 별도 대형 모델이 필요합니다.
    • 이미지에서만 작동합니다.
    • 사용 후 기본 모델을 삭제합니다.
    • 기존 모델에 헤드를 추가하여 별도의 초안 모델이 필요하지 않습니다.
  5. Medusa는 일반적으로 대략 어느 정도의 속도 향상을 보고합니까?
    • 약 2~3배
    • 약 0.5x(느림)
    • 정확히 100x
    • 측정 가능한 변화 없음
  6. 각 개별 메두사의 머리는 구조적으로 무엇입니까?
    • 완전 복제 변압기
    • 기본 은닉 상태 위에 있는 작은 잔여 피드포워드(MLP) 레이어
    • 컨벌루션 이미지 인코더
    • 별도의 토크나이저
  7. What does Medusa accept from a verified candidate tree?
    • Every speculative branch regardless of verification
    • Only the shortest candidate token
    • The longest prefix consistent with the base model’s decoding result
    • A random leaf from the tree
  8. How do Medusa’s prediction-head offsets differ?
    • Every head predicts the same next token
    • Each head predicts a different vocabulary
    • The heads predict tokens only after decoding is complete
    • Each head predicts a token at a different position ahead in the sequence