가이드 연계 퀴즈 · 하드 레벨
일반적인 샘플링 퀴즈
일반적인 놀라움, 엔트로피 기반 순위, 일반_p 질량 임계값, 확률 순위 상위 p 샘플링과의 차이를 확인합니다.
질문 1 의 8
일반적인 샘플링은 각 후보 토큰을 어떤 핵심 수량과 비교합니까?
모든 질문 미리보기8 질문
퀴즈를 풀면 정답과 설명이 나타납니다.
- 일반적인 샘플링은 각 후보 토큰을 어떤 핵심 수량과 비교합니까?
- 분포의 예상 정보 내용(엔트로피)
- 모델의 전체 어휘 크기
- 문장에서 토큰의 위치
- 온도 매개변수만
- 일반적인 샘플링은 가장 가능성이 높은 단일 토큰을 어떻게 처리합니까?
- 항상 먼저 선택합니다.
- 놀라움이 기대값보다 훨씬 낮을 경우 제외될 수 있습니다.
- 확률이 두 배로 늘어납니다
- 확률을 완전히 무시한다
- 일반적인 샘플링은 인간 언어에 대한 어떤 생각에 의해 동기가 부여되었습니까?
- 인간은 항상 가장 희귀한 단어를 선택합니다
- 인간은 결코 단어를 반복하지 않습니다
- 인간은 거의 일정한 속도로 정보를 전달합니다.
- 인간은 고정된 길이의 문장으로 말한다
- 일반적인 샘플링 제어에서 타우 매개변수는 무엇입니까?
- 훈련 중 학습률
- 모델의 레이어 수
- 최대 문장 길이
- 일반 세트에 수집된 누적 확률 질량
- Compared with greedy decoding, what does typical sampling try to change?
- It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
- It always selects the most probable token
- It guarantees every continuation is factually correct
- It removes probability scores from decoding
- 어떤 종류의 소프트웨어에서 일반적인 샘플링이 개발자에게 일반적으로 노출됩니까?
- 스프레드시트 애플리케이션
- Hugging Face Transformers와 같은 오픈 소스 LLM 추론 라이브러리
- 이미지 편집 도구
- 데이터베이스 쿼리 엔진
- How does typical sampling rank candidate tokens differently from top-p sampling?
- By alphabetical order of token strings
- By token position in the prompt
- By distance between token surprisal and expected surprisal, rather than probability rank alone
- By the model’s training loss
- Which value does typical_p control?
- The model’s vocabulary size
- The number of transformer layers
- The probability that the answer is factually correct
- The target cumulative probability mass collected in the typical set