Mirostat Perplexity 제어 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. Mirostat은 생성 과정에서 무엇을 제어하려고 하나요?
   • A target level of output perplexity or surprise
   • 모델 매개변수의 수
   • The training dataset size
   • GPU 온도
2. Mirostat는 표준 top-k 또는 top-p 샘플링과 근본적으로 어떻게 다릅니까?
   • 결코 무작위성을 사용하지 않습니다.
   • 고정된 컷오프 대신 피드백을 사용하여 잘림을 동적으로 조정합니다.
   • 이미지에서만 작동합니다.
   • 모델 재교육이 필요합니다.
3. Mirostat에서 eta 매개변수는 어떤 역할을 합니까?
   • 어휘 크기를 설정합니다.
   • 출력 길이를 고정합니다.
   • 임계값이 얼마나 빨리 적응하는지 제어하는 학습 속도입니다.
   • 샘플링을 비활성화합니다.
4. 버전 1에 비해 Mirostat 버전 2의 주요 개선 사항은 무엇입니까?
   • 이미지도 생성됩니다
   • 더 많은 메모리가 필요합니다.
   • 타우 매개변수를 제거합니다.
   • 더 간단하고 강력한 제어를 위해 Zipfian 분포의 가정을 삭제합니다.
5. Mirostat는 출력이 너무 예측 가능해지고 있음을 감지하면 다음을 수행합니다.
   • 더 다양한 토큰을 허용하기 위해 잘림을 느슨하게 합니다.
   • 더 적은 수의 토큰을 허용하도록 잘림을 강화합니다.
   • 즉시 생성 중지
   • 모델 크기 늘리기
6. 현재 llama.cpp가 노출하는 Mirostat 설정은 무엇인가요?
   • Tokenizer vocabulary and number of layers
   • Mode, target tau, and learning-rate eta
   • Only the prompt length
   • Training epochs and validation loss
7. What does eta control in Mirostat’s feedback update?
   • The size of the model vocabulary
   • The target number of output tokens
   • How strongly the threshold changes in response to the observed error
   • The probability of a correct factual answer
8. What does a Mirostat target not guarantee by itself?
   • That the sampler reads token probabilities
   • That the setting can influence surprise
   • That the output contains tokens
   • That the generated text is factually correct