온도 및 샘플링 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 온도를 높이면 모델 출력에 어떤 영향을 미치나요?
   • 더욱 결정적이고 반복적으로 만듭니다.
   • 모델의 가중치를 영구적으로 변경합니다.
   • 소프트맥스 기능을 비활성화합니다.
   • 특이한 토큰이 나올 확률이 높아져 더욱 무작위적이고 다양해졌습니다.
2. 샘플링하기 전에 모델의 원시 토큰 점수(로지트)는 다음을 통해 확률로 변환됩니다.
   • 탑-K 필터
   • 소프트맥스 함수
   • 역전파
   • 토크나이저
3. top-k와 비교하여 top-p 샘플링에서 후보 세트를 결정하는 것은 무엇입니까?
   • Top-p always keeps exactly ten tokens
   • Both methods always keep every vocabulary token
   • Top-p uses the smallest leading set reaching a cumulative probability threshold; top-k uses a count
   • Top-k uses a cumulative threshold while top-p uses a fixed count
4. 기계적으로 온도는 실제로 로짓에 어떤 영향을 미치나요?
   • 소프트맥스 이전에 각 로짓을 T로 나눕니다.
   • 각 로짓에 난수를 추가합니다.
   • 가장 낮은 로짓을 삭제합니다.
   • 최종 확률에 T를 곱합니다.
5. 구조화된 데이터 작업의 경우 더 예측 가능한 토큰 선택을 선택하면 무엇을 설정할 수 없나요?
   • That a decoding setting was chosen
   • That the generated content is correct or valid
   • That token scores can be compared
   • That a model can produce an output
6. 그리디 디코딩은 어떻게 다음 토큰을 선택하나요?
   • It literally divides every logit by zero
   • It uniformly samples every vocabulary token
   • It permanently retrains the model
   • It selects a highest-scoring eligible token rather than sampling
7. Two token logits differ by six before temperature scaling. With positive temperature two, what is their scaled difference?
   • 세
   • 12
   • 여섯
   • 영
8. For probabilities 0.55, 0.30, 0.10, and 0.05, how many leading tokens does top-p 0.80 keep?
   • 하나
   • 세
   • 2개
   • 4개