가이드 연계 퀴즈 · 중간 레벨
Perplexity 및 언어 측정항목 퀴즈
참조 토큰 가능성, 교차 엔트로피, 균일한 기준선, 비교 가능한 토큰화, BLEU, 품질 제한, 컨텍스트 창 및 마스크된 모델을 검토합니다.
질문 1 의 8
Under the same autoregressive text-scoring setup, what does lower perplexity indicate?
모든 질문 미리보기8 질문
퀴즈를 풀면 정답과 설명이 나타납니다.
- Under the same autoregressive text-scoring setup, what does lower perplexity indicate?
- Lower average negative log-likelihood for the reference tokens
- A guarantee of more factually correct generated answers
- A guarantee of a larger parameter count
- A requirement that every top-choice prediction be correct
- Using natural-log negative log-likelihood, how is autoregressive perplexity computed from its average?
- By multiplying the parameter count by the context length
- By subtracting the average from the number of attention heads
- By taking the average learning rate
- By exponentiating the average negative log-likelihood
- 모델은 학습 없이 10,000 단어 어휘 전체에 균일한 확률을 할당합니다. 그 당혹감은 무엇입니까?
- 1
- 10,000
- 0
- 100
- Why do tokenizer and corpus settings matter when directly comparing per-token perplexity values?
- Perplexity ignores every scored reference token
- All corpora necessarily produce the same likelihood
- They change the units or reference data over which probabilities are averaged
- Only model parameter count determines the score
- Which translation-reference metric uses modified n-gram precision and a brevity penalty?
- Perplexity
- 평균 제곱 픽셀 오류
- 모델의 매개변수 개수
- 블루
- 연구자들이 실제 품질을 판단하는 데 어려움을 겪게 만드는 주요 제한 사항은 무엇입니까?
- Perplexity는 출력이 유용한지, 사실인지, 유용한지 여부가 아니라 다음 단어 예측을 측정합니다.
- Perplexity은(는) 계산 비용이 너무 높습니다.
- Perplexity은(는) 텍스트 데이터에서는 계산할 수 없습니다.
- Perplexity은 훈련이 아닌 추론 중에만 작동합니다.
- When scoring a long text with a fixed-context model, what can a sliding-window procedure provide that disjoint chunks lose near boundaries?
- A new vocabulary learned automatically at every boundary
- A guarantee that generated answers are factually correct
- More preceding context for the scored target tokens
- A requirement to count each overlapping target repeatedly
- Why is conventional left-to-right perplexity not directly the same score for a BERT-style masked language model?
- BERT has no learned parameters
- The masked model does not directly define the same autoregressive sequence factorization
- Every masked-token probability is necessarily zero
- Perplexity is defined only for image pixels