라벨 평활화 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 훈련 목표에 대해 레이블 평활화는 무엇을 변경합니까?
   • 원-핫 대상을 완화하여 실제 클래스는 1.0 미만이고 다른 클래스는 0보다 약간 높도록 합니다.
   • 손실 함수를 제거합니다.
   • 잘못된 수업을 삭제합니다.
   • 학습률이 2배가 됩니다.
2. 평활 매개변수 엡실론의 일반적인 값은 다음과 같습니다.
   • 0.9
   • 0.1
   • 5.0
   • 0.0
3. What is one intended effect of replacing hard one-hot targets with smoothed targets?
   • Force every class to have equal probability
   • Guarantee the largest possible logit for the true class
   • Avoid requiring the labeled class to receive a target probability of exactly one
   • Remove the need for labeled training data
4. Which landmark architectures are prominent examples of label-smoothing use?
   • AlexNet and LeNet only
   • ResNet-50 and VGG only
   • 알파고와 알파제로
   • Inception-v3 및 Transformer
5. What can label smoothing do to calibration?
   • It can improve calibration in some settings, but the effect is task- and model-dependent
   • It guarantees perfect calibration for every classifier
   • It cannot affect predicted probabilities
   • It always makes confidence equal accuracy
6. 라벨 스무딩의 문서화된 단점은 무엇입니까?
   • 항상 정확도가 떨어집니다.
   • 클래스 간 유사성을 잘 지워 지식 증류에 해를 끼칠 수 있습니다.
   • 훈련 데이터의 두 배 필요
   • 텍스트에서만 작동합니다.
7. Why can label smoothing complicate knowledge distillation?
   • It converts every class label into an image
   • It forces the student to use a different tokenizer
   • It can remove information in logits about similarities among incorrect classes
   • It prevents the teacher from producing logits
8. What should a practitioner verify when comparing label-smoothing implementations?
   • Whether the model has a web browser
   • Whether training uses a validation filename
   • Whether logits are stored as text
   • Whether epsilon is distributed over all classes or only the non-target classes