ガイド連動クイズ · 中 レベル
ラベル スムージング クイズ
平滑化されたターゲットとイプシロン、タスク依存のキャリブレーション効果、蒸留のトレードオフ、および結果がデータと目的に依存する理由について説明します。
質問 1 の 8
ラベルのスムージングはトレーニング ターゲットに関して何を変更しますか?
すべての質問をプレビューする8 質問
クイズに答えると、答えと解説が表示されます。
- ラベルのスムージングはトレーニング ターゲットに関して何を変更しますか?
- ワンホット ターゲットをソフト化するため、実際のクラスは 1.0 未満になり、他のクラスは 0 をわずかに上回るようになります。
- 損失関数を削除します
- 間違ったクラスを削除します
- 学習率が2倍になります
- 平滑化パラメータイプシロンの一般的な値は次のとおりです。
- 0.9
- 0.1
- 5.0
- 0.0
- What is one intended effect of replacing hard one-hot targets with smoothed targets?
- Force every class to have equal probability
- Guarantee the largest possible logit for the true class
- Avoid requiring the labeled class to receive a target probability of exactly one
- Remove the need for labeled training data
- Which landmark architectures are prominent examples of label-smoothing use?
- AlexNet and LeNet only
- ResNet-50 and VGG only
- アルファ碁とアルファゼロ
- Inception-v3 とトランスフォーマー
- What can label smoothing do to calibration?
- It can improve calibration in some settings, but the effect is task- and model-dependent
- It guarantees perfect calibration for every classifier
- It cannot affect predicted probabilities
- It always makes confidence equal accuracy
- 文書化されたラベル スムージングの欠点は何ですか?
- 常に精度が低下します
- クラス間の細かい類似性が消去され、知識の蒸留が損なわれる可能性があります
- 2 倍のトレーニング データが必要です
- テキストでのみ機能します
- Why can label smoothing complicate knowledge distillation?
- It converts every class label into an image
- It forces the student to use a different tokenizer
- It can remove information in logits about similarities among incorrect classes
- It prevents the teacher from producing logits
- What should a practitioner verify when comparing label-smoothing implementations?
- Whether the model has a web browser
- Whether training uses a validation filename
- Whether logits are stored as text
- Whether epsilon is distributed over all classes or only the non-target classes