Вікторина, пов’язана з посібником · Середній Рівень
Тест про згладжування міток
Охоплює згладжені цілі та епсилон, залежні від завдання ефекти калібрування, компроміси дистиляції та чому результати залежать від даних і цілі.
Питання 1 з 8
Що змінює згладжування міток щодо навчальних цілей?
Перегляньте кожне запитання8 запитання
Відповіді та пояснення з’являються під час виконання тесту.
- Що змінює згладжування міток щодо навчальних цілей?
- Він пом’якшує одноразові цілі, тому справжній клас нижче 1,0, а інші – трохи вище 0
- Він знімає функцію втрат
- Він видаляє неправильні класи
- Це подвоює швидкість навчання
- Загальне значення для параметра згладжування епсилон таке:
- 0,9
- 0,1
- 5.0
- 0,0
- What is one intended effect of replacing hard one-hot targets with smoothed targets?
- Force every class to have equal probability
- Guarantee the largest possible logit for the true class
- Avoid requiring the labeled class to receive a target probability of exactly one
- Remove the need for labeled training data
- Which landmark architectures are prominent examples of label-smoothing use?
- AlexNet and LeNet only
- ResNet-50 and VGG only
- AlphaGo і AlphaZero
- Inception-v3 і Transformer
- What can label smoothing do to calibration?
- It can improve calibration in some settings, but the effect is task- and model-dependent
- It guarantees perfect calibration for every classifier
- It cannot affect predicted probabilities
- It always makes confidence equal accuracy
- Який задокументований недолік згладжування міток?
- Це завжди знижує точність
- Це може стерти тонку подібність між класами, зашкодивши дистиляції знань
- Для цього потрібно вдвічі більше даних для навчання
- Він працює лише з текстом
- Why can label smoothing complicate knowledge distillation?
- It converts every class label into an image
- It forces the student to use a different tokenizer
- It can remove information in logits about similarities among incorrect classes
- It prevents the teacher from producing logits
- What should a practitioner verify when comparing label-smoothing implementations?
- Whether the model has a web browser
- Whether training uses a validation filename
- Whether logits are stored as text
- Whether epsilon is distributed over all classes or only the non-target classes