Тест, свързан с ръководство · Среден Ниво
Тест за изглаждане на етикети
Обхваща изгладени цели и епсилон, зависещи от задачата ефекти на калибриране, компромиси при дестилация и защо резултатите зависят от данните и целта.
Въпрос 1 на 8
Какво променя изглаждането на етикетите относно целите за обучение?
Визуализирайте всеки въпрос8 въпроси
Отговорите и обясненията се появяват, докато отговаряте на теста.
- Какво променя изглаждането на етикетите относно целите за обучение?
- Той омекотява едно-горещите цели, така че истинският клас е под 1.0, а други са малко над 0
- Премахва функцията за загуба
- Изтрива неправилните класове
- Удвоява скоростта на обучение
- Обща стойност за изглаждащия параметър епсилон е:
- 0,9
- 0,1
- 5.0
- 0,0
- What is one intended effect of replacing hard one-hot targets with smoothed targets?
- Force every class to have equal probability
- Guarantee the largest possible logit for the true class
- Avoid requiring the labeled class to receive a target probability of exactly one
- Remove the need for labeled training data
- Which landmark architectures are prominent examples of label-smoothing use?
- AlexNet and LeNet only
- ResNet-50 and VGG only
- AlphaGo и AlphaZero
- Inception-v3 и Трансформаторът
- What can label smoothing do to calibration?
- It can improve calibration in some settings, but the effect is task- and model-dependent
- It guarantees perfect calibration for every classifier
- It cannot affect predicted probabilities
- It always makes confidence equal accuracy
- Какъв е документираният недостатък на изглаждането на етикетите?
- Винаги намалява точността
- Може да изтрие фината прилика между класовете, наранявайки дестилацията на знания
- Изисква два пъти повече данни за обучение
- Работи само върху текст
- Why can label smoothing complicate knowledge distillation?
- It converts every class label into an image
- It forces the student to use a different tokenizer
- It can remove information in logits about similarities among incorrect classes
- It prevents the teacher from producing logits
- What should a practitioner verify when comparing label-smoothing implementations?
- Whether the model has a web browser
- Whether training uses a validation filename
- Whether logits are stored as text
- Whether epsilon is distributed over all classes or only the non-target classes