Викторина, связанная с руководством · Средний Уровень

Викторина по сглаживанию этикеток

Охватывает сглаженные цели и эпсилон, эффекты калибровки, зависящие от задачи, компромиссы при дистилляции, а также объясняет, почему результаты зависят от данных и цели.

Связанные направляющие путиСглаживание меток
Вопрос 1 из 8

Что сглаживание меток меняет в тренировочных целях?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Что сглаживание меток меняет в тренировочных целях?
    • Он смягчает «горячие» цели, поэтому истинный класс ниже 1,0, а другие — немного выше 0.
    • Удаляет функцию потерь
    • Он удаляет неправильные классы
    • Это удваивает скорость обучения
  2. Обычное значение параметра сглаживания эпсилон:
    • 0,9
    • 0,1
    • 5.0
    • 0,0
  3. What is one intended effect of replacing hard one-hot targets with smoothed targets?
    • Force every class to have equal probability
    • Guarantee the largest possible logit for the true class
    • Avoid requiring the labeled class to receive a target probability of exactly one
    • Remove the need for labeled training data
  4. Which landmark architectures are prominent examples of label-smoothing use?
    • AlexNet and LeNet only
    • ResNet-50 and VGG only
    • АльфаГо и АльфаЗеро
    • Начало-v3 и Трансформер
  5. What can label smoothing do to calibration?
    • It can improve calibration in some settings, but the effect is task- and model-dependent
    • It guarantees perfect calibration for every classifier
    • It cannot affect predicted probabilities
    • It always makes confidence equal accuracy
  6. Каков документально подтвержденный недостаток сглаживания меток?
    • Это всегда снижает точность
    • Это может стереть тонкое сходство между классами, навредив процессу дистилляции знаний.
    • Требуется вдвое больше обучающих данных
    • Работает только с текстом
  7. Why can label smoothing complicate knowledge distillation?
    • It converts every class label into an image
    • It forces the student to use a different tokenizer
    • It can remove information in logits about similarities among incorrect classes
    • It prevents the teacher from producing logits
  8. What should a practitioner verify when comparing label-smoothing implementations?
    • Whether the model has a web browser
    • Whether training uses a validation filename
    • Whether logits are stored as text
    • Whether epsilon is distributed over all classes or only the non-target classes