Викторина по отсеву и стохастической регуляризации

Ответы и пояснения появляются по мере прохождения теста.

1. Что делает отсев во время обучения?
   • Удаляет веса навсегда
   • Случайным образом устанавливает часть выходов нейронов на ноль при каждом прямом проходе.
   • Удваивает скорость обучения
   • Добавляет больше слоев в сеть
2. Почему отсев улучшает обобщение?
   • Увеличивает количество параметров
   • Это устраняет необходимость в обучающих данных
   • Это гарантирует нулевую ошибку обучения
   • Это предотвращает совместную адаптацию нейронов и вызывает избыточные, надежные представления.
3. Что происходит с отсевом во время тестирования (вывода)?
   • Он выключен и используется вся сеть
   • Он теряет еще больше нейронов
   • Удаляет половину весов
   • Он рандомизирует метки
4. Что примерно означает показатель отсева p = 0,5 в слое во время обучения?
   • Все нейроны удалены.
   • Нейроны не затронуты
   • Около половины нейронов обнуляются при каждом проходе
   • Слой удален.
5. Что такое отсев часто называют аппроксимацией?
   • Одна линейная регрессия
   • Дерево решений
   • Преобразование Фурье
   • Ансамбль множества прореженных сетей, имеющих общий вес.
6. Для чего используется дропаут Монте-Карло?
   • Ускорение загрузки данных
   • Оценка неопределенности модели путем сохранения активности отсева при выводе
   • Сжатие сети до меньшего веса
   • Автоматическая маркировка данных обучения
7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
   • The keep probability becomes exactly zero
   • Inference always averages new random masks
   • Surviving activations were already scaled during training
   • Every weight is divided by the number of layers
8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
   • New random masks sample different subnetworks on each pass
   • The input changes its label by itself
   • The network has no trained weights
   • Batch size must be one