Викторина по регуляризации

Ответы и пояснения появляются по мере прохождения теста.

1. Why would a practitioner add regularization when a model fits training-specific noise?
   • To guarantee zero training error
   • To remove the need for validation data
   • To guarantee a faster GPU kernel
   • To discourage overfitting and evaluate whether unseen-data performance improves
2. Какой метод регуляризации с наибольшей вероятностью сведет некоторые веса точно к нулю, эффективно выбирая признаки?
   • Регуляризация L2 (уменьшение веса)
   • Регуляризация L1
   • Пакетная нормализация
   • Увеличение скорости обучения
3. Как отсев регуляризует нейронную сеть во время обучения?
   • Он навсегда удаляет слои из сети.
   • Он добавляет квадраты весов к функции потерь.
   • На каждом этапе он случайным образом отключает нейроны, чтобы они не могли адаптироваться друг к другу.
   • Он прекращает обучение, когда возрастает потеря проверки.
4. Что делает увеличение лямбды в регуляризованной потере «ошибка + лямбда × штраф»?
   • Усиливает штраф, подталкивая модель к более простым решениям.
   • Ослабляет штраф и позволяет использовать больший вес.
   • Полностью удаляет термин ошибки
   • Не влияет на вес
5. Почему раннюю остановку можно считать формой регуляризации?
   • Потому что это добавляет штраф к потере веса.
   • Потому что обучение прекращается до того, как модель начнет подгонять шум к данным.
   • Потому что со временем емкость модели увеличивается.
   • Потому что он случайным образом удаляет нейроны
6. What can happen when regularization is strengthened beyond what a task needs?
   • Both training and test accuracy must improve
   • The penalty becomes unrelated to the objective
   • Validation becomes unnecessary
   • The model can underfit useful structure even if variance decreases
7. For a regularization example with weights minus two and one, what are the unscaled L1 and sum-of-squares L2 penalties?
   • L1 is three and L2 is five
   • L1 is minus one and L2 is three
   • L1 is five and L2 is three
   • Both penalties are minus two
8. A regularized objective has prediction error two, lambda one-half, and penalty six. What is its total value?
   • Восемь
   • Три
   • Пять
   • Один