Вікторина, пов’язана з посібником · важко Рівень

Тест «Явище подвійного спуску».

Перегляньте подвійний спад поблизу інтерполяції та те, як це явище може змінюватися залежно від розміру моделі, розміру набору даних і тривалості навчання.

Пов'язані напрямні шляхиФеномен подвійного спуску
Питання 1 з 8

Де помилка тесту зазвичай досягає максимуму на кривій подвійного спуску?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Де помилка тесту зазвичай досягає максимуму на кривій подвійного спуску?
    • На порозі інтерполяції, де модель просто відповідає всім навчальним даним
    • На самому початку навчання з невеликими параметрами
    • Тільки після мільярдів параметрів
    • Помилка тесту ніколи не досягає піку; падає монотонно
  2. Що відбувається з помилкою тестування, коли модель стає сильно параметризованою?
    • Нескінченно піднімається через переобладнання
    • Він може знову знизитися, часто нижче класичного мінімуму
    • Він залишається рівним
    • Воно стає випадковим і непередбачуваним
  3. In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. «Епохально» подвійний спад відноситься до ефекту, який виникає як функція чого?
    • Кількість використовуваних графічних процесорів
    • Тільки курс навчання
    • Розмір тестового набору
    • Час навчання (кількість епох)
  5. Яка класична ідея кидає виклик подвійному походження?
    • U-подібний компроміс дисперсії зміщення
    • Зворотне поширення
    • Стохастичний градієнтний спуск
    • Правило ланцюжка
  6. Хто допоміг популяризувати та формалізувати криву подвійного спуску у 2019 році?
    • Ньютон і Лейбніц
    • Бєлкін, Хсу, Ма та Мандал
    • Тюрінг і Черч
    • Лише анонімні конкуренти Kaggle
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size