Тест щодо планування темпів навчання

Відповіді та пояснення з’являються під час виконання тесту.

1. Яка мета фази «розминки» в розкладі курсу навчання?
   • Почати з невеликої швидкості та наростати, уникаючи нестабільності через ранні шумні градієнти
   • Щоб кінцева точність була нижчою
   • Щоб пропустити перші кілька пакетів даних
   • Щоб заморозити всі ваги на старті
2. Який графік плавно слідує напівкосинусній кривій у напрямку до мінімальної ставки?
   • Постійний графік
   • Косинусний відпал
   • Випадковий розклад
   • Лінійне збільшення
3. Що станеться, якщо швидкість навчання буде занадто високою?
   • Навчання миттєво сходиться з ідеальною точністю
   • Модель тренується повільніше, але завжди вдається
   • Втрата може розходитися або коливатися замість того, щоб зменшуватися
   • Нічого не змінюється; ставка не впливає
4. Що затухання впливає на швидкість навчання?
   • Лінійно збільшує кожну партію
   • Зберігає його ідеально постійним
   • Встановлює його випадковим чином на кожному кроці
   • Зменшує його на фіксований коефіцієнт у попередньо визначені епохи
5. What does a warm restart do to a learning-rate schedule?
   • It raises the learning rate again to begin another schedule cycle
   • It resets the model parameters to random values
   • It permanently fixes the learning rate at zero
   • It deletes the optimizer’s moment estimates
6. In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
   • It removed the need for a validation set
   • It eased early optimization difficulties after the learning-rate scale increased with batch size
   • It changed the model architecture after each epoch
   • It converted the learning-rate curve into a cosine wave
7. In the cosine formula, what does T denote?
   • The number of model layers
   • Розмір партії
   • The schedule horizon or total number of steps used for the decay
   • The optimizer’s momentum coefficient
8. If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
   • Exactly zero regardless of lr_min
   • The original warmup starting rate
   • An unbounded value
   • The specified minimum learning rate