Вікторина, пов’язана з посібником · Середній Рівень

Тест про циклічне навчання

Перевіряє трикутні цикли швидкості навчання, тест діапазону, поведінку імпульсу та різницю між повторними циклами та одноцикловим навчанням.

Пов'язані напрямні шляхиЦиклічні темпи навчання
Питання 1 з 8

Яке основне припущення ставить під сумнів циклічне навчання?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Яке основне припущення ставить під сумнів циклічне навчання?
    • Швидкість навчання повинна тільки зменшуватися під час навчання
    • Цей розмір партії повинен залишатися постійним
    • Ці моделі потребують GPU
    • Ці дані потрібно перетасувати
  2. What did Smith report for cyclical learning rates on tested classification tasks?
    • They always lowered training loss to zero
    • They improved accuracy versus fixed rates, often in fewer iterations
    • They removed the need for validation data
    • They guaranteed escape from every sharp minimum
  3. Що робить «тест діапазону LR»?
    • Вимірює використання пам'яті GPU
    • Підраховує кількість параметрів моделі
    • Збільшує швидкість навчання, спостерігаючи за втратою, щоб вибрати правильні межі
    • Тестує модель на даних, що не розповсюджуються
  4. Як зазвичай поводиться імпульс відносно швидкості навчання в політиці одного циклу?
    • Імпульс залишається незмінним
    • Імпульс весь час дорівнює нулю
    • Імпульс зростає точно в ногу зі швидкістю
    • Імпульс рухається обернено — високий, коли курс низький, і низький, коли курс високий
  5. During a triangular cyclical learning-rate cycle, how does the rate move between its bounds?
    • It rises from the base rate to the maximum, then falls back toward the base
    • It only decreases from the first step
    • It stays fixed at the maximum
    • It jumps randomly at every minibatch
  6. Хто запровадив циклічні темпи навчання та тест діапазону LR?
    • Джеффрі Хінтон
    • Леслі Сміт
    • Ян ЛеКун
    • Андрій Карпатий
  7. What sets the duration of a cyclical learning-rate cycle?
    • The number of model layers
    • Розмір словникового запасу
    • A chosen number of training iterations for the up-and-down pattern
    • The number of optimizer parameters
  8. What distinguishes the one-cycle policy from repeating several triangular cycles?
    • It keeps the learning rate constant throughout
    • It removes the optimizer’s momentum
    • It measures the learning rate only once
    • It uses one long learning-rate cycle for the training run