Тест, свързан с ръководство · Среден Ниво

Тест за планиране на скоростта на обучение

Проверява графици за загряване, косинус и стъпка, поведение при рестартиране, ранна нестабилност и общата тренировъчна рецепта за загряване след това затихване.

Свързани ръководни пътекиПланиране на скоростта на обучение
Въпрос 1 на 8

Каква е целта на фазата на „загряване“ в графика за скорост на обучение?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Каква е целта на фазата на „загряване“ в графика за скорост на обучение?
    • За да започнете с малка скорост и да я увеличавате, като избягвате нестабилност от ранни шумни градиенти
    • За да направите крайната точност по-ниска
    • За да пропуснете първите няколко партиди от данни
    • Да замрази всички тежести в началото
  2. Кой график плавно следва полукосинусова крива надолу към минимална скорост?
    • Постоянен график
    • Косинусно отгряване
    • Произволен график
    • Линейно увеличение
  3. Какво се случва, ако скоростта на обучение е зададена твърде висока?
    • Обучението се събира незабавно с перфектна точност
    • Моделът тренира по-бавно, но винаги успява
    • Загубата може да се разминава или да се колебае, вместо да намалява
    • Нищо не се променя; процентът няма ефект
  4. Какво прави разпадането на стъпките върху скоростта на обучение?
    • Увеличава го линейно всяка партида
    • Поддържа го идеално постоянно
    • Задава го произволно на всяка стъпка
    • Намалява го с фиксиран коефициент в предварително зададени епохи
  5. What does a warm restart do to a learning-rate schedule?
    • It raises the learning rate again to begin another schedule cycle
    • It resets the model parameters to random values
    • It permanently fixes the learning rate at zero
    • It deletes the optimizer’s moment estimates
  6. In Goyal et al.’s large-minibatch ImageNet setup, what did their warmup scheme address?
    • It removed the need for a validation set
    • It eased early optimization difficulties after the learning-rate scale increased with batch size
    • It changed the model architecture after each epoch
    • It converted the learning-rate curve into a cosine wave
  7. In the cosine formula, what does T denote?
    • The number of model layers
    • Размерът на партидата
    • The schedule horizon or total number of steps used for the decay
    • The optimizer’s momentum coefficient
  8. If the cosine schedule uses lr_min greater than zero, where does the rate approach at the end of the horizon?
    • Exactly zero regardless of lr_min
    • The original warmup starting rate
    • An unbounded value
    • The specified minimum learning rate