Тест, свързан с ръководство · Среден Ниво

Тест за градиентно спускане

Прегледайте обикновена посока на спускане на градиент, стъпки на скоростта на обучение, извадкови градиенти, импулс, адаптация на Адам, числени актуализации и граници на стационарни точки.

Свързани ръководни пътекиГрадиентно спускане
Въпрос 1 на 8

In plain gradient descent, which direction is used relative to the objective's gradient?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. In plain gradient descent, which direction is used relative to the objective's gradient?
    • The negative-gradient direction
    • The positive-gradient direction
    • An arbitrary perpendicular direction by definition
    • A direction chosen without evaluating any gradient
  2. Какво контролира скоростта на обучение?
    • Броят на слоевете в модела
    • Колко класа може да предвиди моделът
    • Размерът на всяка стъпка, предприета по време на оптимизацията
    • Количеството използвани данни за обучение
  3. How does a mini-batch gradient relate to the full selected training-data objective?
    • It uses no examples
    • It is computed on the batch and used as an estimate of the full-data gradient
    • It must equal the full-data gradient on every step
    • It only exists for images
  4. Какъв проблем може да причини твърде висока степен на обучение?
    • Обучението става изключително бавно, но стабилно
    • Моделът игнорира градиента
    • Наборът от данни се поврежда
    • Моделът превишава минимума и може да се разминава
  5. What information does momentum carry into later gradient-descent updates?
    • Only the model's vocabulary size
    • A permanent deletion of all earlier gradients
    • A running weighted combination of earlier gradients
    • An unrelated random reset of every weight
  6. Коя е ключова характеристика на оптимизатора на Adam в сравнение с обикновения градиентен спускане?
    • Той адаптира ефективната скорост на обучение за всеки параметър
    • Той използва една фиксирана стъпка за всеки параметър
    • Не изисква градиенти
    • Той обучава само изходния слой
  7. For plain gradient descent with old weight two, gradient three, and learning rate one-tenth, what is the new weight?
    • Two-point-three
    • One-point-nine-seven
    • три
    • One-point-seven
  8. What does a zero gradient fail to prove for a nonconvex training objective?
    • That the gradient value is zero at the evaluated point
    • That the current point is a global minimum
    • That the objective has been evaluated locally
    • That a stationary-point condition holds