Глоссарий терминов искусственного интеллекта

Что такое Градиентный спуск?

Определение

Метод оптимизации, который обновляет параметры в направлении, уменьшающем ошибку.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

DPO (прямая оптимизация предпочтений)Метод обучения, который настраивает модели непосредственно на парах предпочтений без необходимости использования отдельной модели вознаграждения.ГрадиентВектор, показывающий, насколько должен измениться каждый параметр, чтобы уменьшить потери.Обратное распространение ошибкиОсновной алгоритм обучения, который обновляет веса модели путем распространения ошибок прогнозирования обратно по сети.ПредвзятостьПостоянная модель ошибок или несправедливости в данных или поведении модели.Сглаживание метокМетод регуляризации, который смягчает жесткие метки для улучшения обобщения.Скорость обученияОбучающий гиперпараметр, контролирующий, насколько параметры изменяются на каждом этапе обновления.

Узнайте больше в наших бесплатных руководствах.

Gradient AccumulationStochastic Gradient Descent with MomentumNesterov Accelerated GradientVanishing and Exploding Gradients

См. также

Ground TruthGenerative AIGuardrailsGeneralizationHallucinationGAN (Generative Adversarial Network)Human-in-the-LoopFunction Calling