Глоссарий терминов искусственного интеллекта

Что такое Модель вознаграждения?

Определение

Модель, которая оценивает выходные данные на основе сигналов предпочтений, часто используется в конвейерах RLHF.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Обучение с подкреплением на основе обратной связи с человеком (RLHF)Метод обучения, который использует сигналы человеческих предпочтений для формирования поведения модели.Обучение с подкреплениемОбучение с помощью сигналов вознаграждения, когда агент учится действиям, которые максимизируют долгосрочную отдачу.Основная истинаДоверенные ссылочные метки, используемые для обучения или оценки результатов модели.DPO (прямая оптимизация предпочтений)Метод обучения, который настраивает модели непосредственно на парах предпочтений без необходимости использования отдельной модели вознаграждения.Середина обученияПромежуточный этап обучения между предварительным обучением и постобучением, часто используемый для корректировки возможностей или предметной области.ИИ-агентПрограммная система, которая может наблюдать, рассуждать и предпринимать действия для достижения цели, часто используя инструменты и память.

Узнайте больше в наших бесплатных руководствах.

AI Models ExplainedModel CollapseModel LifecycleModel Context Protocol

См. также

RetrievalRobustnessSafety FilterScaling LawRed TeamingSemantic SearchRecommendation SystemSelf-Supervised Learning