Обучение Новости Инструм.Вакансии Миссия

Глоссарий терминов искусственного интеллекта

Что такое Обучение с подкреплением на основе обратной связи с человеком (RLHF)?

Определение

Метод обучения, который использует сигналы человеческих предпочтений для формирования поведения модели.

Просмотрите полный глоссарий AI Изучите все бесплатные руководства по искусственному интеллекту

Обучение с подкреплениемОбучение с помощью сигналов вознаграждения, когда агент учится действиям, которые максимизируют долгосрочную отдачу.Модель вознагражденияМодель, которая оценивает выходные данные на основе сигналов предпочтений, часто используется в конвейерах RLHF.DPO (прямая оптимизация предпочтений)Метод обучения, который настраивает модели непосредственно на парах предпочтений без необходимости использования отдельной модели вознаграждения.Постоянное обучениеПодходы к обучению, которые позволяют модели продолжать обучение на новых данных, не забывая при этом предыдущие знания.Обучение в несколько этаповОбучение или адаптация поведения лишь на небольшом количестве примеров.Модель ДрифтаСнижение производительности со временем, поскольку реальные условия отличаются от предположений обучения.

Узнайте больше в наших бесплатных руководствах.

Deep Learning Reinforcement Learning Machine Learning Basics Supervised Learning

См. также

Retrieval Red Teaming Recommendation System Robustness Recall Safety Filter RAG (Retrieval-Augmented Generation)Scaling Law