Глоссарий терминов искусственного интеллекта

Что такое Модель человеческих предпочтений?

Определение

Модель, обученная на человеческом рейтинге, чтобы предсказать, какие ответы пользователи, скорее всего, предпочтут.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Обучение с подкреплением на основе обратной связи с человеком (RLHF)Метод обучения, который использует сигналы человеческих предпочтений для формирования поведения модели.Человек в курсеРабочий процесс, в котором люди проверяют, направляют или игнорируют результаты ИИ.AGI (Общий искусственный интеллект)Гипотетическая система искусственного интеллекта, способная выполнять большинство интеллектуальных задач на человеческом уровне во многих областях.Выравнивание ИИРабота по обеспечению поведения систем ИИ в соответствии с человеческими намерениями, ценностями и ограничениями безопасности.Алгоритмическая прозрачностьНасколько четко документированы и понятны логика, источники данных и ограничения системы ИИ.АннотацияДобавленные человеком метки или метаданные, используемые для обучения или оценки моделей машинного обучения.

Узнайте больше в наших бесплатных руководствах.

AI Models ExplainedModel CollapseModel LifecycleHuman-AI Collaboration

См. также

Guarded DecodingInference EndpointGroundednessKnowledge BaseFeature StoreLatent SpaceEval HarnessModel Registry