Глоссарий терминов искусственного интеллекта

Что такое Ограждения?

Определение

Правила, проверки и элементы управления, которые ограничивают небезопасное или нежелательное поведение модели.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Безопасность ИИОбласть, ориентированная на снижение вредного поведения, сбоев и рисков неправильного использования в системах искусственного интеллекта.АлгоритмОпределенный набор правил или шагов, которым следует компьютер для решения проблемы или выполнения задачи.ПредвзятостьПостоянная модель ошибок или несправедливости в данных или поведении модели.ОбъясняемостьСтепень, в которой поведение модели можно интерпретировать и объяснить людям.Обучение в несколько этаповОбучение или адаптация поведения лишь на небольшом количестве примеров.Обучение с подкреплением на основе обратной связи с человеком (RLHF)Метод обучения, который использует сигналы человеческих предпочтений для формирования поведения модели.

Узнайте больше в наших бесплатных руководствах.

Guardrails and Output ModerationAgent GuardrailsNVIDIA NeMo GuardrailsAustralia’s Voluntary AI Safety Standard and Guardrails

См. также

Ground TruthHallucinationGradient DescentHuman-in-the-LoopGradientHyperparameterGenerative AIIn-Context Learning