Глоссарий терминов искусственного интеллекта

Что такое Предохранительный фильтр?

Определение

Уровень модерации, который блокирует или перезаписывает небезопасные входные или выходные данные модели.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Контролируемое обучениеОбучение модели с помощью размеченных примеров, которые сопоставляют входные данные с известными выходными данными.Обоснование безопасностиСтруктурированный аргумент, подкрепленный доказательствами, о том, что система ИИ безопасна для определенного контекста использования.Выравнивание ИИРабота по обеспечению поведения систем ИИ в соответствии с человеческими намерениями, ценностями и ограничениями безопасности.Безопасность ИИОбласть, ориентированная на снижение вредного поведения, сбоев и рисков неправильного использования в системах искусственного интеллекта.Алгоритмическое смещениеСистематическая несправедливость в результатах модели, вызванная искажением данных, предположениями или выбором моделирования.Маркировка данныхПроцесс назначения тегов или целевых результатов необработанным данным для контролируемого обучения.

Узнайте больше в наших бесплатных руководствах.

AI SafetySource-Filter Vocoding and WORLDFilterbank and PLP FeaturesSpectral Subtraction and Wiener Filtering

См. также

RobustnessScaling LawReward ModelSemantic SearchRetrievalSelf-Supervised LearningReinforcement Learning from Human Feedback (RLHF)Sentiment Analysis