Глоссарий терминов искусственного интеллекта

Что такое побег из тюрьмы?

Определение

Быстрый метод, предназначенный для обхода ограничений безопасности модели.

Просмотрите полный глоссарий AIИзучите все бесплатные руководства по искусственному интеллекту

Связанные термины

Выравнивание ИИРабота по обеспечению поведения систем ИИ в соответствии с человеческими намерениями, ценностями и ограничениями безопасности.Безопасность ИИОбласть, ориентированная на снижение вредного поведения, сбоев и рисков неправильного использования в системах искусственного интеллекта.Контекстное обучениеСпособность модели следовать шаблонам из примеров, представленных непосредственно в подсказке.Модель картыДокументация, описывающая предполагаемое использование модели, показатели, ограничения и риски.ПодскажитеВходные инструкции и контекст, предоставленные генеративной модели.Prompt EngineeringПроектирование подсказок по повышению качества продукции, надежности и управляемости.

Узнайте больше в наших бесплатных руководствах.

Jailbreaking and Red-Teaming

См. также

Intent ClassificationKnowledge CutoffInstruction TuningKnowledge DistillationInference-Time ComputeKnowledge GraphInferenceLabel Smoothing