Что такое побег из тюрьмы?

Работа по обеспечению поведения систем ИИ в соответствии с человеческими намерениями, ценностями и ограничениями безопасности.

Область, ориентированная на снижение вредного поведения, сбоев и рисков неправильного использования в системах искусственного интеллекта.

Способность модели следовать шаблонам из примеров, представленных непосредственно в подсказке.

Документация, описывающая предполагаемое использование модели, показатели, ограничения и риски.

Входные инструкции и контекст, предоставленные генеративной модели.

Проектирование подсказок по повышению качества продукции, надежности и управляемости.