ما هو الهروب من السجن?

العمل على جعل أنظمة الذكاء الاصطناعي تتصرف وفقًا للنوايا البشرية والقيم وقيود السلامة.

مجال يركز على الحد من السلوك الضار والفشل ومخاطر سوء الاستخدام في أنظمة الذكاء الاصطناعي.

قدرة النموذج على اتباع الأنماط من الأمثلة المقدمة مباشرة في الموجه.

وثائق تصف الاستخدام المقصود للنموذج والمقاييس والقيود والمخاطر.

تعليمات الإدخال والسياق المقدم للنموذج التوليدي.

يطالب التصميم بتحسين جودة المخرجات والموثوقية وإمكانية التحكم.