سلامة الذكاء الاصطناعي

سلامة الذكاء الاصطناعي هي المجال الذي يركز على منع أنظمة الذكاء الاصطناعي من التسبب في أضرار جسيمة - بدءًا من الإخفاقات اليومية وسوء الاستخدام وحتى المخاطر الكارثية والوجودية من الأنظمة المتقدمة ذات القدرة العالية.

تمتد سلامة الذكاء الاصطناعي إلى نطاق واسع. فمن ناحية، هناك مخاطر مألوفة تتعلق بالمنتج: الهلوسة، والتحيز، وتسريبات الخصوصية، وعمليات الاحتيال، والنصائح غير الآمنة. وعلى الطرف الآخر هناك المخاطر التي تنمو مع القدرة: الأنظمة المستقلة التي تسعى إلى تحقيق أهداف غير مقصودة، والنماذج التي تساعد في إساءة الاستخدام الكارثية (مسببات الأمراض، والهجمات السيبرانية)، والسباقات التنافسية التي تضغط على المختبرات لنشرها قبل أن تصبح أعمال السلامة جاهزة. تركز مناقشات المخاطر الوجودية على احتمال أن تصبح أنظمة الذكاء الاصطناعي المستقبلية قوية بما يكفي بحيث يمكن لفشل واحد - اختلال التوافق، أو فقدان السيطرة، أو الانتشار الذي لا رجعة فيه - أن يؤدي إلى تقليص مستقبل البشرية بشكل دائم. لا تحتاج إلى تعيين احتمالية عالية لهذه النتيجة لتأخذ البحث على محمل الجد؛ ولا تزال المخاطر ذات الاحتمالية المنخفضة والتأثيرات الشديدة تبرر الاستعداد لها، تماما كما هي الحال في مجالي الأمن البيولوجي والسلامة النووية. يتضمن العمل العملي في مجال السلامة اليوم التقييمات، وتشكيل الفرق الحمراء، وقابلية التفسير، وتقنيات التحكم، والحوكمة (من يمكنه تدريب ماذا)، والفهم العام حتى تتمكن المجتمعات من دعم السياسة الجيدة.