ماذا حدث
وفقًا لبي بي سي، قال جاك كلارك، المؤسس المشارك لـ Anthropic، إن الشركات قد تحتاج في النهاية إلى مطالبتها بالحفاظ على "مفاتيح إيقاف التشغيل" الخاصة بالذكاء الاصطناعي والتي يمكن التحقق منها من قبل أطراف ثالثة مستقلة. وقال كلارك إن معظم مختبرات الذكاء الاصطناعي، بما في ذلك Anthropic، لديها بالفعل طرق لإغلاق الأنظمة، لكنه لم يصف تصميمها الفني أو يقدم دليلاً على التحقق المستقل.
ذكرت هيئة الإذاعة البريطانية (بي بي سي) أن جاك كلارك، أحد مؤسسي Anthropic السبعة، قال إن المجتمع قد يريد في النهاية قواعد تتطلب من شركات الذكاء الاصطناعي أن يكون لديها طريقة لإيقاف تشغيل البرامج تمامًا إذا أصبحت خطيرة للغاية. لقد قام بتأطير المشكلة كجزء من مناقشة سياسة أوسع نطاقًا بدلاً من الإعلان عن منتج أو سياسة Anthropic جديدة.
وقال كلارك لبي بي سي إن "معظم المختبرات لديها طرق مختلفة للتمكن من سحب القابس"، بما في ذلك Anthropic. وتساءل على وجه التحديد عما إذا كان ينبغي أن يُطلب من الشركات أن يكون لديها مفتاح إيقاف وما إذا كان ينبغي التحقق من هذا المفتاح بواسطة طرف ثالث. لا يقدم التقرير أي وصف فني لضوابط Anthropic، ولا يوجد تقييم مستقل، ولا معيار تحقق مقترح.
جاءت هذه التعليقات وسط تجدد الجدل العام حول مخاطر الذكاء الاصطناعي الكارثية وبعد أن دعا الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي ومراقبة التطوير عن كثب. وتشير بي بي سي أيضًا إلى أن المشرعين الأمريكيين اقترحوا قانون Kill Switch الذي سيتطلب طرقًا لإغلاق أدوات الذكاء الاصطناعي المثيرة للمشاكل ومنح وكالات حكومية معينة سلطة المطالبة بإيقاف تشغيل الأدوات أو الحد منها.
ويقول التقرير إن الرئيس الأمريكي دونالد ترامب رفض محاولات إبطاء تطوير الذكاء الاصطناعي. ويشير أيضًا إلى أن بعض الشخصيات في الصناعة تعتقد أن المخاوف بشأن انقراض الإنسان بسبب الذكاء الاصطناعي مبالغ فيها أو قد يكون المقصود منها إثارة الضجيج. توفر ردود الفعل هذه السياق، لكن تقرير هيئة الإذاعة البريطانية لا يحل الأسئلة الفنية أو السياسية الأساسية.
لماذا يهم
ومن شأن آلية الإغلاق الإلزامية التي يتم التحقق منها بشكل مستقل أن تحول ممارسات السلامة الداخلية إلى حد كبير إلى متطلب تنظيمي محتمل. يتناول الاقتراح سؤالًا عمليًا حول التحكم في أنظمة الذكاء الاصطناعي ذات القدرة المتزايدة، لكن التقرير لا يحدد ما إذا كانت مفاتيح الإيقاف الحالية ستعمل ضد كل أوضاع الفشل، أو مدى السرعة التي يمكن أن تعمل بها، أو من سيكون لديه سلطة تفعيلها.
يعد هذا الاقتراح مهمًا لأنه يركز على التحكم القابل للتنفيذ بدلاً من المناشدة العامة لذكاء اصطناعي أكثر أمانًا. إذا تم اعتماده، فقد يتطلب التحقق المستقل من الشركات إثبات وجود آليات الإغلاق، ويمكن للأطراف المصرح لها الوصول إليها، ولا يمكن تعطيلها بهدوء. ولم يذكر المصدر ما إذا كان أي نظام حالي يلبي تلك الشروط.
لن يعالج مفتاح الإيقاف في حد ذاته جميع مخاطر الذكاء الاصطناعي. لا يحدد التقرير ما إذا كان إيقاف التشغيل قد يؤدي إلى إيقاف أوزان النماذج المنسوخة، أو الأنظمة التي تعمل عبر موفري خدمات متعددين، أو النماذج المنشورة محليًا، أو الوكلاء الذين اتخذوا بالفعل إجراءات خارجية. كما أنه لا يحدد كيف يمكن للمنظمين تحقيق التوازن بين التدخل في حالات الطوارئ وسوء الاستخدام أو عمليات الإغلاق غير المصرح بها.
تحظى مسألة السياسة بالاهتمام جنبًا إلى جنب مع الحجج الأوسع حول ما إذا كان تطوير الذكاء الاصطناعي الحدودي يجب أن يتباطأ. عارض كلارك ترك الذكاء الاصطناعي باعتباره "صناعة غير منظمة على الإطلاق"، لكن هيئة الإذاعة البريطانية لم تذكر أي موقف متفق عليه في الصناعة، أو التزام حكومي، أو جدول زمني للتنفيذ، أو تقدير للتكلفة، أو دليل على أن التشريع سوف يتقدم.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
ماذا تشاهد بعد ذلك
وستكون التطورات المهمة التالية هي اللغة التشريعية الملموسة، والمعايير الفنية للتحقق، والأدلة حول كيفية أداء ضوابط الإغلاق في الاختبارات الواقعية. ومن غير الواضح أيضًا ما إذا كان صناع السياسات سيطبقون مثل هذه المتطلبات على مطوري النماذج، أو الناشرين، أو مقدمي الخدمات السحابية، أو الثلاثة جميعًا.
راقب النص والتقدم المحرز في قانون Kill Switch الأمريكي المقترح، بما في ذلك الأنظمة التي سيغطيها والوكالات التي يمكنها أن تأمر بإغلاقها. ولم يثبت المصدر أن مشروع القانون قد تم إقراره أو أن هناك قواعد مماثلة موجودة في مكان آخر.
وستكون المعايير الفنية أكثر أهمية من تسمية "مفتاح الإيقاف". تشمل التفاصيل المفيدة الاختبار المستقل، ومصادقة سلطة إيقاف التشغيل، والحماية من التلاعب، وأوقات الاستجابة، وسجلات التدقيق، وكيفية عمل الضوابط عندما يتم توزيع الأنظمة عبر موفري الخدمات السحابية أو الأدوات المتصلة.
يمكن أن توضح إفصاحات Anthropic الخاصة ما هي الضوابط التي تستخدمها حاليًا، وما هي التهديدات التي تعالجها، وما إذا كان المقيمون الخارجيون قد اختبروها أم لا. لم يتم توفير مثل هذه الوثائق أو نتيجة الاختبار في تقرير بي بي سي.
ويربط التقرير تصريحات كلارك بنقاش أوسع حول السلامة، لكنه لا يؤكد بشكل مستقل الادعاءات القائلة بأن الذكاء الاصطناعي يمكن أن يقتل جميع البشر أو يحدد الاحتمالات التي ذكرها باحثو Anthropic. تظل تقديرات المخاطر هذه موضع خلاف ولا ينبغي معاملتها على أنها نتائج هذا التقرير.