ويقول الرؤساء التنفيذيون في مجال الذكاء الاصطناعي إنهم بحاجة إلى إبطاء وتيرة التطوير. لكن هل سيفعلون ذلك؟

ماذا حدث

ذكرت صحيفة الغارديان أن الرئيس التنفيذي لشركة Anthropic، داريو أمودي، اقترح إبطاء تطوير الذكاء الاصطناعي الحدودي من خلال مقيمين مستقلين، واتفاقيات السلامة الدولية والتنسيق مع الصين بشأن القضايا الأمنية. أعرب الرئيس التنفيذي لشركة OpenAI، سام ألتمان، ورئيس Google، ديميس هاسابيس، ومالك xAI، إيلون ماسك، عن دعمهما علنًا. ويقول التقرير أيضًا إن دونالد ترامب رفض تباطؤ التنمية، مشيرًا إلى المنافسة مع الصين.

ذكرت صحيفة الغارديان أن أمودي أصدر مقترحًا بعنوان "يجب علينا أن نخطو الحدود" بعد تحذيرات من باحثي Anthropic حول مخاطر الذكاء الاصطناعي الكارثية المحتملة. وتتمثل أفكارها المركزية الثلاثة في مقيِّمين خارجيين يتمتعون بإمكانية الوصول على مستوى الموظفين لمراقبة المخاطر، والاتفاقات بين الحكومات الديمقراطية بشأن معايير السلامة، والتنسيق العالمي مع الحكومات الاستبدادية بما في ذلك الصين بشأن القضايا الأمنية.

وفقًا للتقرير، قال ألتمان إن OpenAI ستتوافق مع التزام أمودي تجاه المُقيّمين المستقلين، بينما أعرب هاسابيس وماسك أيضًا عن دعمهما. ولا يقدم التقرير النص الأساسي الكامل لاقتراح أمودي أو دليلاً مستقلاً على أن هذه التصريحات قد أنتجت التزامات رسمية قابلة للتنفيذ.

تشير المقالة إلى معارضة كبيرة من منتقدي تنظيم الذكاء الاصطناعي والمسؤولين السابقين، الذين تساءلوا عما إذا كان المقيِّمون الذين تم اختيارهم من قبل الصناعة والإعفاءات المحتملة لمكافحة الاحتكار يمكن أن ترقى إلى مستوى الاستيلاء التنظيمي. وتشير أيضًا إلى أن ترامب رفض الدعوات لإبطاء تطوير الذكاء الاصطناعي وأن رئيس مجلس النواب مايك جونسون قال إن الشركات، وليس الكونجرس، يجب أن تقود سلامة الذكاء الاصطناعي.

تفاصيل المصدر: theguardian.com ↗

لماذا يهم

تسلط هذه الحادثة الضوء على صراع متزايد الاتساع بين التحذيرات العامة التي تطلقها شركات الذكاء الاصطناعي بشأن المخاطر الشديدة وحوافزها التجارية والجيوسياسية للاستمرار في إطلاق أنظمة أكثر قدرة. يمكن للالتزامات الطوعية أن تحسن الرقابة إذا حصل المقيمون على وصول وسلطة حقيقية، ولكن التقرير المقدم لا يؤكد بشكل مستقل أن أي شركة قد اعتمدت تدابير ملزمة. يثير النقاش أيضًا تساؤلات حول ما إذا كان تنسيق الصناعة من شأنه أن يحسن السلامة أو يرسخ قادة السوق الحاليين.

يعد هذا التطوير أمرًا مهمًا لأن قادة العديد من شركات الذكاء الاصطناعي الكبرى يعترفون علنًا بأن تطوير القدرات بشكل أسرع قد يتطلب ضوابط أمان أقوى. ومن الممكن أن يؤثر هذا الموقف على التنظيم المستقبلي، وحوكمة الشركات، والمفاوضات الدولية، لكن الدعم العام وحده لا يثبت أن التنمية قد تباطأت أو أن ممارسات السلامة قد تغيرت بشكل ملموس.

وتكشف تقارير صحيفة الغارديان أيضاً عن توتر بنيوي: فقد تسعى الشركات إلى التنسيق الطوعي في حين تعارض القواعد التي يمكن أن تقيد منتجاتها أو تحمي المنافسين. وستعتمد النتيجة العملية على ما إذا كان المقيِّمون المستقلون قادرين على الوصول إلى الأنظمة ذات الصلة، ونشر نتائج موثوقة، والعمل خارج نطاق سيطرة الشركة. وتظل هذه الشروط دون حل في التقرير المرفق.

ماذا تشاهد بعد ذلك

تشمل الأمور الرئيسية المجهولة ما إذا كانت الشركات ستقوم بإضفاء الطابع الرسمي على التزاماتها، ومن سيختار ويمكّن المقيمين الخارجيين، وما إذا كان المقيمون سيتمتعون بإمكانية الوصول على مستوى الموظفين في الممارسة العملية. راقب أي دور فيدرالي مقترح، ومعالجة المخاوف المتعلقة بمكافحة الاحتكار، وما إذا كانت إدارة ترامب ستغير معارضتها لتباطؤ التنمية. لم يتم توثيق أي وصول إلى المنتج أو توفره أو تغيير الأسعار.

والاختبار المباشر هو التنفيذ. ولا يحدد التقرير مواعيد نهائية أو آليات تنفيذ أو هويات المقيمين أو العواقب المترتبة على الشركات التي لا تلتزم. يجب أن تميز التقارير الإضافية بين البيانات العامة والاتفاقيات الموقعة أو التوقفات التشغيلية أو تغييرات السلامة التي تم تقييمها بشكل مستقل.

وقد تواجه العناصر الدولية وعناصر مكافحة الاحتكار في الاقتراح مقاومة سياسية. ويجادل النقاد الذين ورد ذكرهم في التقرير بأن التعاون يمكن استخدامه للحد من المنافسة، في حين تواصل الإدارة الأمريكية تأطير قيادة الذكاء الاصطناعي على أنها منافسة مع الصين. ولا يزال من غير المعروف ما إذا كان صناع السياسات ينشئون رقابة قابلة للتنفيذ أو يتركون المسؤولية في المقام الأول للشركات.

الأدلة والاختبارات ذات الصلة