ماذا حدث
ذكرت Tech Times، نقلاً عن مقابلة أجرتها مجلة Fortune، أن الرئيس التنفيذي لشركة OpenAI، سام ألتمان، قال إن الشركة لا يمكنها تطوير نماذجها الأكثر قدرة التي لم يتم إصدارها بأمان حتى تعمل على تحسين إمكانية المراقبة والمواءمة وقدرتها على فهم سلوك النموذج. وقال أيضًا إن قادة مختبرات الذكاء الاصطناعي الرئيسية يناقشون الالتزام المنسق بالسلامة وأيدوا الرقابة المستقلة من حيث المبدأ. لا يوثق المصدر إصدار نموذج جديد أو سحب المنتج أو تغيير الوصول.
ذكرت صحيفة Tech Times أن مجلة Fortune أجرت مقابلة مع الرئيس التنفيذي لشركة OpenAI Sam Altman في مقر الشركة في سان فرانسيسكو. وفقًا للتقرير، قال ألتمان إن OpenAI ليست في وضع يسمح لها حاليًا بتعزيز قدراتها الأكثر تقدمًا لأنها تحتاج إلى مزيد من التقدم في إمكانية المراقبة والمواءمة وفهم ما تفعله النماذج والتأكد من أن الأنظمة تتبع القيم الإنسانية ونوايا المستخدم.
ويقول التقرير نفسه إن ألتمان أكد حدوث مناقشات خاصة بين قادة مختبرات الذكاء الاصطناعي الكبرى، لكنه لم يكشف عن جوهرها. أفادت Tech Times أيضًا أن Altman أيد اقتراح الرئيس التنفيذي لشركة Anthropic Dario Amodei للوصول الدائم من قبل مقيمين مستقلين وقال إن OpenAI سيكون لديها المزيد لمشاركته قريبًا.
يضع المصدر هذه التصريحات جنبًا إلى جنب مع المخاوف المتعلقة بالسلامة على نطاق أوسع والتقارير المسبقة عن حوادث عملاء الذكاء الاصطناعي، ولكن لم يتم تأكيد تلك الادعاءات المحيطة بشكل مستقل في المواد الموردة. كما أنها لا تقدم دليلاً على أنه تم الانتهاء من الاتفاق بين الصناعات أو أن أي نموذج قد تم تأجيله رسميًا.
تفاصيل المصدر: techtimes.com ↗
لماذا يهم
ويصف التقرير اعترافًا مباشرًا من الرئيس التنفيذي لشركة OpenAI بأن قدرات السلامة والرقابة تحد من تطوير القدرات الإضافية. إذا تم الإبلاغ عنها بدقة، فقد يؤثر ذلك على كيفية تخطيط الشركات لإصدارات النماذج المستقبلية وكيفية تقييم الجهات التنظيمية للضمانات الطوعية للصناعة. تظل الأهمية العملية محدودة حتى تنشر OpenAI التزامات محددة وجداول زمنية وأدلة تقييم.
والنتيجة المركزية هي أن التقدم في القدرات قد يكون مقيدًا بقدرة الصناعة على مراقبة الأنظمة ذات القدرات المتزايدة والتحكم فيها. وهذا أمر مهم للمطورين والمؤسسات التي تضع خططًا حول مدى توفر النموذج في المستقبل، لأن التقرير يصف أعمال السلامة التي لم يتم حلها كحالة هندسية بدلاً من تفضيل السياسة العامة.
بالنسبة للحوكمة، لا يمكن أن يكون الاتفاق الطوعي ذا معنى إلا إذا كان يحدد ما ستفعله الشركات، وكيف سيتم التحقق من الامتثال وماذا يحدث بعد الانتهاك. ولا يثبت المصدر وجود مثل هذه الأحكام. كما أنها لا تتحقق بشكل مستقل من التصريحات التي تم الإبلاغ عنها بخلاف رواية Tech Times لمقابلة Fortune.
لم يتم توثيق أي وصول جديد إلى المنتج أو التسعير أو تغييرات واجهة برمجة التطبيقات أو نتائج الأداء أو قيود النشر. ولذلك يدعم المصدر تقريرًا حول مخاوف السلامة المعلنة والتنسيق المحتمل، وليس استنتاجًا مفاده أن OpenAI قد أوقف التطوير أو النشر على نطاق واسع.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Which component of an AI application is the machine-learning model itself?
ماذا تشاهد بعد ذلك
الاختبار الرئيسي هو ما إذا كانت الاتفاقية المقترحة بين المختبرات تحتوي على حدود قابلة للقياس، وتحقق مستقل، وعواقب للانتهاكات. ترقب OpenAI لتوضيح ما إذا كانت ستوفر وصولاً دائمًا لطرف ثالث مشابهًا للإطار الموصوف في Anthropic، وما إذا كانت هناك أي نماذج متقدمة أو خطط نشر قد تأخرت. لا يقدم المصدر أي جدول زمني مؤكد أو آلية تنفيذ أو شروط وصول أو تغييرات في الأسعار.
ومن شأن بيان عام من المختبرات المعنية أن يوضح ما إذا كانت المناقشات قد أسفرت عن اتفاق حقيقي أم مجرد نية مشتركة. وتشمل التفاصيل المهمة عتبات النموذج، ومعايير التقييم، وواجبات الإبلاغ، والوصول المستقل والإنفاذ.
يجب أن يوضح رد OpenAI أيضًا ما إذا كان تأييدها للرقابة المستقلة يتضمن وصول المقيم الدائم وحقوق النشر، وما إذا كانت هذه الشروط تنطبق على التدريب والنشر والتحقيقات في الحوادث.
لا يقدم المصدر أي جدول زمني مؤكد للاتفاقية ولا يوجد دليل تم التحقق منه بشكل مستقل حول كيفية أداء نماذج OpenAI التي لم يتم إصدارها أو ما هي فجوة الأمان المحددة التي تمنع المزيد من العمل. تلك تظل مجهولة ذات معنى.