ماذا حدث
تقدم ورقة Granite.Trust مخطط سياسة قابل للتنفيذ، وهو تنسيق قائم على YAML لتحديد استجابات الذكاء الاصطناعي التوليدية التي قد تحتوي عليها أو لا تحتوي عليها. كما يصف أيضًا خط أنابيب البيانات الاصطناعية لإنتاج بيانات التدريب المتوافقة مع السياسات، بالإضافة إلى أدوات لتحديد هذه السياسات وتنفيذها طوال دورة حياة التطبيق.
تعرض الورقة المقدمة إلى arXiv في 24 أغسطس أدوات سياسة Granite.Trust كرد فعل على عدم التوافق بين أنظمة التحكم في الوصول التقليدية وتطبيقات الذكاء الاصطناعي التوليدية. وفقًا للملخص، فإن الأساليب التقليدية ليست مصممة للتعبير عن القيود القائمة على المحتوى: قواعد حول ما يمكن أن تحتويه أو لا يمكن أن تحتويه استجابة النموذج. يجادل المؤلفون بأن متطلبات السياسة تختلف باختلاف سياق التطبيق والبيئة التنظيمية والقيم التنظيمية وشخصيات المستخدم. يقدم المصدر هذا على أنه مشكلة تصميم للمؤسسات التي تقوم ببناء أو تشغيل تطبيقات الذكاء الاصطناعي التوليدية، وليس كمطالبة حول نموذج أو منتج معين.
مساهمتها المركزية هي مخطط سياسة قابل للتنفيذ يوصف بأنه تنسيق قائم على YAML. يقول الملخص أن المخطط يهدف إلى تحديد المحتوى المسموح به والمحظور في الاستجابات النموذجية. كما يقترح حوكمة السياسات القائمة على الاستثناءات، حيث يتم استخدام الاستثناءات لتتبع انتهاكات السياسة. لا يوفر المصدر بناء الجملة الكامل للمخطط، أو مثالًا للسياسة المعمول بها، أو عرضًا توضيحيًا يوضح كيفية تصنيف استجابة معينة. ومن ثم فهو يحدد وجود النموذج والغرض المقصود منه، ولكنه لا يحدد مدى اتساع تغطيته أو مدى صعوبة استخدامه في الممارسة العملية.
تصف الورقة مكونين إضافيين حول المخطط. أولاً، يقدم خط أنابيب لتوليد البيانات الاصطناعية التي تنتج بيانات تدريب متوافقة مع السياسات لمواءمة النماذج واختبارها. ثانيًا، يصف مجموعة من الأدوات لمساعدة المؤسسات على تحديد المخطط وفرض السياسة. يقول الملخص أن هذه المكونات تهدف إلى السماح للمؤسسة بتحديد السياسات مرة واحدة وتطبيقها بدءًا من محاذاة النموذج وحتى مراقبة وقت التشغيل. كما يشير أيضًا إلى أن المخطط وأمثلة السياسات والأدوات متاحة كمصدر مفتوح. لا يحدد المصدر المستودع في النص المقدم، أو يحدد ترخيص البرنامج، أو يذكر النماذج أو أطر العمل المدعومة، أو يبلغ عن مدى نضج التنفيذ.
هذه الورقة عبارة عن مقترح وإصدار أداة تم وصفهما في ملخص arXiv، وليس حسابًا تم التحقق منه بشكل مستقل لأداء الإنتاج. ولا يذكر المصدر أن الأدوات قد تم اعتمادها من قبل المنظمات، أو تم اختبارها في أنظمة حية، أو تم تدقيقها من قبل باحثين خارجيين أو تم تقييمها وفقًا لمعايير مرجعية. كما أنه لا يصف أنواع المحتوى الضار أو المقيد الذي تغطيه السياسات النموذجية. إن هذا الإغفال مهم لأن فائدة إطار السياسة تعتمد على تفاصيل مثل كيفية تعامله مع الغموض، والقواعد المتضاربة، وتغيير اللوائح والحالات التي تكون فيها الاستجابة متوافقة من الناحية الفنية ولكنها لا تزال مضللة أو ضارة.
لماذا يهم
يتناول الاقتراح مشكلة حوكمة عملية: تواجه المنظمات والتطبيقات المختلفة مخاطر مختلفة، لكن المصدر يقول إن مناهج التحكم في الوصول الحالية لا تلتقط القيود القائمة على المحتوى في الذكاء الاصطناعي التوليدي. إذا كانت الأدوات تعمل كما هو موضح، فيمكنها منح الفرق طريقة أكثر اتساقًا لترجمة القواعد الداخلية إلى تدريب نموذجي وضوابط وقت التشغيل.
غالبًا ما يتعين على حوكمة الذكاء الاصطناعي التوليدية أن تعمل على مستويين: تحديد ما إذا كان بإمكان المستخدم أو التطبيق الوصول إلى النظام، وتحديد ما قد ينتجه النظام في سياق معين. وتتركز مساهمة المصدر على المستوى الثاني. وتزعم الشركة أن قواعد المحتوى تحتاج إلى تمثيل مصمم للتطبيقات التوليدية، بدلاً من فرضها على هياكل الأذونات التقليدية. يعد هذا تمييزًا ملموسًا وذو صلة من الناحية العملية بالمؤسسات التي تحتاج إلى التعبير عن متطلبات مختلفة لمستخدمين أو تطبيقات أو بيئات مختلفة.
يمكن للنهج المقترح أن يجعل تغييرات السياسة أسهل في التنفيذ خلال دورة حياة تطبيق الذكاء الاصطناعي. يصف الملخص مواصفات سياسة واحدة يتم استخدامها لمحاذاة النموذج، وتوليد بيانات التدريب، والاختبار، ومراقبة وقت التشغيل. من حيث المبدأ، يمكن أن يؤدي ذلك إلى تقليل التناقضات بين القاعدة المستخدمة لتدريب النظام والقاعدة المستخدمة لمراقبته بعد النشر. لكن المصدر لا يثبت أن هذا الاتساق قد تحقق. وهو يصف سير العمل المقصود والأدوات المصممة لدعمه، لكنه لا يقدم أي دليل مقيس حول ما إذا كانت السياسة المكتوبة مرة واحدة يتم تطبيقها بشكل مماثل في كل مرحلة.
من المحتمل أيضًا أن يكون التصميم القائم على الاستثناء مهمًا. يقول الملخص أنه يمكن استخدام الاستثناءات لتتبع انتهاكات السياسة، مما يشير إلى عملية حوكمة تسجل الحالات التي تتعارض فيها مخرجات النظام مع قاعدة محددة بدلاً من التعامل مع السياسة كقائمة مرجعية ثابتة. يمكن أن تكون هذه السجلات مفيدة لمراجعة السياسات واختبار النماذج وتحديد حالات الفشل المتكررة. وهذا أحد الآثار المترتبة على التصميم الموصوف، وليس نتيجة يحددها ملخص الورقة. ولا يذكر المصدر ما إذا كانت الاستثناءات تتم مراجعتها من قبل الأشخاص، أو يتم دمجها تلقائيًا في التدريب اللاحق، أو يتم ربطها بإجراءات المساءلة والتصحيح.
ستعتمد القيمة العملية على العوامل التي يتركها المصدر دون حل. يجب أن تكون لغة السياسة محددة بما يكفي لإنتاج قرارات متسقة ولكنها مرنة بما يكفي لوصف المتطلبات التي تعتمد على السياق. قد تساعد البيانات الاصطناعية في إنشاء أمثلة للتدريب والاختبار، لكن المصدر لا يحدد ما إذا كانت هذه الأمثلة تمثل سلوك مستخدم حقيقي أو حالات حافة صعبة. كما أنها لا توضح ما إذا كان النهج يعمل عبر موفري النماذج أو الطرائق أو اللغات أو أنواع التطبيقات المختلفة. وبالتالي فإن أهمية المصلحة العامة لهذه الدراسة تتجلى في أوضح صورها باعتبارها محاولة لجعل قواعد الذكاء الاصطناعي التوليدي أكثر قابلية للتنفيذ، وليس كدليل على حل مشكلة الحوكمة.
الآلية التفاعلية: كيف تعمل فعليًا
استكشف التكنولوجيا الأساسية وراء هذا التطور بشكل تفاعلي.
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
ماذا تشاهد بعد ذلك
ولا يُبلغ المصدر عن نتائج التقييم، أو أدلة النشر، أو دقة إنفاذ السياسات، أو المعدلات الإيجابية الخاطئة، أو المقارنات مع أدوات الحوكمة الحالية. سيكون الدليل المهم التالي هو ما إذا كان المخطط مفتوح المصدر يمكنه التعبير عن السياسات المعقدة بشكل موثوق وما إذا كانت السياسات تظل متسقة عبر التدريب والاختبار واستخدام النماذج الحية.
المسألة الأولى التي يجب مشاهدتها هي التقييم. لا يُبلغ المصدر المقدم عن أي قياسات للدقة أو التغطية أو الكمون أو التكلفة أو الموثوقية لمخطط السياسة أو خط أنابيب البيانات الاصطناعية أو أدوات التنفيذ. قد تتضمن أدلة المتابعة المفيدة اختبارات ضد السياسات المكتوبة بواسطة الإنسان، والمطالبات العدائية أو الغامضة، ومخرجات التطبيق الواقعية. سيكون من المهم أيضًا معرفة عدد المرات التي يقوم فيها النظام بحظر المحتوى المسموح به، أو السماح بمحتوى غير مسموح به، أو طلب المراجعة اليدوية. وبدون هذه القياسات، تظل المطالبات العملية لهذه الورقة محتملة.
المسألة الثانية هي اتساق دورة الحياة. يقول المؤلفون إن السياسات يمكن تحديدها مرة واحدة وتنفيذها أثناء محاذاة النموذج والاختبار ومراقبة وقت التشغيل. يجب أن توضح الوثائق أو التجارب المستقبلية ما إذا كانت نفس القاعدة تنتج نتائج قابلة للمقارنة في كل إعداد، خاصة عندما يتغير النموذج الأساسي أو الهيكل الفوري أو التطبيق المحيط. لا يذكر المصدر كيفية إصدار تحديثات السياسة، أو كيفية تدقيق التغييرات، أو كيف يمكن للمؤسسات تحديد الحالات التي يختلف فيها سلوك وقت التدريب عن سلوك وقت التشغيل.
الإصدار مفتوح المصدر يتطلب أيضًا التفتيش. يقول المصدر أن المخطط وأمثلة السياسات والأدوات متاحة كمصدر مفتوح، لكن النص المقدم لا يتضمن عنوان المستودع أو الترخيص أو البيئات المدعومة أو عملية المساهمة. ستحدد هذه التفاصيل ما إذا كان الاقتراح قابلاً لإعادة الاستخدام حقًا بما يتجاوز العروض التوضيحية التي قدمها مؤلفوه. سيحتاج المستخدمون العمليون إلى معرفة ما إذا كان بإمكانهم التكامل مع أنظمة تطوير النماذج والمراقبة الحالية وما إذا كان من الممكن مراجعة سياساتها من قبل أشخاص ليسوا متخصصين في التعلم الآلي.
وأخيرا، يجب على القراء مراقبة الأدلة حول النطاق والقيود. لا يوضح الملخص ما إذا كانت Granite.Trust تتعامل مع الاستجابات النصية فقط أو يمكنها التحكم في التطبيقات متعددة الوسائط، كما أنها لا تصف الدعم للغات المتعددة أو الأنظمة التنظيمية. كما أنه لا يوضح كيفية قيام النظام بحل التعارضات بين القيم التنظيمية وشخصيات المستخدم والمتطلبات القانونية. وإلى أن تتم الإجابة على هذه الأسئلة من خلال البحث الكامل أو فحص الكود أو الاختبار المستقل، فإن الاستنتاج المسؤول هو أن Granite.Trust تقدم اقتراحًا ملموسًا ومفتوح المصدر لسياسة لا تزال فعاليته واتساع نطاقه مجهولين.