شرح الذكاء الاصطناعي وSHAP
الذكاء الاصطناعي القابل للتفسير (XAI) هو مجموعة أدوات لتحويل التنبؤ المبهم للنموذج إلى سبب يمكن قراءته بواسطة الإنسان.
نظرة عامة
SHAP, built on cooperative game theory, is the most widely used method for fairly attributing a prediction to each input feature.
الغوص العميق
العديد من النماذج عالية الأداء (الأشجار المعززة بالتدرج، والشباك العميقة) هي بمثابة "صناديق سوداء": دقيقة ولكن من الصعب استجوابها. تقتبس SHAP (تفسيرات SHapley Additive)، التي قدمها سكوت لوندبيرج وسو إن لي في عام 2017، قيمة شابلي من نظرية الألعاب التعاونية. فهو يتعامل مع كل ميزة باعتبارها "مشغلًا" ويسأل عن مدى مساهمة هذه الميزة في نقل التنبؤ بعيدًا عن خط الأساس (متوسط الناتج). من خلال حساب متوسط المساهمة الهامشية للميزة عبر جميع الترتيبات الممكنة للميزات، تنتج SHAP قيمًا دقيقة محليًا (مجموعها للتنبؤ)، ومتسقة، وإضافية. والنتيجة هي تفسيرات لكل تنبؤ ("رفع الدخل درجة قرضك بمقدار +0.12") بالإضافة إلى ملخصات عالمية لأهمية الميزات، كل ذلك على أساس مشترك ومبني على أسس نظرية.
البصيرة الفنية
إن حساب شابلي النقي هو حساب أسي: فهو يحسب متوسط التأثير الهامشي للميزة على كل مجموعة فرعية من الميزات الأخرى. يجعل SHAP هذا الأمر سهلاً باستخدام اختصارات خاصة بالطراز. يقوم TreeSHAP بحساب القيم الدقيقة لمجموعات الأشجار في زمن متعدد الحدود عن طريق السير في بنية الشجرة؛ يقوم KernelSHAP بتقريب أي نموذج من خلال الانحدار الخطي المرجح على المدخلات المضطربة؛ يتكيف DeepSHAP مع الانتشار العكسي. يشترك الجميع في ضمان الإضافة: كل تنبؤ يساوي خط الأساس بالإضافة إلى مجموع قيم SHAP الخاصة به.
التأثير الاستراتيجي
التكلفة والميزانية
تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
قرارات أوضح
يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
مراقبة الجودة
تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
مستقبل الذكاء الاصطناعي القابل للتفسير وSHAP
تتحول XAI من الإضافات الاختيارية إلى المتطلبات التنظيمية: يتطلب قانون الذكاء الاصطناعي للاتحاد الأوروبي وقواعد "الإجراءات السلبية" المالية تفسيرات للقرارات عالية المخاطر. وتدفع الأبحاث نحو تفسيرات صادقة تعكس بصدق الاستدلال النموذجي بدلاً من القصص ذات المظهر المعقول، ونحو شرح نماذج لغوية كبيرة، حيث يكون SHAP على مستوى الرمز مكلفاً. توقع تكاملًا أكثر إحكامًا للإسنادات على نمط SHAP مع الأساليب السببية ولوحات المعلومات التفاعلية وخطوط التدقيق الموحدة حتى يتمكن غير الخبراء من الاعتراض على القرارات الآلية.
التنفيذ في العالم الحقيقي
يستخدم البنك SHAP لإنشاء أسباب "الإجراء السلبي" المطلوبة قانونًا لرفض القرض، وإظهار المتقدمين للعوامل (نسبة الدين إلى الدخل، وطول تاريخ الائتمان) التي أدت إلى اتخاذ القرار.
يقوم الأطباء بمراجعة مخططات قوة SHAP على نموذج خطر الإنتان لمعرفة العلامات الحيوية والقيم المخبرية التي دفعت المريض إلى الفئة عالية الخطورة قبل التصرف في حالة تأهب.
يستخدم عالم البيانات مخطط ملخص SHAP (beeswarm) للكشف عن أن نموذج التدوير يعتمد بشكل كبير على حقل مسرب بتاريخ مستقبلي، مما يكشف عن تسرب البيانات.
تقوم شركة التأمين بمراجعة نموذج التسعير باستخدام مخططات اعتماد SHAP للتحقق مما إذا كان الوكيل المحمي مثل الرمز البريدي يؤثر بشكل غير عادل على أقساط التأمين.
المخاطر والدرابزين
يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
خارطة طريق التنفيذ
تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
المعيار في ظل ظروف التحميل والبيانات الواقعية.
مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Explainable AI and SHAP quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
أمثلة الخصومة والمتانة
الأسئلة المتداولة
What is Explainable AI and SHAP?
الذكاء الاصطناعي القابل للتفسير (XAI) هو مجموعة أدوات لتحويل التنبؤ المبهم للنموذج إلى سبب يمكن قراءته بواسطة الإنسان. إن SHAP، المبني على نظرية اللعبة التعاونية، هو الأسلوب الأكثر استخدامًا على نطاق واسع لنسب التنبؤ إلى كل ميزة إدخال.
ما هو المفهوم الرياضي الذي تعتمد عليه قيم SHAP؟
يقوم SHAP بتكييف قيمة شابلي، التي توزع بشكل عادل "الدفع" (التنبؤ) بين "اللاعبين" (ميزات الإدخال) بناءً على مساهماتهم.
لماذا تعد عملية حساب قيم شابلي الدقيقة مكلفة بشكل عام؟
تأخذ قيم Shapley الدقيقة في الاعتبار كل ترتيب/مجموعة فرعية محتملة من الميزات، والتي تنمو بشكل كبير مع عدد الميزات.
ما هو متغير SHAP الذي يحسب القيم الدقيقة بكفاءة لنماذج الشجرة المعززة بالتدرج؟
يستغل TreeSHAP بنية أشجار القرار لحساب قيم Shapley الدقيقة في زمن متعدد الحدود بدلاً من الوقت الأسي.
ما الذي يمكن لمخطط ملخص SHAP أن يساعد عالم البيانات في اكتشافه أثناء تطوير النموذج؟
إذا سيطرت ميزة واحدة على أهمية SHAP بشكل غير متوقع، فيمكن أن تكشف عن تسرب البيانات، مثل الحقل الذي يقوم بتشفير الإجابة.