اختبار مرتبط بالدليل · متوسط المستوى

اختبار الذكاء الاصطناعي وSHAP القابل للتفسير

راجع كيفية سمات SHAP لمخرجات النموذج، وما تظهره المخططات المحلية والتلخيصية، ولماذا تحتاج التفسيرات إلى تفسير دقيق.

مسارات الدليل ذات الصلةشرح الذكاء الاصطناعي والشكل

سؤال 1 من 8

ما هو المفهوم الرياضي الذي تعتمد عليه قيم SHAP؟

معاينة كل سؤال8 أسئلة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

ما هو المفهوم الرياضي الذي تعتمد عليه قيم SHAP؟
- قيمة شابلي من نظرية اللعبة التعاونية
- الخلفيات بايزي
- نزول متدرج
- تحليل المكونات الرئيسية
خاصية "الإضافة" (الدقة المحلية) لـ SHAP تعني أنه بالنسبة للتنبؤ الفردي، فإن قيم SHAP...
- كلها إيجابية
- مجموع الفرق بين التنبؤ والمخرجات الأساسية
- يتم تطبيعها لتقع بين 0 و 1
- تساوي دقة تدريب النموذج
لماذا تعد عملية حساب قيم شابلي الدقيقة مكلفة بشكل عام؟
- يتطلب إعادة تدريب النموذج عدة مرات
- يحتاج إلى بيانات اختبار مصنفة لكل تنبؤ
- يجب أن متوسط المساهمة الهامشية للميزة على جميع المجموعات الفرعية المحتملة من الميزات
- إنه يعمل فقط على وحدات معالجة الرسومات
ما هو متغير SHAP الذي يحسب القيم الدقيقة بكفاءة لنماذج الشجرة المعززة بالتدرج؟
- KernelSHAP
- ديبSHAP
- LinearSHAP
- TreeSHAP
Why do teams use explanation methods such as SHAP during model development?
- To inspect model behavior, investigate influential features, and support review
- Because SHAP proves the model is fair
- Because every law requires SHAP for every model
- Because feature attributions establish causal effects
What can a SHAP summary plot show across a dataset?
- Whether a feature caused the outcome in the real world
- How much features affect model outputs across examples, including the spread of their SHAP values
- Which individual training row leaked the target label
- A guaranteed ranking of features for every possible dataset
What does a local SHAP explanation describe?
- A causal effect of changing a real-world feature
- A guarantee that the model is fair
- Feature attributions for one prediction relative to a chosen baseline and feature convention
- The global training accuracy for every dataset
Why can correlated features complicate SHAP interpretation?
- Correlated features make all SHAP values exactly zero
- Correlation proves one feature caused the prediction
- SHAP does not use a model output
- Different assumptions about feature dependence can change how contributions are allocated