اختبار مرتبط بالدليل · صعب المستوى
مسابقة التفسير الآلي
اكتشف كيف يقوم الباحثون بالتحقيق في الأجزاء الداخلية للشبكة العصبية باستخدام الدوائر والميزات والتدخلات مع إبقاء الحدود الحالية في الاعتبار.
سؤال 1 من 8
ما هو الهدف المركزي للتفسير الآلي؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هو الهدف المركزي للتفسير الآلي؟
- لإجراء هندسة عكسية للحسابات الداخلية للشبكة وتحويلها إلى خوارزميات يمكن للإنسان فهمها
- لجعل النماذج تتدرب بشكل أسرع
- لضغط النماذج للأجهزة المحمولة
- لترتيب ميزات الإدخال حسب الأهمية فقط
- ما الذي يشير إليه "التراكب" في الشبكة العصبية؟
- تكديس العديد من النماذج معًا
- تمثيل ميزات أكثر من الأبعاد باستخدام الاتجاهات المتداخلة
- تشغيل نموذج على وحدات معالجة الرسومات المتعددة
- متوسط التوقعات من أشواط مختلفة
- تُستخدم أجهزة التشفير التلقائي المتفرقة في إمكانية التفسير الميكانيكي في المقام الأول...
- توليد بيانات التدريب
- تسريع الاستدلال
- قم بفصل عمليات التنشيط متعددة المعاني إلى ميزات أنظف وأكثر قابلية للتفسير
- تشفير أوزان النماذج
- ما هي "رؤوس الحث"؟
- مسرعات الأجهزة للمحولات
- طبقات الإخراج التي تولد النص
- نوع من وظيفة الخسارة
- رؤوس الانتباه التي تنسخ أنماط الرموز المميزة المتكررة وتواصلها، مما يدعم التعلم في السياق
- كيف يؤكد الباحثون أن الدائرة المكتشفة تؤدي بالفعل عملية حسابية مفترضة؟
- من خلال التدخلات السببية مثل استئصال أو تصحيح عمليات تنشيط معينة
- من خلال التحقق من دقة تدريب النموذج
- عن طريق حساب عدد المعلمات
- عن طريق قياس الكمون الاستدلال
- What is a cautious safety-related reason to study mechanistic interpretability?
- It proves every hidden behavior can already be found
- It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
- It guarantees a model will follow any requested correction
- It replaces evaluations of model behavior in deployment
- If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
- The entire model’s computation is now explained
- The feature is guaranteed to be a single neuron
- A candidate feature correlates with those examples and needs further testing to establish its role
- The feature causes every bridge-related output
- Why test a candidate feature across varied prompts and examples?
- Proof that the model has no other relevant circuits
- A guarantee that the explanation generalizes to every prompt
- A replacement for inspecting model behavior
- To check whether the observed activation pattern generalizes beyond selected examples