اختبار مرتبط بالدليل · صعب المستوى
وظائف التأثير في اختبار إسناد بيانات التدريب
يتحقق من الحقائق المضادة لوظيفة التأثير، والتقريبات الهسية، ومعنى علامات التأثير وإسناد البيانات في نماذج اللغة.
سؤال 1 من 8
ما هو السؤال المضاد الذي تؤثر عليه الوظائف التقريبية؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هو السؤال المضاد الذي تؤثر عليه الوظائف التقريبية؟
- كيف ستتغير الخسارة في نقطة الاختبار إذا تمت إزالة مثال التدريب أو زيادة وزنه
- مدى دقة النموذج في المتوسط
- مدى سرعة تدريب النموذج
- كم عدد المعلمات التي يحتوي عليها النموذج
- ما الكائن الرياضي الذي يجعل حساب التأثير الدقيق أمرًا صعبًا بالنسبة للنماذج الكبيرة؟
- وظيفة سوفت ماكس
- معكوس هسه من الخسارة
- جدول معدل التعلم
- حجم الدفعة
- من الذي قام بتكييف وظائف التأثير مع التعلم العميق الحديث في ورقة بحثية معروفة عام 2017؟
- جودفيلو وبينجيو
- فاسواني وآخرون.
- كوه وليانغ
- هينتون و ليكون
- Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
- The point was not in the training data
- Upweighting the point is estimated to increase test loss
- The point has no relationship to the test example
- Upweighting the point is estimated to lower test loss, so it is helpful
- ما هو التقريب الذي استخدمته Anthropic لقياس وظائف التأثير على نماذج اللغة الكبيرة؟
- EK-FAC (الانحناء المعامل كرونيكر)
- التسرب
- بحث شعاع
- خلط
- ماذا توصلت دراسة Anthropic الموسعة حول الأمثلة المؤثرة؟
- هم دائما نسخ طبق الأصل من الإخراج
- غالبًا ما يتشاركون في أنماط مجردة بدلاً من الصياغة المتطابقة
- يتم توزيعها بشكل عشوائي
- فقط المثال التدريبي الأول هو المهم
- In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
- The test set’s token count
- A random forest over training labels
- The inverse Hessian of the training loss
- The model’s output vocabulary size
- If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
- It was guaranteed to be a duplicate
- It had no relationship to the model
- It necessarily caused the model to overfit
- It had a helpful influence on that test point under the approximation