اختبار مرتبط بالدليل · صعب المستوى

وظائف التأثير في اختبار إسناد بيانات التدريب

يتحقق من الحقائق المضادة لوظيفة التأثير، والتقريبات الهسية، ومعنى علامات التأثير وإسناد البيانات في نماذج اللغة.

سؤال 1 من 8

ما هو السؤال المضاد الذي تؤثر عليه الوظائف التقريبية؟

معاينة كل سؤال8 أسئلة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

  1. ما هو السؤال المضاد الذي تؤثر عليه الوظائف التقريبية؟
    • كيف ستتغير الخسارة في نقطة الاختبار إذا تمت إزالة مثال التدريب أو زيادة وزنه
    • مدى دقة النموذج في المتوسط
    • مدى سرعة تدريب النموذج
    • كم عدد المعلمات التي يحتوي عليها النموذج
  2. ما الكائن الرياضي الذي يجعل حساب التأثير الدقيق أمرًا صعبًا بالنسبة للنماذج الكبيرة؟
    • وظيفة سوفت ماكس
    • معكوس هسه من الخسارة
    • جدول معدل التعلم
    • حجم الدفعة
  3. من الذي قام بتكييف وظائف التأثير مع التعلم العميق الحديث في ورقة بحثية معروفة عام 2017؟
    • جودفيلو وبينجيو
    • فاسواني وآخرون.
    • كوه وليانغ
    • هينتون و ليكون
  4. Under Koh and Liang’s standard I_up,loss convention, what does a negative value indicate?
    • The point was not in the training data
    • Upweighting the point is estimated to increase test loss
    • The point has no relationship to the test example
    • Upweighting the point is estimated to lower test loss, so it is helpful
  5. ما هو التقريب الذي استخدمته Anthropic لقياس وظائف التأثير على نماذج اللغة الكبيرة؟
    • EK-FAC (الانحناء المعامل كرونيكر)
    • التسرب
    • بحث شعاع
    • خلط
  6. ماذا توصلت دراسة Anthropic الموسعة حول الأمثلة المؤثرة؟
    • هم دائما نسخ طبق الأصل من الإخراج
    • غالبًا ما يتشاركون في أنماط مجردة بدلاً من الصياغة المتطابقة
    • يتم توزيعها بشكل عشوائي
    • فقط المثال التدريبي الأول هو المهم
  7. In the influence-function approximation, what connects a training-example gradient to the effect on a test loss?
    • The test set’s token count
    • A random forest over training labels
    • The inverse Hessian of the training loss
    • The model’s output vocabulary size
  8. If removing one training example is estimated to increase a test point’s loss, what does that suggest about the example?
    • It was guaranteed to be a duplicate
    • It had no relationship to the model
    • It necessarily caused the model to overfit
    • It had a helpful influence on that test point under the approximation