اختبار مرتبط بالدليل · متوسط المستوى
الرؤساء التعريفي في مسابقة المحولات
مراجعة مطابقة بادئة الاستقراء، معلومات السلف، دوائر الطبقات المتقاطعة، ملاحظات التدريب، وحدود آلية التعلم في السياق.
سؤال 1 من 8
ما هي القاعدة التي يطبقها الرأس التعريفي بشكل أساسي؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هي القاعدة التي يطبقها الرأس التعريفي بشكل أساسي؟
- توقع الرمز الأكثر شيوعا في اللغة
- قم دائمًا بنسخ الرمز المميز السابق دون تغيير
- قم بخلط رموز السياق بشكل عشوائي
- انظر [A] [B] سابقًا، ثم في [A] توقع مرة أخرى [B]
- What capability was linked to induction-head behavior in the cited 2022 study?
- In-context learning in the examined models, with broader large-model claims framed as hypotheses
- A proof that every form of reasoning uses only one identical circuit
- Changing the tokenizer vocabulary during every prompt
- Permanent weight updates whenever a repeated token appears
- ما هو الدور الذي يلعبه "الرأس المميز السابق" في دائرة الحث؟
- فهو يولد softmax النهائي
- يقوم بإزالة المعلومات الموضعية
- يقوم بنسخ المعلومات السابقة لكل رمز مميز حتى يمكن إجراء المطابقة
- إنه يعمل على تطبيع أوزان الانتباه
- ما هو عدد رؤوس الانتباه التي تشارك عادةً في دائرة الحث القانوني؟
- واحد بالضبط
- اثنان، مؤلفان عبر الطبقات
- المئات في طبقة واحدة
- صفر؛ إنه تغذية للأمام فقط
- What training relationship did the induction-head study report in the models it examined?
- Head formation coincided with changes in loss behavior and increased in-context learning
- All heads were fully formed before any training
- Induction behavior could only appear after every parameter was frozen forever
- The same exact training transition must occur in every future model
- ما هي المهمة التي يمكن أن يتعامل معها الرأس التعريفي بشكل مباشر؟
- حساب التدرج العددي
- ضغط أوزان النموذج
- تشفير موجه الإدخال
- تكرار التسلسل عن طريق نسخ ما تبعه من الرموز المميزة المطابقة السابقة
- What roles do query-key matching and the output-value path play in the canonical induction circuit?
- Query-key computations generate the final text filename; output-value computations train the tokenizer
- Query-key computations select the matching context position; output-value computations promote the token information there
- Both paths only count the total number of context words
- The output-value path selects a position without any attention pattern
- Does a demonstrated two-head induction circuit prove that every large-model in-context task uses that mechanism alone?
- Yes; every architecture and prompt has already been causally tested
- Yes; no other network computation can influence a prediction
- No; the wider explanation remains a hypothesis needing model- and task-specific evidence
- Only the number of parameters determines whether the proof is universal