اختبار مرتبط بالدليل · صعب المستوى
اختبار قياس نافذة سياق YaRN
مراجعة نطاقات تردد YaRN، دمج الانتقال، درجة حرارة الانتباه، تكاليف التكيف، والفرق بين الطول المدعوم والأداء.
سؤال 1 من 8
ما هو نظام ترميز الموضع الذي تقوم YaRN بتعديله لتوسيع طول السياق؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هو نظام ترميز الموضع الذي تقوم YaRN بتعديله لتوسيع طول السياق؟
- زخارف موضعية دوارة (RoPE)
- التضمينات الجيبية المطلقة
- تعلمت جداول البحث الموضعية
- التحيزات الخطية ALiBi
- كيف تتعامل YaRN مع أبعاد RoPE ذات التردد العالي مقابل التردد المنخفض؟
- إنه يقحم كلاهما على قدم المساواة
- يزيل أبعاد التردد العالي بالكامل
- إنه يعدل فقط أبعاد التردد العالي
- فهو يترك أبعاد التردد العالي سليمة في الغالب، ويكمل الأبعاد ذات التردد المنخفض
- How should YaRN's reported data and fine-tuning efficiency be interpreted?
- As proof that no YaRN model ever needs training
- As results for its evaluated model-extension setups, rather than a fixed guarantee for every model
- As a universal promise that every dataset size works equally well
- As removal of the need for GPUs or inference computation
- إلى جانب إعادة قياس الترددات، ما هو التعديل الإضافي الذي تطبقه YaRN للحفاظ على استقرار الانتباه بعيد المدى؟
- زيادة التسرب
- مفردات أكبر
- تعديل درجة حرارة الانتباه (تحجيم softmax).
- قطع التدرج
- What motivates evaluating a RoPE model before using a context far beyond its original training length?
- The model necessarily becomes perfectly accurate at longer lengths
- The context extension automatically reduces memory to zero
- A larger window proves every passage is equally easy to retrieve
- Positional and attention behavior may degrade outside the conditions it learned
- الاستيفاء الخطي الساذج للموضع يضر بالقدرة التي تهدف YaRN إلى الحفاظ عليها؟
- علاقات محلية جيدة بين الرموز القريبة
- حجم مفردات النموذج
- سرعة الرمز المميز
- عدد الطبقات
- What happens in the transition region between YaRN's high- and low-frequency treatments?
- Every dimension is assigned a random vocabulary token
- All transition dimensions are deleted from attention
- The scheme blends original and interpolated frequency treatment across the relevant dimensions
- One identical scaling rule ignores frequency differences entirely
- What does a checkpoint's advertised longer YaRN context limit fail to establish by itself?
- Whether the positional scheme can accept any coordinates at all
- Reliable performance for every intended task and position within that window
- The spelling of the model's name
- A requirement that every inference request retrain all weights