اختبار مرتبط بالدليل · صعب المستوى

اختبار قياس نافذة سياق YaRN

مراجعة نطاقات تردد YaRN، دمج الانتقال، درجة حرارة الانتباه، تكاليف التكيف، والفرق بين الطول المدعوم والأداء.

مسارات الدليل ذات الصلةتحجيم نافذة سياق الغزل
سؤال 1 من 8

ما هو نظام ترميز الموضع الذي تقوم YaRN بتعديله لتوسيع طول السياق؟

معاينة كل سؤال8 أسئلة

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

  1. ما هو نظام ترميز الموضع الذي تقوم YaRN بتعديله لتوسيع طول السياق؟
    • زخارف موضعية دوارة (RoPE)
    • التضمينات الجيبية المطلقة
    • تعلمت جداول البحث الموضعية
    • التحيزات الخطية ALiBi
  2. كيف تتعامل YaRN مع أبعاد RoPE ذات التردد العالي مقابل التردد المنخفض؟
    • إنه يقحم كلاهما على قدم المساواة
    • يزيل أبعاد التردد العالي بالكامل
    • إنه يعدل فقط أبعاد التردد العالي
    • فهو يترك أبعاد التردد العالي سليمة في الغالب، ويكمل الأبعاد ذات التردد المنخفض
  3. How should YaRN's reported data and fine-tuning efficiency be interpreted?
    • As proof that no YaRN model ever needs training
    • As results for its evaluated model-extension setups, rather than a fixed guarantee for every model
    • As a universal promise that every dataset size works equally well
    • As removal of the need for GPUs or inference computation
  4. إلى جانب إعادة قياس الترددات، ما هو التعديل الإضافي الذي تطبقه YaRN للحفاظ على استقرار الانتباه بعيد المدى؟
    • زيادة التسرب
    • مفردات أكبر
    • تعديل درجة حرارة الانتباه (تحجيم softmax).
    • قطع التدرج
  5. What motivates evaluating a RoPE model before using a context far beyond its original training length?
    • The model necessarily becomes perfectly accurate at longer lengths
    • The context extension automatically reduces memory to zero
    • A larger window proves every passage is equally easy to retrieve
    • Positional and attention behavior may degrade outside the conditions it learned
  6. الاستيفاء الخطي الساذج للموضع يضر بالقدرة التي تهدف YaRN إلى الحفاظ عليها؟
    • علاقات محلية جيدة بين الرموز القريبة
    • حجم مفردات النموذج
    • سرعة الرمز المميز
    • عدد الطبقات
  7. What happens in the transition region between YaRN's high- and low-frequency treatments?
    • Every dimension is assigned a random vocabulary token
    • All transition dimensions are deleted from attention
    • The scheme blends original and interpolated frequency treatment across the relevant dimensions
    • One identical scaling rule ignores frequency differences entirely
  8. What does a checkpoint's advertised longer YaRN context limit fail to establish by itself?
    • Whether the positional scheme can accept any coordinates at all
    • Reliable performance for every intended task and position within that window
    • The spelling of the model's name
    • A requirement that every inference request retrain all weights