اختبار عينات النواة وأعلى k

تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.

1. كيف يقيد أخذ العينات من أعلى k اختيارات الرمز المميز؟
   • فهو يحتفظ فقط برموز k ذات الاحتمالية الأعلى، ثم العينات من بينها
   • يحتفظ بالرموز المميزة حتى يتجاوز الاحتمال التراكمي k
   • فهو دائمًا يختار الرمز المميز الأكثر احتمالاً
   • فهو يزيل الرموز المميزة الأقل احتمالاً فقط
2. ما الذي يحدد "النواة" في أخذ عينات النواة (top-p)؟
   • الكلمات k الأكثر شيوعا في بيانات التدريب
   • أصغر مجموعة من الرموز المميزة التي يبلغ مجموع احتمالاتها p على الأقل
   • الرمز المميز الوحيد ذو الاحتمالية الأعلى
   • جميع الرموز ذات الاحتمالية فوق 50%
3. ما هي الميزة الرئيسية لـ top-p على top-k؟
   • إنه دائمًا أسرع في الحساب
   • لا ينتج أبدًا مخرجات عشوائية
   • يتكيف عدد الرموز المميزة المرشحة مع ثقة النموذج
   • يتجاهل احتمالات الرمز المميز
4. ماذا تفعل معلمة درجة الحرارة قبل أخذ العينات؟
   • يقوم بتعيين الحد الأقصى لطول التسلسل
   • فهو يختار لغة الإخراج
   • يحسب حجم المفردات
   • إنه يعيد توزيع التوزيع الاحتمالي ليكون أكثر وضوحًا أو تملقًا
5. What result did the nucleus-sampling paper report for its tested open-ended generation tasks?
   • It improved diversity without sacrificing fluency and coherence in the reported comparisons
   • It guaranteed factual correctness in every output
   • It eliminated all sampling randomness
   • It improved translation quality on every benchmark
6. For a greedy decoding baseline with no token sampling, how should generation be configured?
   • Disable sampling and use greedy decoding to select the highest-probability token at each step
   • Use high temperature and a large nucleus threshold
   • Randomize the temperature at every step
   • Keep sampling enabled but increase top-p
7. After top-k truncation removes tokens, what happens to the remaining sampling probabilities?
   • They remain assigned their original total mass below one
   • They are replaced with equal probabilities
   • They are renormalized over the retained top-k tokens
   • They are converted into beam-search scores
8. What did Holtzman et al. report about likelihood-maximizing decoding for open-ended text?
   • It always yields the most diverse human-like passages
   • إنه يلغي الحاجة إلى نموذج اللغة
   • It guarantees factual correctness
   • It can produce bland and repetitive text despite strong likelihood scores