اختبار مرتبط بالدليل · صعب المستوى
اختبار أخذ العينات النموذجي
يفحص التعجب النموذجي، الترتيب القائم على الانحراف، عتبة الكتلة typical_p، والاختلافات عن أخذ العينات top-p المرتبة حسب الاحتمال.
سؤال 1 من 8
ما هي الكمية الأساسية التي تقارن بها العينات النموذجية كل رمز مميز مرشح؟
معاينة كل سؤال8 أسئلة
تظهر الإجابات والتفسيرات أثناء إجراء الاختبار.
- ما هي الكمية الأساسية التي تقارن بها العينات النموذجية كل رمز مميز مرشح؟
- محتوى المعلومات المتوقع (الانتروبيا) للتوزيع
- الحجم الإجمالي للمفردات للنموذج
- موضع الإشارة في الجملة
- معلمة درجة الحرارة وحدها
- كيف يتعامل أخذ العينات النموذجي مع الرمز المميز الأكثر احتمالاً؟
- فهو دائمًا يختاره أولاً
- ويجوز لها استبعادها إذا كانت مفاجأتها أقل بكثير من القيمة المتوقعة
- ويضاعف احتمالاته
- إنه يتجاهل الاحتمالية تمامًا
- أي فكرة عن اللغة البشرية كانت مدفوعة بأخذ العينات النموذجية؟
- يختار البشر دائمًا أندر الكلمات الممكنة
- البشر لا يكررون الكلمات أبدًا
- يتواصل البشر بالقرب من معدل ثابت تقريبًا من المعلومات
- يتحدث البشر بجمل ثابتة الطول
- ماذا تفعل المعلمة تاو في التحكم في أخذ العينات النموذجية؟
- معدل التعلم أثناء التدريب
- عدد الطبقات في النموذج
- الحد الأقصى لطول الجملة
- كتلة الاحتمال التراكمية التي تم جمعها في المجموعة النموذجية
- Compared with greedy decoding, what does typical sampling try to change?
- It samples from tokens whose surprisal is closer to the distribution’s expected surprisal
- It always selects the most probable token
- It guarantees every continuation is factually correct
- It removes probability scores from decoding
- في أي نوع من البرامج يتم عادةً عرض العينات النموذجية للمطورين؟
- تطبيقات جداول البيانات
- مكتبات استدلال LLM مفتوحة المصدر مثل Hugging Face Transformers
- أدوات تحرير الصور
- محركات استعلام قاعدة البيانات
- How does typical sampling rank candidate tokens differently from top-p sampling?
- By alphabetical order of token strings
- By token position in the prompt
- By distance between token surprisal and expected surprisal, rather than probability rank alone
- By the model’s training loss
- Which value does typical_p control?
- The model’s vocabulary size
- The number of transformer layers
- The probability that the answer is factually correct
- The target cumulative probability mass collected in the typical set