أخذ عينات النواة وأعلى k
تعد عينات Nucleus (top-p) وtop-k من طرق فك التشفير التي تضيف عشوائية محكومة إلى إنشاء النص عن طريق تقييد الرموز المميزة التي يمكن اختيارها.
نظرة عامة
They matter because they make AI writing feel natural and varied instead of repetitive or robotic.
الغوص العميق
يُخرج نموذج اللغة توزيعًا احتماليًا على كامل مفرداته في كل خطوة. يمكن أن يؤدي أخذ العينات مباشرة منه إلى اختيار رموز غريبة ومنخفضة الاحتمالية؛ دائمًا ما يؤدي أخذ الرمز العلوي (الجشع) إلى إنتاج حلقات مملة ومتكررة. يعمل أخذ العينات Top-k على إصلاح ذلك عن طريق الاحتفاظ فقط بالرموز المميزة ذات الاحتمالية الأعلى k (على سبيل المثال k = 40)، وإعادة التطبيع، وأخذ العينات فيما بينها. أخذ عينات النواة، الذي قدمه هولتزمان وآخرون. في عام 2019، بدلاً من ذلك، يحتفظ بأصغر مجموعة من الرموز المميزة التي يتجاوز احتمالها التراكمي عتبة p (على سبيل المثال، 0.9) - "النواة". الميزة الرئيسية هي أن هذه المجموعة تتقلص عندما يكون النموذج واثقًا وتتوسع عندما يكون غير مؤكد، وتتكيف ديناميكيًا. غالبًا ما يتم دمجهما مع معلمة درجة الحرارة التي تعمل على زيادة حدة التوزيع أو تسطيحه قبل أخذ العينات.
البصيرة الفنية
تم إصلاح الفرق الحاسم مقابل القطع التكيفي. يحتفظ Top-k دائمًا برموز k بالضبط، والتي يمكن أن تكون قليلة جدًا عندما تكون العديد من الخيارات معقولة، أو تتضمن غير المرغوب فيها عندما يكون هناك زوجان فقط معقولان. يحتفظ Top-p برقم متغير - ما يكفي من الرموز لتغطية الكتلة الاحتمالية p - لذا فهو يقتطع الذيل الطويل غير الموثوق به مع احترام مدى ذروة التوزيع أو استواءه. تعمل درجة الحرارة (عادةً 0.7-1.0) على إعادة قياس اللوغاريتمات قبل أي من الطريقتين: القيم المنخفضة تركز الاحتمالية، والقيم الأعلى تنشره.
التأثير الاستراتيجي
السرعة والحجم
يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
الوصول والوصول
فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
قرارات أوضح
يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
مستقبل النواة وأخذ العينات Top-k
أصبح فك التشفير القائم على أخذ العينات هو الآن الخيار الافتراضي لروبوتات الدردشة والأدوات الإبداعية، ويستمر البحث في تحسينه: تهدف أساليب مثل أخذ العينات النموذجية، وmin-p، وأخذ عينات eta/epsilon إلى اقتطاع الذيل بشكل أكثر ذكاءً من p أو k الثابتين. توقع أن تصبح معلمات فك التشفير أكثر وعيًا بالسياق وحتى تعلمها، مما يؤدي إلى تشديدها تلقائيًا للحصول على إجابات واقعية وتخفيفها للعصف الذهني. ومع تحسن النماذج، يظل التحكم الدقيق في أخذ العينات ضروريًا لتحقيق التوازن بين الموثوقية والتنوع وتقليل الهلوسة.
التنفيذ في العالم الحقيقي
تستخدم Chatbots مستوى أعلى يبلغ حوالي 0.9 لإبقاء الردود متنوعة ومتماسكة عبر المحادثة
يقوم مساعدو الكتابة الإبداعية برفع درجة الحرارة والقوة لتبادل أفكار القصة المتنوعة
تعمل أدوات إنشاء التعليمات البرمجية على خفض درجة الحرارة وk للحصول على مقتطفات صحيحة أكثر تحديدًا
يقوم مستخدمو واجهة برمجة التطبيقات (API) بضبط معلمات top_p وtop_k للتحكم في مدى روعة مخرجات النموذج
المخاطر والدرابزين
يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
خارطة طريق التنفيذ
حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Nucleus and Top-k Sampling quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
أخذ العينات النموذجية
الأسئلة المتداولة
What is Nucleus and Top-k Sampling?
تعد عينات Nucleus (top-p) وtop-k من طرق فك التشفير التي تضيف عشوائية محكومة إلى إنشاء النص عن طريق تقييد الرموز المميزة التي يمكن اختيارها. إنها مهمة لأنها تجعل الكتابة بالذكاء الاصطناعي تبدو طبيعية ومتنوعة بدلاً من التكرار أو الروبوتية.
كيف يقيد أخذ العينات من أعلى k اختيارات الرمز المميز؟
يقوم Top-k باقتطاع التوزيع إلى رقم ثابت k من الرموز المميزة الأكثر احتمالية، وإعادة التطبيع، والعينات من تلك الرموز.
ما الذي يحدد "النواة" في أخذ عينات النواة (top-p)؟
يحتفظ Top-p بأصغر مجموعة من الرموز المميزة التي يصل احتمالها التراكمي إلى العتبة p، ثم يتم أخذ عينات منها.
ما هي الميزة الرئيسية لـ top-p على top-k؟
تتقلص مجموعة مرشحات Top-p عندما يكون النموذج واثقًا وتنمو عندما يكون غير مؤكد، على عكس العد الثابت لـ top-k.
ماذا تفعل معلمة درجة الحرارة قبل أخذ العينات؟
تركز درجة الحرارة المنخفضة الاحتمالية على الرموز المميزة (أكثر حتمية)؛ ارتفاع درجة الحرارة يسطحها (أكثر تنوعا).
لماذا غالبًا ما يكون فك التشفير الجشع (الرمز المميز دائمًا) غير مرغوب فيه للنص المفتوح؟
كثيرًا ما يتعثر فك التشفير الجشع في التكرار ويفتقر إلى التنوع الطبيعي الذي توفره عملية أخذ العينات الخاضعة للرقابة.