أخذ العينات المجدولة والتحيز التعرض
انحياز التعريض هو الفجوة التي تظهر عندما يجب على النموذج الذي تم تدريبه على البادئات المثالية فقط، عند الاستدلال، أن يعتمد على مخرجاته غير الكاملة.
نظرة عامة
Scheduled sampling is a curriculum that gradually closes that gap.
الغوص العميق
النماذج التي تم تدريبها بإجبار المعلم لا ترى سوى رموز الحقيقة الأرضية كسياق، ولكن في وقت الجيل تقوم بتغذية تنبؤاتها الخاصة. عندما يؤدي خطأ مبكر إلى وصول النموذج إلى حالة لم يواجهها من قبل أثناء التدريب، يمكن أن تتزايد الأخطاء، وهو وضع فشل يسمى انحياز التعرض. يعالج أخذ العينات المجدولة، الذي قدمه بينجيو وزملاؤه في عام 2015، هذه المشكلة عن طريق رمي عملة معدنية في كل خطوة من خطوات فك التشفير أثناء التدريب: مع بعض الاحتمال، فإنه يغذي الرمز الحقيقي (إجبار المعلم)، وبخلاف ذلك فإنه يغذي تنبؤ النموذج الخاص بالعينة. تبدأ احتمالية استخدام الحقيقة الأساسية بالقرب من الواحد وتتلاشى مع التدريب من خلال جدول زمني (خطي أو أسي أو معكوس سيني)، لذلك يتعرض النموذج تدريجيًا لمخرجاته الخاصة ويتعلم التعافي من أخطائه.
البصيرة الفنية
في الخطوة t، يقوم النموذج باختبار متغير برنولي مع احتمال epsilon_i لاختيار الرمز الذهبي؛ epsilon_i يتحلل مع استمرار التدريب. تكمن الدقة في أن تغذية الرموز المميزة للعينات تجعل الهدف متحيزًا وأخذ العينات المنفصلة غير قابل للتمييز، لذلك لا تتدفق التدرجات بشكل نظيف من خلال الرمز المميز المرتد. تستخدم المتغيرات Gumbel-softmax المباشر أو الاسترخاءات القابلة للتمييز للتخفيف من ذلك، كما تعمل أساليب مستوى التسلسل على تحسين مقياس مثل BLEU مباشرةً.
التأثير الاستراتيجي
التكلفة والميزانية
تؤدي قرارات الهندسة المعمارية إلى زيادة الأداء وتكلفة التشغيل لسنوات.
قرارات أوضح
يساعد التعليم الفني الفرق على اختيار المجموعة المناسبة، وليس فقط المجموعة الأحدث.
مراقبة الجودة
تعمل الخيارات الهندسية الأفضل على تقليل حوادث الموثوقية في الإنتاج.
مستقبل أخذ العينات المجدولة وتحيز التعرض
بالنسبة لنماذج لغة المحولات الكبيرة، يتم مناقشة التأثير العملي لانحياز التعرض، نظرًا لأن البيانات الضخمة والحجم يضعفانه، وأساليب مثل RLHF تعيد تشكيل سلوك التوليد مباشرة. ومع ذلك، يظل أخذ العينات المجدولة وأحفاده مناسبًا للنماذج الأصغر حجمًا، والتوليد المنظم، والمهام التي تتطلب دقة صارمة. يمزج العمل المستقبلي بين التعرض للمناهج الدراسية، وأهداف تسلسل أسلوب التعزيز، والتدريب على الحد الأدنى من المخاطر لمواءمة كيفية تدريب النماذج مع كيفية فك تشفيرها فعليًا.
التنفيذ في العالم الحقيقي
تدريب نموذج التسميات التوضيحية للصور باستخدام عينات مجدولة حتى يتعلم الاستمرار بأمان بعد كلمة متوقعة غير كاملة
تدهور احتمالية إجبار المعلم على استخدام جدول سيني معكوس في نظام الترجمة الآلية العصبية
تشخيص روبوت الدردشة الذي ينجرف إلى حلقات غير متماسكة كعرض من أعراض تحيز التعرض من إجبار المعلم النقي
مقارنة درجات BLEU لملخص تم تدريبه مع فرض المعلم الكامل مقابل واحد تم تدريبه باستخدام أخذ العينات المجدولة
المخاطر والدرابزين
يمكن أن يؤدي تحسين معيار واحد إلى إخفاء نقاط ضعف النظام الأوسع.
غالبًا ما يتم التقليل من تكاليف البنية التحتية والصيانة.
يمكن أن تنمو الفجوات الأمنية وقابلية المراقبة عندما تصبح الأنظمة أكثر تعقيدًا.
خارطة طريق التنفيذ
تحديد الكمون والجودة وأهداف التكلفة قبل التنفيذ.
المعيار في ظل ظروف التحميل والبيانات الواقعية.
مراقبة الأدوات للأخطاء والانجراف وتأثير المستخدم.
قم بإعداد مسارات التراجع والاستجابة للحوادث قبل القياس.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Scheduled Sampling and Exposure Bias quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
أخذ العينات السلبية والتقدير التقابلي للضوضاء
الأسئلة المتداولة
What is Scheduled Sampling and Exposure Bias?
انحياز التعريض هو الفجوة التي تظهر عندما يجب على النموذج الذي تم تدريبه على البادئات المثالية فقط، عند الاستدلال، أن يعتمد على مخرجاته غير الكاملة. أخذ العينات المجدولة هو المنهج الذي يسد هذه الفجوة تدريجيا.
ماذا يفعل أخذ العينات المجدولة أثناء التدريب؟
يمزج أخذ العينات المجدولة بشكل عشوائي بين الحقيقة الأرضية والرموز المميزة التي تم إنشاؤها بواسطة النموذج كمدخلات لوحدة فك التشفير، والتي يتم التحكم فيها من خلال احتمالية متضائلة.
كيف يتغير احتمال استخدام رمز الحقيقة الأرضية مع التدريب في أخذ العينات المجدولة؟
يبدأ الجدول الزمني تقريبًا بإجبار المعلم بشكل كامل ثم يتحلل، لذا يتعرض النموذج بشكل متزايد لتوقعاته الخاصة أثناء تحسنه.
من الذي قدم أخذ العينات المجدولة، ومتى تقريبًا؟
تم اقتراح أخذ العينات المجدولة بواسطة Samy Bengio وزملاؤه في عام 2015 للتنبؤ بالتسلسل مع الشبكات المتكررة.
ما هو شكل الجدول الزمني الذي يتم الاستشهاد به بشكل شائع لتقليل احتمالية إجبار المعلم؟
اقترح العمل الأصلي جداول تحلل خطية وأسية وعكسية للسينية لتقليل احتمالية أخذ عينات الحقيقة الأرضية.