التنبؤ بالرمز التالي
التنبؤ بالرمز التالي هو الهدف البسيط المخادع وراء نماذج نمط GPT: بالنظر إلى كل شيء حتى الآن، خمن الجزء التالي من النص.
نظرة عامة
Repeated billions of times, this single task produces models that write, reason, and converse.
الغوص العميق
يقوم التنبؤ بالرمز التالي بتدريب نموذج لتعيين الاحتمالات للرمز المميز التالي بالنظر إلى جميع الرموز المميزة السابقة. يتم تقسيم النص أولاً إلى رموز مميزة (أجزاء كلمات فرعية) بواسطة أداة رمزية مثل تشفير زوج البايت. يقرأ المحول المخصص لوحدة فك التشفير فقط التسلسل من اليسار إلى اليمين ويخرج توزيعًا احتماليًا على كامل المفردات للموضع التالي. أثناء التدريب، يتم عرض مجموعة نصية ضخمة على النموذج ويتم معاقبته كلما قام بتعيين احتمالية منخفضة للرمز المميز التالي الفعلي. في وقت الإنشاء، يقوم النموذج باختيار رمز مميز أو اختياره بجشع، وإلحاقه، وتكرار هذه الحلقة بشكل انحداري تلقائي. يتسع هذا الهدف بشكل ملحوظ: تعلم كل من GPT-2 وGPT-3 والخلفاء القواعد والحقائق والترجمة والاستدلال فقط من خلال التمكن من التنبؤ بالرمز المميز التالي.
البصيرة الفنية
الآلية الرئيسية هي الاهتمام الذاتي السببي (المقنع): عند التنبؤ بالموضع N، قد يهتم النموذج فقط بالمواقع من 1 إلى N-1، وليس المستقبل أبدًا. تعرض طبقة الإخراج الحالة المخفية النهائية على المفردات وتطبق softmax للحصول على الاحتمالات. يقلل التدريب من الإنتروبيا المتقاطعة، وهو ما يعادل تعظيم احتمالية النص المرصود. تعمل عناصر التحكم في أخذ العينات مثل درجة الحرارة وأعلى مستوى على إعادة تشكيل هذا التوزيع عند الاستدلال لمقايضة الإبداع بالموثوقية.
التأثير الاستراتيجي
السرعة والحجم
يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
الوصول والوصول
فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
قرارات أوضح
يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
مستقبل التنبؤ بالرمز التالي
يدعم التنبؤ بالرمز التالي بشكل أساسي جميع نماذج اللغات الكبيرة الحديثة وسيظل العمود الفقري للذكاء الاصطناعي التوليدي. يقوم البحث بتوسيع نطاقه من خلال نوافذ سياقية أطول، وفك التشفير التخميني والمتوازي للسرعة، وأهداف التنبؤ متعددة الرموز التي تخمن العديد من الرموز المميزة المستقبلية في وقت واحد. تعزيز التعلم من طبقات التغذية الراجعة البشرية في الأعلى لمواءمة المخرجات. إن الحدود تجعل نفس الهدف البسيط أرخص وأسرع وأكثر قابلية للتحكم على نطاق أوسع من أي وقت مضى.
التنفيذ في العالم الحقيقي
تشغيل ChatGPT والمساعدين المشابهين لإنشاء استجابات محادثة برمز مميز واحد في كل مرة.
الإكمال التلقائي واقتراحات التعليمات البرمجية في أدوات مثل GitHub Copilot أثناء الكتابة.
صياغة رسائل البريد الإلكتروني والمقالات والنسخة التسويقية من خلال رسالة قصيرة.
إنشاء نص في الوقت الفعلي في مساعدي الكتابة الذين ينهون جملك.
المخاطر والدرابزين
يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
خارطة طريق التنفيذ
حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Next-Token Prediction quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
التدريب على التنبؤ بالرموز المتعددة
الأسئلة المتداولة
What is Next-Token Prediction?
التنبؤ بالرمز التالي هو الهدف البسيط المخادع وراء نماذج نمط GPT: بالنظر إلى كل شيء حتى الآن، خمن الجزء التالي من النص. وبتكرار هذه المهمة مليارات المرات، تنتج نماذج تكتب وتعقل وتتحدث.
ما الذي يخرجه نموذج التنبؤ بالرمز المميز التالي في كل خطوة؟
ينتج النموذج احتمالًا لكل رمز مميز تالي محتمل، ثم يتم تحديد واحد عن طريق أخذ العينات أو الاختيار الجشع.
ما نوع الاهتمام الذي يستخدمه جهاز فك التشفير بنمط GPT؟
يضمن الإخفاء السببي أن الموضع N يمكنه رؤية المواضع التي قبله فقط، مع الحفاظ على إعداد التنبؤ من اليسار إلى اليمين.
ماذا يعني جيل "الانحدار الذاتي" هنا؟
يُنتج إنشاء الانحدار التلقائي رمزًا مميزًا واحدًا، ويضيفه إلى السياق، ويكرر الحلقة.
ما هي وظيفة الخسارة التي يتم تقليلها عادةً أثناء التدريب؟
يعاقب الإنتروبيا المتقاطعة النموذج لتعيين احتمالية منخفضة للرمز الحقيقي التالي، أي ما يعادل تعظيم الاحتمالية.
ماذا يفعل رفع درجة الحرارة أثناء أخذ العينات؟
تؤدي درجات الحرارة المرتفعة إلى تسطيح التوزيع الاحتمالي، مما يزيد من العشوائية؛ انخفاض درجة الحرارة يجعل الخيارات أكثر تحفظا.