التاليالدليل التالي
نماذج اللغة الكبيرة الطبية
لغة الذكاء الاصطناعي
دليل اللغة AI
القدرات الناشئة هي المهارات التي تظهر فجأة في نماذج اللغة الكبيرة بمجرد اجتيازها مقياسًا معينًا، على الرغم من أن النماذج الأصغر لم تظهر أي علامة عليها.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~2 min
إنها مهمة لأنها تجعل من الصعب التنبؤ بالقدرات من خلال تجارب صغيرة النطاق.
ويشير مصطلح "الظهور"، الذي تم ترويجه في ورقة بحثية أجراها وي وزملاؤه عام 2022، إلى المهام التي يظل فيها الأداء قريبًا من الصدفة بالنسبة للنماذج الأصغر ثم يقفز بشكل حاد بمجرد تجاوز النموذج عتبة الحجم في المعلمات أو البيانات أو الحساب. وشملت الأمثلة المبلغ عنها الحساب متعدد الخطوات، ومعايير استدلال معينة، واتباع تعليمات جديدة. كان الجزء اللافت للنظر هو الانقطاع: لم تكن المهارة تتحسن تدريجيًا، بل بدت غائبة ثم حاضرة. جادل شيفر وزملاؤه في متابعة عام 2023 بأن بعض الظهور هو جزئيًا قطعة أثرية في القياس، لأن المقاييس القاسية التي تتضمن كل شيء أو لا شيء، مثل المطابقة التامة، تبالغ في القفزات المفاجئة التي تبدو سلسة في ظل تسجيل أكثر ليونة. أعاد النقاش تشكيل كيفية قيام الباحثين بالإبلاغ عن نتائج القياس واختيار مقاييس التقييم.
تحل النماذج الكبيرة مسائل كلامية متعددة الخطوات تجيب عليها الإصدارات الأصغر على مستوى الصدفة.
نموذج يتبع فجأة تعليمات معقدة لم يسبق لها مثيل بعد تجاوز عتبة المقياس.
لا تؤدي سلسلة الأفكار إلى تعزيز الاستدلال إلا عندما تصل النماذج إلى الحجم الكافي.
يعيد الباحثون رسم قفزة قياسية "مفاجئة" من خلال تسجيل الائتمان الجزئي وإيجاد منحنى سلس.
يقوم الباحثون الآن بربط دراسات القياس بمقاييس متعددة لفصل تغيرات الطور الحقيقية عن المصنوعات، ويستكشفون الإمكانات التي لا تصل حقًا إلا على نطاق واسع. إن القدرة على التنبؤ بشكل أفضل أمر مهم للسلامة، حيث أن القدرات غير المتوقعة يمكن أن تشمل قدرات محفوفة بالمخاطر. توقع المزيد من العمل على توسيع نطاق القوانين التي تتنبأ بالقدرات مقدمًا، بالإضافة إلى التصميم المرجعي الدقيق بحيث يعكس "الظهور" المزعوم سلوك النموذج بدلاً من مجرد خلل في القياس.
رسالة إخبارية مجانية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
القدرات الناشئة هي المهارات التي تظهر فجأة في نماذج اللغة الكبيرة بمجرد اجتيازها مقياسًا معينًا، على الرغم من أن النماذج الأصغر لم تظهر أي علامة عليها. إنها مهمة لأنها تجعل من الصعب التنبؤ بالقدرات من خلال تجارب صغيرة النطاق.
The cited work described apparently sharp capability changes for some tasks.
The follow-up argues nonlinear or discontinuous metrics can create apparent abrupt jumps.
The study explains that all-or-nothing metrics can exaggerate a discontinuity.
The paper reports metric changes can reveal smoother performance trends.
The research debate emphasizes metric choice and better statistics.
استمر في التعلم
تم اختيار المزيد من الأدلة لهذا الموضوع
التاليالدليل التالي
نماذج اللغة الكبيرة الطبية
لغة الذكاء الاصطناعي