القدرات الناشئة لنماذج اللغة الكبيرة

They matter because they make capabilities hard to predict from small-scale experiments.

ويشير مصطلح "الظهور"، الذي تم ترويجه في ورقة بحثية أجراها وي وزملاؤه عام 2022، إلى المهام التي يظل فيها الأداء قريبًا من الصدفة بالنسبة للنماذج الأصغر ثم يقفز بشكل حاد بمجرد تجاوز النموذج عتبة الحجم في المعلمات أو البيانات أو الحساب. وشملت الأمثلة المبلغ عنها الحساب متعدد الخطوات، ومعايير استدلال معينة، واتباع تعليمات جديدة. كان الجزء اللافت للنظر هو الانقطاع: لم تكن المهارة تتحسن تدريجيًا، بل بدت غائبة ثم حاضرة. جادل شيفر وزملاؤه في متابعة عام 2023 بأن بعض الظهور هو جزئيًا قطعة أثرية في القياس، لأن المقاييس القاسية التي تتضمن كل شيء أو لا شيء، مثل المطابقة التامة، تبالغ في القفزات المفاجئة التي تبدو سلسة في ظل تسجيل أكثر ليونة. أعاد النقاش تشكيل كيفية قيام الباحثين بالإبلاغ عن نتائج القياس واختيار مقاييس التقييم.