النسيان الكارثي
يحدث النسيان الكارثي عندما تتعلم الشبكة العصبية مهمة جديدة وتفقد فجأة قدرتها على أداء المهام التي أتقنتها بالفعل.
نظرة عامة
It is a central obstacle to building AI that learns continually without retraining from scratch.
الغوص العميق
تقوم الشبكات العصبية بتخزين المعرفة في أوزان مشتركة. عندما تقوم بتدريب نموذج على مهمة جديدة، فإن التحديثات المتدرجة تحل محل المعلمات ذاتها التي قامت بتشفير المهارات السابقة، لذلك يمكن أن ينهار الأداء القديم. وهذا هو النسيان الكارثي، والذي يسمى أيضًا بالتداخل الكارثي، والذي تم توثيقه لأول مرة من قبل مكلوسكي وكوهين في عام 1989. وهو حاد في التعلم المتسلسل أو المستمر، حيث تصل البيانات على مراحل بدلا من خلطها كلها معًا. على سبيل المثال، يمكن أن يؤدي ضبط روبوت الدردشة بشكل كبير على النص القانوني إلى تقليل قدرته العامة على المحادثة. الحل القياسي للقوة الغاشمة هو إعادة التدريب على جميع المهام بشكل مشترك، لكن هذا مكلف ويفترض أنك لا تزال تمتلك البيانات القديمة. يستخدم الباحثون بدلاً من ذلك تقنيات تحمي الأوزان المهمة، أو تعيد عرض الأمثلة السابقة، أو تضيف معلمات خاصة بمهمة معينة، وكل ذلك يهدف إلى السماح للنماذج بتجميع المعرفة بالطريقة التي يفعلها البشر.
البصيرة الفنية
ويحدث النسيان بسبب إعادة استخدام نفس الأوزان عبر المهام، كما أن التدرج غير المقيد للبيانات الجديدة يحركها بحرية. تتضمن عمليات التخفيف توحيد الوزن المرن، الذي يضيف عقوبة تؤدي إلى إبطاء التغييرات في المعلمات التي تعتبر مهمة للمهام القديمة (يتم تقديرها عبر معلومات فيشر). الأساليب الأخرى هي التدرب أو إعادة التشغيل (تشذير الأمثلة القديمة المخزنة أو المنشأة)، وطرق عزل المعلمات مثل المحولات أو LoRA التي تجمد النموذج الأساسي وتضيف وحدات جديدة صغيرة.
التأثير الاستراتيجي
السرعة والحجم
يمكن أن تتحرك مسارات عمل اللغة بشكل أسرع دون التضحية بالاتساق.
الوصول والوصول
فهو يوسع الوصول عبر اللغات وأنماط الاتصال.
قرارات أوضح
يمكن للفرق قضاء المزيد من الوقت في الحكم بينما تتعامل الأتمتة مع التكرار.
مستقبل النسيان الكارثي
مع انتقال النماذج من التدريب لمرة واحدة إلى الأنظمة التي يتم تحديثها باستمرار مدى الحياة، يصبح التحكم في النسيان أمرًا ضروريًا. تتيح الأساليب ذات المعلمات الفعالة مثل محولات LoRA للفرق إضافة مهارات دون الإخلال بالنموذج الأساسي، وتتجنب أنظمة الاسترجاع المعززة المشكلة عن طريق الاحتفاظ بالمعرفة الجديدة في مخزن خارجي بدلاً من الأوزان. نتوقع أن تنضج معايير التعلم المستمر، والبنى المعيارية، وتقنيات الدمج المستوحاة من الدماغ، مما يدفعنا نحو النماذج التي يتم تحديثها بمعلومات جديدة مع الاحتفاظ بشكل موثوق بما يعرفونه بالفعل.
التنفيذ في العالم الحقيقي
إن برنامج الدردشة الآلي العام الذي تم ضبطه بشكل كبير على النص الطبي يفقد الطلاقة في المحادثة غير الرسمية.
يتيح توحيد الوزن المرن لوكيل الألعاب تعلم ألعاب Atari الجديدة دون نسيان الألعاب القديمة.
تستخدم الفرق محولات LoRA لإضافة مهارة مجال جديدة مع ترك قدرات النموذج الأساسي المجمد سليمة.
تقوم ميزة إعادة تشغيل التجربة بتخزين الأمثلة السابقة وتشفيرها أثناء التدريب الجديد للحفاظ على الأداء القديم.
المخاطر والدرابزين
يمكن للحقائق المهلوسة إدخال التقارير أو تدفقات الدعم أو مخرجات البحث بهدوء.
يمكن أن تؤدي الحساسية السريعة إلى نتائج غير متناسقة عبر الطلبات المماثلة.
قد يتم كشف البيانات النصية الحساسة إذا كانت عناصر التحكم في الوصول ضعيفة.
خارطة طريق التنفيذ
حدد تنسيق الإخراج والنغمة ومعايير الجودة قبل بدء التشغيل.
استجابات أرضية من مصادر موثوقة عندما تكون الدقة مهمة.
احتفظ بنقطة تفتيش للمراجعة البشرية للمخرجات عالية المخاطر.
تتبع أنماط الفشل وأعد تدريب المطالبات أو سير العمل بانتظام.
استمر في الاستكشاف
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Catastrophic Forgetting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
الدليل التالي
التعلم المستمر والنسيان الكارثي
الأسئلة المتداولة
What is Catastrophic Forgetting?
يحدث النسيان الكارثي عندما تتعلم الشبكة العصبية مهمة جديدة وتفقد فجأة قدرتها على أداء المهام التي أتقنتها بالفعل. إنها عقبة أساسية أمام بناء ذكاء اصطناعي يتعلم باستمرار دون إعادة التدريب من الصفر.
ما هو النسيان الكارثي؟
النسيان الكارثي هو الفقدان المفاجئ للقدرات القديمة عندما يتم تدريب الشبكة على مهمة جديدة، بسبب استبدال الأوزان المشتركة.
لماذا يحدث النسيان الكارثي في الشبكات العصبية؟
إن المعرفة تعيش في معلمات مشتركة، لذا فإن التدريب على البيانات الجديدة يغير تلك الأوزان نفسها ويمحو التعلم السابق.
ما الذي يفعله نظام تثبيت الوزن المرن (EWC) لتقليل النسيان؟
تضيف EWC عقوبة تنظيم تؤدي إلى إبطاء تحديثات المعلمات التي تعتبر مهمة للمهام القديمة، والتي يتم تقديرها عبر معلومات Fisher.
كيف تحارب تجربة الإعادة (البروفة) النسيان؟
يمزج التدريب في الأمثلة السابقة (المخزنة أو المنشأة) أثناء تعلم مهام جديدة بحيث يتم تعزيز الأداء القديم.
لماذا تعد محولات LoRA مفيدة لتجنب النسيان الكارثي؟
تحافظ LoRA على تجميد النموذج الأساسي وتتعلم معلمات إضافية صغيرة، بحيث لا تزعج المهارات الجديدة القدرات الحالية.