دليل الأساسيات
التعلم المستمر والنسيان الكارثي
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities.
استمع إلى هذا الدليلرواه الذكاء الاصطناعي · ~1 min
في هذه الصفحة1 دقيقة قراءة
نظرة عامة
Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
الغوص العميق
EWC uses a Fisher-information-based regularizer to discourage changes to parameters considered important for prior tasks. GEM uses episodic examples to constrain gradient updates; its guarantee concerns a local linear approximation to previous-task losses, so actual finite updates can still change performance. iCaRL stores exemplars, selects representatives with a herding procedure and classifies using per-class mean features. Replay methods revisit retained examples; these methods have different memory, privacy and compute tradeoffs. The stability-plasticity tradeoff describes balancing retention with learning new tasks.
التنفيذ في العالم الحقيقي
Evaluate old and new tasks after each update.
Use replay samples when permitted by data policy.
Compare regularization methods such as EWC against fine-tuning.
Record task order and memory budget.
مستقبل التعلم المستمر والنسيان الكارثي
Continual-learning results depend on task sequence, model, data access, and evaluation protocol. Report both new-task learning and old-task retention.
وضعها موضع التنفيذ
لماذا يهم
- قرارات أوضح. يساعدك على فصل المطالبات الفنية الواضحة عن لغة التسويق.
- التكلفة والميزانية. يمكنك طرح أسئلة تنفيذ أفضل قبل إنفاق المال أو الوقت.
- الفريق وسير العمل. تتخذ الفرق ذات الفهم المشترك قرارات أفضل بشأن المنتجات والسياسات والتعلم.
احترس من
- قد تستخدم الفرق المختلفة نفس المصطلح بشكل مختلف، لذا حدد النطاق مبكرًا.
- يمكن أن تبدو المعايير قوية بينما يكون الأداء في العالم الحقيقي غير متساوٍ.
- غالبًا ما يؤدي تجاهل جودة البيانات وخطط التقييم إلى نتائج هشة.
الخطوات التالية
- ابدأ بتعريف لغة واضحة للنتيجة التي تحتاجها.
- اختر مقياس نجاح واحد وحالة فشل واحدة قبل الاختبار.
- قم بتشغيل برنامج تجريبي صغير يحتوي على بيانات تمثيلية، وليس مجموعة تجريبية مصقولة.
- قم بالتوثيق حيث يساعد التعلم المستمر والنسيان الكارثي وحيث تكون الطرق الأبسط أفضل.
استمر في الاستكشاف
رسالة إخبارية مجانية
احصل على الإحاطة اليومية لمنظمة العفو الدولية
ثلاث قصص تم التحقق منها بواسطة الذكاء الاصطناعي كل صباح من أيام الأسبوع، مكتوبة باللغة الإنجليزية البسيطة. مجاني للأبد، بدون إعلانات.
بريد إلكتروني واحد كل يوم من أيام الأسبوع. إلغاء الاشتراك بنقرة واحدة. نحن لا نبيع أو نشارك عنوانك أبدًا.
اختبر نفسك
Take the Continual Learning and Catastrophic Forgetting quiz
تعليقات فورية على كل إجابة، وشهادة قابلة للمشاركة مع معرف يمكن التحقق منه بمجرد اجتياز الدورة التدريبية.
دعم تعليم الذكاء الاصطناعي المجاني. AI Understanding هي منظمة 501(c)(3) غير ربحية - لا إعلانات ولا نظام حظر الاشتراك غير المدفوع على الإطلاق. قم بالتبرع
الأسئلة المتداولة
ما هو التعلم المستمر والنسيان الكارثي؟
Continual learning updates a model over a sequence of tasks or data streams while trying to retain useful prior capabilities. Catastrophic forgetting is a common failure where learning new tasks degrades earlier performance.
ما هو "النسيان الكارثي"؟
النسيان الكارثي هو الخسارة الحادة لأداء المهام القديمة عندما تتم الكتابة فوق الأوزان المشتركة للشبكة أثناء تعلم شيء جديد.
ما الذي تفعله عملية توحيد الوزن المرن (EWC)؟
تضيف EWC عقوبة (باستخدام معلومات فيشر) تعمل على تثبيت الأوزان التي تعتبر مهمة للمهام القديمة، مما يقلل من النسيان.
كيف تحارب الأساليب المبنية على إعادة العرض النسيان؟
تقوم ميزة Replay بدمج الأمثلة السابقة في دفعات جديدة بحيث تعكس التدرجات كلاً من المهام القديمة والجديدة، وتقريب البيانات المشتركة الأصلية.
كيف تقيد الذاكرة العرضية المتدرجة (GEM) تحديث التدرج أثناء تعلم مهمة جديدة؟
GEM projects updates using episodic-memory losses so the local first-order approximation does not increase loss on previous-task examples. This constraint is based on a local linearization and does not guarantee actual loss will never rise after every finite step.
لماذا يؤدي الضبط الساذج لمهمة جديدة إلى النسيان؟
تعمل تحديثات التدرج غير المقيدة على إعادة كتابة الأوزان المشتركة نحو المناطق المثالية الجديدة والتخلي عن المناطق التي كانت جيدة للمهام السابقة.
استمر في التعلم
أدلة ذات صلة
تم اختيار المزيد من الأدلة لهذا الموضوع