निरंतर सीखना और विनाशकारी विस्मृति
निरंतर सीखना एआई को समय के साथ नए कार्यों की एक श्रृंखला में प्रशिक्षित करने का लक्ष्य है, जो वह पहले से जानता है उसे मिटाए बिना।
सिंहावलोकन
Its central obstacle is catastrophic forgetting: when a neural network learns a new task, gradient updates overwrite the weights that encoded earlier tasks, and old skills collapse.
गहरा गोता
मानक तंत्रिका नेटवर्क मानते हैं कि सारा डेटा एक ही बार में उपलब्ध है। वास्तविक दुनिया में, डेटा क्रमिक रूप से आता है, और नए कार्यों पर भोलेपन से फाइन-ट्यूनिंग भयावह भूल का कारण बनता है - पिछले कार्यों पर प्रदर्शन कम हो जाता है क्योंकि साझा भार फिर से लिखे जाते हैं। निरंतर सीखना क्लासिक स्थिरता-प्लास्टिसिटी दुविधा, प्लास्टिसिटी (नए ज्ञान को अवशोषित करना) के खिलाफ स्थिरता (पुराने ज्ञान को बनाए रखना) को संतुलित करना चाहता है। समाधान के तीन मुख्य परिवार मौजूद हैं: इलास्टिक वज़न समेकन जैसे नियमितीकरण के तरीके जो पुराने कार्यों के लिए महत्वपूर्ण समझे जाने वाले वज़न में परिवर्तन को दंडित करते हैं; रीप्ले विधियाँ जो पिछले कार्यों से नमूने संग्रहीत या उत्पन्न करती हैं और उन्हें प्रशिक्षण के दौरान छोड़ देती हैं; और वास्तुशिल्प विधियां जो प्रति कार्य नए पैरामीटर या मॉड्यूल आवंटित करती हैं। कोई भी एकल विधि इसे पूरी तरह से हल नहीं करती है, और मूल्यांकन कार्य-, डोमेन- और वर्ग-वृद्धिशील सेटिंग्स तक फैला हुआ है।
तकनीकी अंतर्दृष्टि
विनाशकारी विस्मृति उत्पन्न होती है क्योंकि एक नए कार्य पर क्रमिक वंश पुराने कार्यों के लिए अच्छे क्षेत्रों के पास रहने के लिए बिना किसी बाधा के एक नए इष्टतम की ओर साझा भार ले जाता है। इलास्टिक वेट कंसॉलिडेशन प्रत्येक वजन के महत्व का अनुमान लगाता है (फिशर सूचना मैट्रिक्स के माध्यम से) और एक द्विघात दंड जोड़ता है जो महत्वपूर्ण वजन को उनके पुराने मूल्यों के करीब रखता है। रीप्ले संग्रहीत या उत्पन्न पुराने उदाहरणों को नए बैचों में मिलाकर मूल संयुक्त वितरण का अनुमान लगाता है, इसलिए ग्रेडिएंट पुराने और नए दोनों कार्यों को दर्शाते हैं, जिससे विनाशकारी ओवरराइटिंग कम हो जाती है।
सामरिक प्रभाव
स्पष्ट निर्णय
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है।
लागत और बजट
आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं।
टीम और वर्कफ़्लो
साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं।
निरंतर सीखने और भयावह भूलने का भविष्य
पूर्ण, महँगे पुनर्प्रशिक्षण के बिना बड़े मॉडलों को चालू रखने के लिए निरंतर सीखना बहुत महत्वपूर्ण होता जा रहा है। अनुसंधान पैरामीटर-कुशल निरंतर अपडेट (एडेप्टर, प्रति कार्य में जोड़े गए लोआरए मॉड्यूल), जेनरेटर मॉडल का उपयोग करके बेहतर रीप्ले, और भूलने और अवांछित बहाव से बचते हुए नींव मॉडल में ज्ञान को अपडेट करने वाले तरीकों पर जोर दे रहा है। आजीवन एजेंटों के लिए कड़े लिंक की अपेक्षा करें जो डिवाइस पर सीखते हैं, गोपनीयता-संरक्षण रीप्ले जो कच्चे डेटा को संग्रहीत करने से बचाता है, और बेंचमार्क जो सुव्यवस्थित कार्य सीमाओं के बजाय यथार्थवादी, गैर-स्थिर डेटा धाराओं को बेहतर ढंग से प्रतिबिंबित करते हैं।
वास्तविक विश्व कार्यान्वयन
एक तैनात छवि वर्गीकरणकर्ता जिसे पिछली श्रेणियों को भूले बिना हर महीने नई उत्पाद श्रेणियां सीखनी होंगी।
ऑन-डिवाइस वैयक्तिकरण (कीबोर्ड या वॉयस असिस्टेंट) जो सामान्य सटीकता खोए बिना समय के साथ उपयोगकर्ता के अनुकूल हो जाता है।
रोबोट जो पहले से महारत हासिल किए गए कौशल को बरकरार रखते हुए क्रमिक रूप से नए हेरफेर कौशल हासिल करते हैं।
एडेप्टर का उपयोग करके नए तथ्यों या डोमेन के साथ एक भाषा मॉडल को अपडेट करना ताकि पूर्व क्षमताओं को संरक्षित किया जा सके।
जोखिम और रेलिंग
अलग-अलग टीमें एक ही शब्द का अलग-अलग इस्तेमाल कर सकती हैं, इसलिए दायरे को पहले ही परिभाषित कर लें।
बेंचमार्क मजबूत दिख सकते हैं जबकि वास्तविक दुनिया का प्रदर्शन असमान है।
डेटा गुणवत्ता और मूल्यांकन योजनाओं की अनदेखी अक्सर नाजुक परिणाम पैदा करती है।
कार्यान्वयन रोडमैप
आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें।
परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें।
प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट।
दस्तावेज़ जहां निरंतर सीखना और विनाशकारी भूलने से मदद मिलती है और जहां सरल तरीके बेहतर होते हैं।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Continual Learning and Catastrophic Forgetting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
विनाशकारी विस्मृति
अक्सर पूछे जाने वाले प्रश्नों
What is Continual Learning and Catastrophic Forgetting?
निरंतर सीखना एआई को समय के साथ नए कार्यों की एक श्रृंखला में प्रशिक्षित करने का लक्ष्य है, जो वह पहले से जानता है उसे मिटाए बिना। इसकी केंद्रीय बाधा भयावह भूल है: जब एक तंत्रिका नेटवर्क एक नया कार्य सीखता है, तो ग्रेडिएंट अपडेट पहले के कार्यों को एन्कोड करने वाले भार को अधिलेखित कर देता है, और पुराने कौशल नष्ट हो जाते हैं।
'विनाशकारी भूल' क्या है?
जब कुछ नया सीखते समय नेटवर्क के साझा भार को अधिलेखित कर दिया जाता है, तो विनाशकारी भूल पुराने कार्य के प्रदर्शन का तीव्र नुकसान है।
इलास्टिक वज़न समेकन (ईडब्ल्यूसी) क्या करता है?
ईडब्ल्यूसी एक जुर्माना जोड़ता है (फिशर जानकारी का उपयोग करके) जो पुराने कार्यों के लिए महत्वपूर्ण समझे जाने वाले वजन को नियंत्रित करता है, भूलने की समस्या को कम करता है।
रीप्ले-आधारित विधियाँ भूलने से कैसे लड़ती हैं?
रीप्ले पिछले उदाहरणों को नए बैचों में मिलाता है, इसलिए ग्रेडिएंट मूल संयुक्त डेटा का अनुमान लगाते हुए पुराने और नए दोनों कार्यों को दर्शाते हैं।
निरंतर सीखने की विधियों के तीन मुख्य परिवारों में से कौन सा एक नहीं है?
तीन मुख्य परिवार नियमितीकरण, पुनरावृत्ति और वास्तुशिल्प विधियां हैं; संपीड़न उनमें से एक नहीं है.
किसी नए कार्य को सरलतापूर्वक ठीक करने से भूल क्यों हो जाती है?
अनियंत्रित ग्रेडिएंट अपडेट नए इष्टतम की ओर साझा भार को फिर से लिखते हैं, उन क्षेत्रों को छोड़ देते हैं जो पिछले कार्यों के लिए अच्छे थे।