गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
विनाशकारी विस्मृति प्रश्नोत्तरी
अध्ययन करें कि क्रमिक रूप से नए कार्यों को सीखना पिछले कौशल को क्यों ख़राब कर सकता है और निरंतर सीखने के तरीके कैसे व्यापार को संबोधित करते हैं।
प्रश्न 1 का 8
Which situation describes catastrophic forgetting in a neural network?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- Which situation describes catastrophic forgetting in a neural network?
- जब कोई नया कार्य सीखते हैं तो मॉडल पहले से सीखी गई क्षमताओं को खो देता है
- जब अनुमान के दौरान किसी मॉडल की मेमोरी खत्म हो जाती है
- जब प्रशिक्षण डेटा गलती से हटा दिया जाता है
- जब कोई मॉडल किसी प्रश्न का उत्तर देने से इंकार कर देता है
- तंत्रिका नेटवर्क में भयावह विस्मृति क्यों होती है?
- क्योंकि प्रत्येक कार्य को स्वचालित रूप से अपना अलग नेटवर्क मिल जाता है
- क्योंकि नए ग्रेडिएंट अपडेट पुराने कौशल को एन्कोड करने वाले साझा भार को अधिलेखित कर देते हैं
- क्योंकि मॉडल एक से अधिक तथ्य संग्रहीत नहीं कर सकते
- क्योंकि ध्यान परतें जानबूझकर डेटा हटाती हैं
- भूलने की समस्या को कम करने के लिए इलास्टिक वेट कंसॉलिडेशन (ईडब्ल्यूसी) क्या करता है?
- नए कार्य का डेटा हटा देता है
- सीखने की दर दोगुनी हो जाती है
- पहले सीखे गए कार्यों के लिए महत्वपूर्ण भारों में परिवर्तन को दंडित करता है
- मॉडल से ध्यान हटाता है
- अनुभव पुनरावृत्ति (रिहर्सल) भूलने से कैसे लड़ता है?
- संपूर्ण मॉडल को स्थायी रूप से फ्रीज करके
- केवल नवीनतम डेटा पर प्रशिक्षण द्वारा
- परतों की संख्या कम करके
- नए प्रशिक्षण के दौरान संग्रहीत पुराने उदाहरणों को जोड़कर
- What does LoRA do to base-model weights when adding a task-specific adapter?
- It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
- It rewrites every base weight for each new task
- It stores no task-specific parameters
- It guarantees zero forgetting on every task sequence
- पुनर्प्राप्ति-संवर्धित दृष्टिकोण विनाशकारी भूल को कैसे दूर करता है?
- पुराने ज्ञान को मिटाकर जगह बनानी है
- नए ज्ञान को वज़न के बजाय बाहरी डेटाबेस में संग्रहीत करके
- यादृच्छिक शोर पर लगातार प्रशिक्षण द्वारा
- मॉडल की मेमोरी को पूरी तरह से अक्षम करके
- How does Gradient Episodic Memory (GEM) constrain learning on a new task?
- It removes old task examples from memory
- It changes the model to a nearest-class-mean classifier
- It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
- It adds a KL penalty to every parameter regardless of task
- How do RAG-Token and RAG-Sequence differ in the original RAG paper?
- RAG-Token removes retrieval while RAG-Sequence removes generation
- RAG-Sequence uses images while RAG-Token uses audio
- RAG-Token trains without model parameters
- RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence