गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
निरंतर सीखना और विनाशकारी विस्मृति प्रश्नोत्तरी
विनाशकारी विस्मृति, स्थिरता-प्लास्टिसिटी, ईडब्ल्यूसी, रीप्ले, कार्य परिवार और निरंतर-सीखने की सीमाओं की समीक्षा करें। दायरा और धारणाओं की जाँच करें.
प्रश्न 1 का 8
'विनाशकारी भूल' क्या है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- 'विनाशकारी भूल' क्या है?
- कोई नया कार्य सीखते समय पहले सीखे गए कार्यों के प्रदर्शन में तेजी से गिरावट आती है
- जब किसी मॉडल की मेमोरी ख़त्म हो जाती है और क्रैश हो जाता है
- जब प्रशिक्षण डेटा गलती से हटा दिया जाता है
- जब कोई मॉडल भविष्यवाणी करने से इंकार कर देता है
- निरंतर सीखने के केंद्र में व्यापार-बंद को अक्सर कहा जाता है:
- पूर्वाग्रह-विचरण व्यापारऑफ़
- स्थिरता-प्लास्टिसिटी दुविधा
- गति-सटीकता ट्रेडऑफ़
- अन्वेषण-शोषण समझौता
- इलास्टिक वज़न समेकन (ईडब्ल्यूसी) क्या करता है?
- महत्वहीन न्यूरॉन्स को हटा देता है
- नए कार्यों के लिए सीखने की दर दोगुनी हो जाती है
- पहले सीखे गए कार्यों के लिए महत्वपूर्ण भारों में परिवर्तन को दंडित करता है
- हर पिछले प्रशिक्षण उदाहरण को हमेशा के लिए संग्रहीत करता है
- रीप्ले-आधारित विधियाँ भूलने से कैसे लड़ती हैं?
- संपूर्ण नेटवर्क को स्थायी रूप से फ़्रीज़ करके
- बड़ी सीखने की दर का उपयोग करके
- हानि फ़ंक्शन को हटाकर
- संग्रहीत या उत्पन्न पुराने उदाहरणों को नए प्रशिक्षण में जोड़कर
- How does Gradient Episodic Memory (GEM) constrain a gradient update while learning a new task?
- It projects the gradient so its first-order approximation does not increase loss on stored prior-task examples
- It replaces all prior-task data with new examples
- It freezes every parameter for all future tasks
- It increases weights that were unimportant to earlier tasks
- किसी नए कार्य को सरलतापूर्वक ठीक करने से भूल क्यों हो जाती है?
- GPU ज़्यादा गरम हो जाता है और मेमोरी ख़राब हो जाती है
- ग्रेडिएंट डिसेंट पुराने कार्यों को संरक्षित करने के लिए बिना किसी बाधा के साझा भार को नए कार्य की ओर ले जाता है
- नए कार्यों में हमेशा अधिक डेटा होता है
- मॉडल जानबूझकर पुराने वज़न हटा देता है
- How does iCaRL classify a test example after learning multiple classes?
- By retrieving the single closest word in a text corpus
- By selecting the class with the largest Fisher information
- By comparing its feature vector with per-class means computed from stored exemplars
- By replaying every training image at inference
- Why is evaluating continual learning more than measuring final accuracy on the newest task?
- New-task accuracy is the only relevant measure
- Old tasks are removed from the evaluation
- The model cannot be tested on multiple tasks
- A method must also measure retention on prior tasks and its ability to learn new ones