ओवरफिटिंग और अंडरफिटिंग
ओवरफिटिंग तब होती है जब कोई मॉडल अपने प्रशिक्षण डेटा को याद रखता है और नए उदाहरणों पर विफल रहता है; अंडरफ़िटिंग तब होती है जब वास्तविक पैटर्न को पकड़ना बहुत आसान होता है।
सिंहावलोकन
उनके बीच मधुर स्थान हासिल करना मशीन लर्निंग की केंद्रीय चुनौती है।
गहरा गोता
प्रत्येक मॉडल एक सीमित प्रशिक्षण सेट के लिए उपयुक्त है, लेकिन लक्ष्य अदृश्य डेटा पर अच्छा प्रदर्शन करना है। एक ओवरफ़िट मॉडल प्रशिक्षण सेट के शोर और विचित्रताओं को ऐसे मानता है जैसे कि वे वास्तविक संकेत हों: यह प्रशिक्षण डेटा पर 99% स्कोर कर सकता है, फिर भी परीक्षण सेट पर 70% तक गिर सकता है। एक अंडरफ़िट मॉडल विपरीत समस्या है, अंतर्निहित संरचना को पकड़ने के लिए बहुत कठोर है, इसलिए यह प्रशिक्षण और परीक्षण डेटा दोनों पर खराब प्रदर्शन करता है। प्रशिक्षण और परीक्षण प्रदर्शन के बीच का अंतर स्पष्ट संकेत है। अंडरफ़िटिंग हर जगह उच्च त्रुटि (उच्च पूर्वाग्रह) दिखाती है; ओवरफिटिंग कम प्रशिक्षण त्रुटि लेकिन उच्च परीक्षण त्रुटि (उच्च विचरण) के रूप में दिखाई देती है। कौशल यह पहचानना है कि आपको कौन सी समस्या है, क्योंकि समाधान विपरीत दिशाओं में खींचते हैं।
तकनीकी अंतर्दृष्टि
ओवरफिटिंग और अंडरफिटिंग पूर्वाग्रह-विचरण व्यापार के दो छोर हैं। पूर्वाग्रह अत्यधिक सरलीकृत धारणाओं से उत्पन्न त्रुटि है; भिन्नता विशिष्ट प्रशिक्षण नमूने के प्रति अत्यधिक संवेदनशील होने से हुई त्रुटि है। एक छोटे रैखिक मॉडल में उच्च पूर्वाग्रह और कम विचरण (अंडरफिट्स) होते हैं; एक विशाल अप्रतिबंधित मॉडल में कम पूर्वाग्रह और उच्च विचरण (ओवरफिट) होता है। कुल अपेक्षित त्रुटि मोटे तौर पर पूर्वाग्रह-वर्ग प्लस विचरण और अपरिवर्तनीय शोर के रूप में विघटित होती है। अभ्यासकर्ता प्रशिक्षण-सेट सटीकता की तुलना एक आयोजित-आउट सत्यापन सेट के साथ करके समस्या का पता लगाते हैं, यह देखते हुए कि दोनों वक्र कहाँ भिन्न होते हैं।
सामरिक प्रभाव
स्पष्ट निर्णय
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है।
लागत और बजट
आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं।
टीम और वर्कफ़्लो
साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं।
ओवरफिटिंग और अंडरफिटिंग का भविष्य
ये अवधारणाएँ मूलभूत बनी हुई हैं, लेकिन बहुत बड़े तंत्रिका नेटवर्क ने क्लासिक तस्वीर को जटिल बना दिया है। आधुनिक मॉडल में डेटा बिंदुओं की तुलना में कहीं अधिक पैरामीटर हो सकते हैं फिर भी वे अच्छी तरह से सामान्यीकृत होते हैं, एक आश्चर्यजनक शासन जिसे कभी-कभी 'डबल डिसेंट' कहा जाता है जहां ओवरफिटिंग शिखर के बाद परीक्षण त्रुटि फिर से कम हो जाती है। अनुसंधान तेजी से इस बात पर ध्यान केंद्रित कर रहा है कि अति-पैरामीटरीकृत मॉडल सामान्यीकरण क्यों करते हैं, ऑप्टिमाइज़र में अंतर्निहित नियमितीकरण की भूमिका, और वितरण बदलाव की बेहतर स्वचालित पहचान। समृद्ध निदान की अपेक्षा करें जो वास्तविक दुनिया के डेटा को प्रशिक्षण डेटा से दूर ले जाने के कारण उत्पादन में ओवरफिटिंग को चिह्नित करता है।
वास्तविक विश्व कार्यान्वयन
एक स्पैम फ़िल्टर जो एक विशिष्ट प्रेषक के नाम वाले प्रत्येक ईमेल को चिह्नित करता है क्योंकि उस प्रेषक ने प्रशिक्षण डेटा में भारी मात्रा में स्पैम किया था, जिससे नए स्पैमर पूरी तरह से गायब हो गए (ओवरफिटिंग)।
एक घर-मूल्य मॉडल जो केवल वर्ग फुटेज का उपयोग करता है और स्थान, शयनकक्ष और स्थिति को नजरअंदाज करता है, इसलिए यह महंगे पड़ोस (अंडरफिटिंग) में बुरी तरह से छूट जाता है।
एक मेडिकल इमेज क्लासिफायरियर जो बीमारी के बजाय अस्पताल के स्कैनर वॉटरमार्क का पता लगाना सीखता है, और अन्य अस्पतालों में विफल रहता है (एक नकली सुविधा से अधिक)।
प्रशिक्षण के दौरान प्रशिक्षण हानि बनाम सत्यापन हानि की साजिश रचना और जब सत्यापन हानि बढ़ने लगती है तो रुकना जबकि प्रशिक्षण हानि गिरती रहती है (ओवरफिटिंग को जल्दी पकड़ना)।
जोखिम और रेलिंग
अलग-अलग टीमें एक ही शब्द का अलग-अलग इस्तेमाल कर सकती हैं, इसलिए दायरे को पहले ही परिभाषित कर लें।
बेंचमार्क मजबूत दिख सकते हैं जबकि वास्तविक दुनिया का प्रदर्शन असमान है।
डेटा गुणवत्ता और मूल्यांकन योजनाओं की अनदेखी अक्सर नाजुक परिणाम पैदा करती है।
कार्यान्वयन रोडमैप
आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें।
परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें।
प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट।
दस्तावेज़ जहां ओवरफिटिंग और अंडरफिटिंग मदद करता है और जहां सरल तरीके बेहतर हैं।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Overfitting and Underfitting quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
पश्चप्रचार
अक्सर पूछे जाने वाले प्रश्नों
ओवरफिटिंग और अंडरफिटिंग क्या है?
ओवरफिटिंग तब होती है जब कोई मॉडल अपने प्रशिक्षण डेटा को याद रखता है और नए उदाहरणों पर विफल रहता है; अंडरफ़िटिंग तब होती है जब वास्तविक पैटर्न को पकड़ना बहुत आसान होता है। उनके बीच मधुर स्थान हासिल करना मशीन लर्निंग की केंद्रीय चुनौती है।
एक मॉडल अपने प्रशिक्षण डेटा पर 98% स्कोर करता है लेकिन आयोजित परीक्षण सेट पर केवल 71% स्कोर करता है। सबसे संभावित समस्या क्या है?
एक बड़ा अंतर जहां प्रशिक्षण सटीकता अधिक है लेकिन परीक्षण सटीकता बहुत कम है, ओवरफिटिंग का क्लासिक हस्ताक्षर है: मॉडल सामान्य पैटर्न के बजाय प्रशिक्षण डेटा में शोर को फिट करता है।
कौन सा परिदृश्य अंडरफिटिंग का सबसे अच्छा वर्णन करता है?
एक अंडरफिट मॉडल अंतर्निहित पैटर्न को पकड़ने के लिए बहुत सरल है, इसलिए यह हर जगह खराब प्रदर्शन करता है, जिसमें वह डेटा भी शामिल है जिस पर इसे प्रशिक्षित किया गया था।
पूर्वाग्रह-विचरण ट्रेडऑफ़ में, उच्च विचरण सबसे अधिक किस परिणाम से जुड़ा होता है?
उच्च विचरण का मतलब है कि मॉडल अपने द्वारा देखे जाने वाले सटीक प्रशिक्षण डेटा के आधार पर बहुत अधिक बदलता है, जिससे ओवरफिटिंग होती है। उच्च पूर्वाग्रह विपरीत, अतिसरलीकृत अंत है।
ऋण-डिफ़ॉल्ट मॉडल केवल आवेदक की उम्र का उपयोग करता है और आय, ऋण और क्रेडिट इतिहास को अनदेखा करता है। यह प्रशिक्षण और नए डेटा दोनों पर खराब प्रदर्शन करता है। तुम्हे क्या करना चाहिए?
हर जगह खराब प्रदर्शन अंडरफ़िटिंग का संकेत देता है। समाधान मॉडल क्षमता को बढ़ाना है, अक्सर सूचनात्मक सुविधाओं को जोड़कर, ताकि यह सच्चे संबंध का प्रतिनिधित्व कर सके।
ओवरफिटिंग का पता लगाने के लिए होल्ड-आउट सत्यापन या परीक्षण सेट क्यों आवश्यक है?
यदि आप केवल प्रशिक्षण सटीकता को देखें तो ओवरफिटिंग अदृश्य है। अनदेखे डेटा पर मूल्यांकन करने से याद रखने और वास्तविक सामान्यीकरण के बीच अंतर उजागर होता है।