सिंहावलोकन
ओवरफिटिंग तब होती है जब कोई मॉडल अपने प्रशिक्षण डेटा को याद रखता है और नए उदाहरणों पर विफल रहता है; अंडरफ़िटिंग तब होती है जब वास्तविक पैटर्न को पकड़ना बहुत आसान होता है। उनके बीच मधुर स्थान हासिल करना मशीन लर्निंग की केंद्रीय चुनौती है।
ओवरफिटिंग और अंडरफिटिंग मुख्य एआई टूलकिट में बैठता है। जब आप इसे समझ जाते हैं, तो अन्य एआई विषयों का मूल्यांकन और तुलना करना आसान हो जाता है।
गहरा गोता
प्रत्येक मॉडल एक सीमित प्रशिक्षण सेट के लिए उपयुक्त है, लेकिन लक्ष्य अदृश्य डेटा पर अच्छा प्रदर्शन करना है। एक ओवरफ़िट मॉडल प्रशिक्षण सेट के शोर और विचित्रताओं को ऐसे मानता है जैसे कि वे वास्तविक संकेत हों: यह प्रशिक्षण डेटा पर 99% स्कोर कर सकता है, फिर भी परीक्षण सेट पर 70% तक गिर सकता है। एक अंडरफ़िट मॉडल विपरीत समस्या है, अंतर्निहित संरचना को पकड़ने के लिए बहुत कठोर है, इसलिए यह प्रशिक्षण और परीक्षण डेटा दोनों पर खराब प्रदर्शन करता है। प्रशिक्षण और परीक्षण प्रदर्शन के बीच का अंतर स्पष्ट संकेत है। अंडरफ़िटिंग हर जगह उच्च त्रुटि (उच्च पूर्वाग्रह) दिखाती है; ओवरफिटिंग कम प्रशिक्षण त्रुटि लेकिन उच्च परीक्षण त्रुटि (उच्च विचरण) के रूप में दिखाई देती है। कौशल यह पहचानना है कि आपको कौन सी समस्या है, क्योंकि समाधान विपरीत दिशाओं में खींचते हैं।
तकनीकी अंतर्दृष्टि
ओवरफिटिंग और अंडरफिटिंग पूर्वाग्रह-विचरण व्यापार के दो छोर हैं। पूर्वाग्रह अत्यधिक सरलीकृत धारणाओं से उत्पन्न त्रुटि है; भिन्नता विशिष्ट प्रशिक्षण नमूने के प्रति अत्यधिक संवेदनशील होने से हुई त्रुटि है। एक छोटे रैखिक मॉडल में उच्च पूर्वाग्रह और कम विचरण (अंडरफिट्स) होते हैं; एक विशाल अप्रतिबंधित मॉडल में कम पूर्वाग्रह और उच्च विचरण (ओवरफिट) होता है। कुल अपेक्षित त्रुटि मोटे तौर पर पूर्वाग्रह-वर्ग प्लस विचरण और अपरिवर्तनीय शोर के रूप में विघटित होती है। अभ्यासकर्ता प्रशिक्षण-सेट सटीकता की तुलना एक आयोजित-आउट सत्यापन सेट के साथ करके समस्या का पता लगाते हैं, यह देखते हुए कि दोनों वक्र कहाँ भिन्न होते हैं।
ओवरफिटिंग और अंडरफिटिंग में महारत हासिल करना
ओवरफिटिंग तब होती है जब कोई मॉडल अपने प्रशिक्षण डेटा को याद रखता है और नए उदाहरणों पर विफल रहता है; अंडरफ़िटिंग तब होती है जब वास्तविक पैटर्न को पकड़ना बहुत आसान होता है। उनके बीच मधुर स्थान हासिल करना मशीन लर्निंग की केंद्रीय चुनौती है। ओवरफिटिंग और अंडरफिटिंग मुख्य एआई टूलकिट में बैठता है। जब आप इसे समझ जाते हैं, तो अन्य एआई विषयों का मूल्यांकन और तुलना करना आसान हो जाता है। गहरी समझ बनाने के लिए, ओवरफिटिंग और अंडरफिटिंग को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि एक विशेषता के रूप में: वांछित परिणामों को परिभाषित करें, मान्यताओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।
व्यवहार में, ओवरफिटिंग और अंडरफिटिंग का उपयोग करने वाली मजबूत टीमें पहले मजबूत वैचारिक मॉडल बनाती हैं, फिर उन मॉडलों को वास्तविक उत्पादन बाधाओं के अनुसार मैप करती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है। एक ही समय में, अलग-अलग टीमें एक ही शब्द का अलग-अलग उपयोग कर सकती हैं, इसलिए दायरे को जल्दी परिभाषित करें। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।
सामरिक प्रभाव
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है।
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं।
आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं।
साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
वास्तविक विश्व कार्यान्वयन
एक स्पैम फ़िल्टर जो एक विशिष्ट प्रेषक के नाम वाले प्रत्येक ईमेल को चिह्नित करता है क्योंकि उस प्रेषक ने प्रशिक्षण डेटा में भारी मात्रा में स्पैम किया था, जिससे नए स्पैमर पूरी तरह से गायब हो गए (ओवरफिटिंग)।
एक घर-मूल्य मॉडल जो केवल वर्ग फुटेज का उपयोग करता है और स्थान, शयनकक्ष और स्थिति को नजरअंदाज करता है, इसलिए यह महंगे पड़ोस (अंडरफिटिंग) में बुरी तरह से छूट जाता है।
एक मेडिकल इमेज क्लासिफायरियर जो बीमारी के बजाय अस्पताल के स्कैनर वॉटरमार्क का पता लगाना सीखता है, और अन्य अस्पतालों में विफल रहता है (एक नकली सुविधा से अधिक)।
प्रशिक्षण के दौरान प्रशिक्षण हानि बनाम सत्यापन हानि की साजिश रचना और जब सत्यापन हानि बढ़ने लगती है तो रुकना जबकि प्रशिक्षण हानि गिरती रहती है (ओवरफिटिंग को जल्दी पकड़ना)।
कार्यान्वयन पैटर्न
व्यवहार में ओवरफिटिंग और अंडरफिटिंग
एक स्पैम फ़िल्टर जो एक विशिष्ट प्रेषक के नाम वाले प्रत्येक ईमेल को चिह्नित करता है क्योंकि उस प्रेषक ने प्रशिक्षण डेटा में भारी मात्रा में स्पैम किया था, जिससे नए स्पैमर पूरी तरह से गायब हो गए (ओवरफिटिंग)।
एक स्पैम फ़िल्टर जो एक विशिष्ट प्रेषक के नाम वाले प्रत्येक ईमेल को चिह्नित करता है क्योंकि उस प्रेषक ने प्रशिक्षण डेटा में भारी मात्रा में स्पैम किया था, नए स्पैमर को पूरी तरह से गायब कर दिया (ओवरफिटिंग) टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में ओवरफिटिंग और अंडरफिटिंग
एक घर-मूल्य मॉडल जो केवल वर्ग फुटेज का उपयोग करता है और स्थान, शयनकक्ष और स्थिति को नजरअंदाज करता है, इसलिए यह महंगे पड़ोस (अंडरफिटिंग) में बुरी तरह से छूट जाता है।
एक घर-मूल्य मॉडल जो केवल वर्ग फुटेज का उपयोग करता है और स्थान, शयनकक्ष और स्थिति को नजरअंदाज करता है, इसलिए यह महंगे पड़ोस (अंडरफिटिंग) में बुरी तरह से चूक जाता है। टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में ओवरफिटिंग और अंडरफिटिंग
एक मेडिकल इमेज क्लासिफायरियर जो बीमारी के बजाय अस्पताल के स्कैनर वॉटरमार्क का पता लगाना सीखता है, और अन्य अस्पतालों में विफल रहता है (एक नकली सुविधा से अधिक)।
एक मेडिकल इमेज क्लासिफायरियर जो बीमारी के बजाय अस्पताल के स्कैनर वॉटरमार्क का पता लगाना सीखता है, और अन्य अस्पतालों में विफल रहता है (एक नकली सुविधा के लिए ओवरफिटिंग) टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में ओवरफिटिंग और अंडरफिटिंग
प्रशिक्षण के दौरान प्रशिक्षण हानि बनाम सत्यापन हानि की साजिश रचना और जब सत्यापन हानि बढ़ने लगती है तो रुकना जबकि प्रशिक्षण हानि गिरती रहती है (ओवरफिटिंग को जल्दी पकड़ना)।
प्रशिक्षण के दौरान प्रशिक्षण हानि बनाम सत्यापन हानि की साजिश रचना और जब सत्यापन हानि बढ़ने लगती है तो रुकना जबकि प्रशिक्षण हानि गिरती रहती है (ओवरफिटिंग को जल्दी पकड़ना) टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को सामने से परिभाषित करते हैं, किनारे के मामलों के लिए एक मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
जोखिम और रेलिंग
अलग-अलग टीमें एक ही शब्द का अलग-अलग इस्तेमाल कर सकती हैं, इसलिए दायरे को पहले ही परिभाषित कर लें।
बेंचमार्क मजबूत दिख सकते हैं जबकि वास्तविक दुनिया का प्रदर्शन असमान है।
डेटा गुणवत्ता और मूल्यांकन योजनाओं की अनदेखी अक्सर नाजुक परिणाम पैदा करती है।
कार्यान्वयन रोडमैप
आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें।
आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें।
परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट।
प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
दस्तावेज़ जहां ओवरफिटिंग और अंडरफिटिंग मदद करता है और जहां सरल तरीके बेहतर हैं।
दस्तावेज़ जहां ओवरफिटिंग और अंडरफिटिंग मदद करता है और जहां सरल तरीके बेहतर हैं। प्रत्येक चरण को एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।