लेबल स्मूथिंग
लेबल स्मूथिंग एक सरल नियमितीकरण ट्रिक है जो कठिन वन-हॉट प्रशिक्षण लक्ष्यों को नरम करती है, मॉडल को सही उत्तर बताना बहुत संभव है लेकिन 100 प्रतिशत निश्चित नहीं है।
सिंहावलोकन
It improves calibration and generalization across image and language models with almost no extra cost.
गहरा गोता
आम तौर पर एक क्लासिफायर को एक-हॉट लेबल पर प्रशिक्षित किया जाता है: वास्तविक वर्ग को लक्ष्य 1.0 और बाकी सब 0.0 मिलता है। क्रॉस-एंट्रॉपी और सॉफ्टमैक्स के साथ मिलकर, यह मॉडल को सही लॉगिट को बाकी की तुलना में असीम रूप से बड़ा बनाने के लिए प्रेरित करता है, जिससे अति आत्मविश्वास और ओवरफिटिंग को बढ़ावा मिलता है। लेबल स्मूथिंग वास्तविक वर्ग के लिए लक्ष्य को (1 - एप्सिलॉन) से बदल देता है और एप्सिलॉन/(K-1) अन्य K वर्गों में फैल जाता है, जहां एप्सिलॉन छोटा होता है (आमतौर पर 0.1)। मॉडल का लक्ष्य अब आश्वस्त-लेकिन-पूर्ण नहीं वितरण है। 2016 के इंसेप्शन-v3 कार्य में पेश किया गया और बाद में हिंटन के समूह द्वारा विश्लेषण किया गया, इसने इमेजनेट सटीकता में सुधार किया और ट्रांसफॉर्मर में मानक है, जहां मूल अटेंशन इज़ ऑल यू नीड पेपर में 0.1 के ईपीएसलॉन का उपयोग किया गया था।
तकनीकी अंतर्दृष्टि
हार्ड लेबल के साथ, क्रॉस-एन्ट्रॉपी को कम करने से सही लॉगिट दूसरों के सापेक्ष सकारात्मक अनंतता की ओर बढ़ता है, जो असंभव है और वजन को चरम सीमा तक ले जाता है। स्मूथिंग सही लॉगिट और बाकी के बीच एक सीमित इष्टतम अंतर सेट करता है, इसलिए लॉग सीमित रहता है और मॉडल अधिकतम रूप से आश्वस्त होना बंद कर देता है। अध्ययनों से पता चलता है कि यह समान श्रेणी के समूहों को मजबूत करता है और बेहतर-कैलिब्रेटेड संभावनाएं पैदा करता है, अनुमानित आत्मविश्वास वास्तविक सटीकता से मेल खाता है। ट्रेडऑफ़: यह वर्ग के बीच की बारीक-बारीक समानता वाली जानकारी को मिटा सकता है, जो कभी-कभी ज्ञान के प्रसार को नुकसान पहुँचाता है जहाँ वे नरम रिश्ते मायने रखते हैं।
सामरिक प्रभाव
स्पष्ट निर्णय
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है।
लागत और बजट
आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं।
टीम और वर्कफ़्लो
साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं।
लेबल स्मूथिंग का भविष्य
बड़े पैमाने पर प्रशिक्षण में लेबल स्मूथिंग एक डिफ़ॉल्ट बनी हुई है, लेकिन अनुसंधान अनुकूली और सीखी गई स्मूथिंग की ओर बढ़ रहा है जो एक फ्लैट मान का उपयोग करने के बजाय ईपीएसलॉन को प्रति उदाहरण या वर्ग में समायोजित करता है। फोकल हानि और तापमान स्केलिंग जैसी अंशांकन-केंद्रित विधियों को अक्सर इसके विरुद्ध तौला जाता है या इसके साथ जोड़ दिया जाता है। जैसे-जैसे मॉडल बढ़ते हैं और विश्वसनीय अनिश्चितता अनुमान सुरक्षा-महत्वपूर्ण हो जाते हैं, उम्मीद है कि आसवन के साथ ज्ञात संघर्ष पर सावधानीपूर्वक ध्यान देने के साथ, भरोसेमंद आत्मविश्वास स्कोर उत्पन्न करने के लिए स्मूथिंग कई उपकरणों में से एक उपकरण होगा।
वास्तविक विश्व कार्यान्वयन
इमेजनेट वर्गीकरण: इंसेप्शन-वी3 ने शीर्ष-1 सटीकता को बढ़ावा देने और अति आत्मविश्वास को कम करने के लिए लेबल स्मूथिंग (ईपीएसलॉन 0.1) का उपयोग किया।
मशीनी अनुवाद: मूल ट्रांसफार्मर ने 0.1 का लेबल स्मूथिंग लागू किया, उच्च BLEU स्कोर के लिए थोड़ी उलझन का व्यापार किया।
वाक् पहचान: सुचारु लक्ष्य अति-आत्मविश्वासपूर्ण गलत पहचान को कम करते हैं और शोर वाले ऑडियो पर अंशांकन में सुधार करते हैं।
मेडिकल इमेजिंग मॉडल: स्मूथिंग बेहतर-कैलिब्रेटेड संभावनाएं पैदा करती है, यह महत्वपूर्ण है जब आत्मविश्वास स्कोर नैदानिक निर्णयों को सूचित करता है।
जोखिम और रेलिंग
अलग-अलग टीमें एक ही शब्द का अलग-अलग इस्तेमाल कर सकती हैं, इसलिए दायरे को पहले ही परिभाषित कर लें।
बेंचमार्क मजबूत दिख सकते हैं जबकि वास्तविक दुनिया का प्रदर्शन असमान है।
डेटा गुणवत्ता और मूल्यांकन योजनाओं की अनदेखी अक्सर नाजुक परिणाम पैदा करती है।
कार्यान्वयन रोडमैप
आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें।
परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें।
प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट।
दस्तावेज़ जहां लेबल स्मूथिंग मदद करता है और जहां सरल तरीके बेहतर हैं।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Label Smoothing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
के-मीन्स क्लस्टरिंग
अक्सर पूछे जाने वाले प्रश्नों
What is Label Smoothing?
लेबल स्मूथिंग एक सरल नियमितीकरण ट्रिक है जो कठिन वन-हॉट प्रशिक्षण लक्ष्यों को नरम करती है, मॉडल को सही उत्तर बताना बहुत संभव है लेकिन 100 प्रतिशत निश्चित नहीं है। यह लगभग बिना किसी अतिरिक्त लागत के छवि और भाषा मॉडल में अंशांकन और सामान्यीकरण में सुधार करता है।
लेबल स्मूथिंग से प्रशिक्षण लक्ष्यों में क्या परिवर्तन होता है?
हार्ड 1.0/0.0 लक्ष्य के बजाय, लेबल स्मूथिंग वास्तविक वर्ग को (1 - एप्सिलॉन) निर्दिष्ट करता है और एप्सिलॉन को अन्य में फैलाता है।
हार्ड वन-हॉट लेबल्स की स्मूथिंग किस समस्या का समाधान करती है?
एक-हॉट लक्ष्यों पर क्रॉस-एन्ट्रॉपी को कम करने से दूसरों के सापेक्ष अनंतता की ओर सही लॉगिट चला जाता है, जिससे अति आत्मविश्वास और ओवरफिटिंग को बढ़ावा मिलता है।
किस ऐतिहासिक आर्किटेक्चर ने लेबल स्मूथिंग को लोकप्रिय बनाने में मदद की?
लेबल स्मूथिंग को 2016 इंसेप्शन-v3 पेपर में पेश किया गया था और ईपीएसलॉन 0.1 के साथ ट्रांसफार्मर (अटेंशन इज़ ऑल यू नीड) द्वारा अपनाया गया था।
सटीकता के अलावा, लेबल स्मूथिंग किस लाभ के लिए जानी जाती है?
स्मूथिंग से अंशांकन में सुधार होता है, पूर्वानुमानित आत्मविश्वास सही होने की वास्तविक संभावना के साथ अधिक निकटता से संरेखित होता है।
लेबल स्मूथिंग का दस्तावेजी नुकसान क्या है?
समूहों को कसने और वर्गों के बीच नरम संबंधों को समतल करके, स्मूथिंग उस जानकारी को हटा सकती है जिस पर ज्ञान आसवन निर्भर करता है।