तकनीकी गाइड
ऑनलाइन और हार्ड नेगेटिव माइनिंग
कठिन नकारात्मक खनन उन आसान उदाहरणों पर प्रयास बर्बाद करने के बजाय सबसे जानकारीपूर्ण, कठिन-से-पहचान करने वाले उदाहरणों को प्रशिक्षित करने के लिए चुनता है जो मॉडल पहले से ही सही है।
इस गाइड को सुनेंएआई-नैरेटेड · ~2 min
इस पृष्ठ पर2 मिनट लाल
सिंहावलोकन
It is the trick that makes metric learning and object detection converge fast and accurately.
गहरा गोता
ट्रिपलेट या कंट्रास्टिव हानियों के साथ प्रशिक्षण करते समय, अधिकांश बेतरतीब ढंग से सैंपल किए गए नकारात्मक पहले से ही एंकर से दूर होते हैं, इसलिए वे शून्य हानि और कोई ग्रेडिएंट, प्रशिक्षण स्टॉल उत्पन्न करते हैं। नकारात्मक खनन कठिन नकारात्मक का चयन करके इसे ठीक करता है: उदाहरण जो गलत तरीके से एंकर के करीब हैं। ऑफ़लाइन खनन में, आप इन्हें ढूंढने के लिए समय-समय पर डेटासेट को स्कैन करते हैं, जो धीमा है और पुराना हो जाता है। ऑनलाइन माइनिंग प्रत्येक मिनी-बैच के भीतर तुरंत उनकी गणना करता है: फॉरवर्ड पास के बाद, आप बैच में सभी जोड़ीवार दूरियों को देखते हैं और सबसे कठिन उल्लंघनकर्ताओं को चुनते हैं। फेसनेट ने सेमी-हार्ड माइनिंग की शुरुआत की, जिसमें सकारात्मक की तुलना में नकारात्मक को दूर रखा गया, लेकिन फिर भी मार्जिन के अंदर रखा गया, उस अस्थिरता से बचा गया जो प्रशिक्षण के आरंभ में सबसे कठिन नकारात्मक कारण बन सकता है।
वास्तविक विश्व कार्यान्वयन
चेहरा पहचान प्रशिक्षण: फेसनेट एक जैसे दिखने वाले व्यक्तियों को अलग करने वाली एम्बेडिंग सीखने के लिए सेमी-हार्ड ऑनलाइन माइनिंग का उपयोग करता है।
ऑब्जेक्ट डिटेक्शन: एसएसडी और इसी तरह के डिटेक्टर दुर्लभ ऑब्जेक्ट बॉक्स के मुकाबले आसान बैकग्राउंड बॉक्स की बाढ़ को संतुलित करने के लिए कठिन नकारात्मक खनन लागू करते हैं।
गहन मार्ग पुनर्प्राप्ति: खोज और आरएजी सिस्टम कठिन नकारात्मक दस्तावेज़ों को माइन करते हैं जो प्रासंगिक दिखते हैं लेकिन प्रासंगिक नहीं हैं, जो पुनर्प्राप्ति को तेज करते हैं।
सिफ़ारिश प्रणालियाँ: मॉडल उन आइटमों को माइन करते हैं जिन पर उपयोगकर्ता ने क्लिक नहीं किया था, लेकिन वे क्लिक किए गए आइटम से मिलते-जुलते थे, जो स्वाद में बेहतर अंतर सिखाते थे।
ऑनलाइन और हार्ड नेगेटिव माइनिंग का भविष्य
सिद्धांत, जो कठिन है उस पर प्रशिक्षण, अब विपरीत स्व-पर्यवेक्षित शिक्षण को संचालित करता है, जहां बड़े इन-बैच नकारात्मक पूल (और MoCo जैसे मेमोरी बैंक) बिना लेबल के कठिन तुलना प्रदान करते हैं। शोधकर्ता इस बात को परिष्कृत कर रहे हैं कि एक नकारात्मक कितना कठिन होना चाहिए, क्योंकि बहुत अधिक कठिन नकारात्मक अक्सर गलत लेबल वाले या लगभग-डुप्लिकेट सकारात्मक बन जाते हैं जो प्रशिक्षण को भ्रष्ट करते हैं। स्मार्ट, अनिश्चितता-जागरूक खनन और मॉडल द्वारा उत्पन्न सिंथेटिक हार्ड नकारात्मक की अपेक्षा करें, साथ ही पुनर्प्राप्ति प्रणालियों के साथ सख्त एकीकरण की अपेक्षा करें जो वास्तविक उपयोगकर्ता प्रश्नों से कठिन नकारात्मक को निकालता है।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
- स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
- गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।
का ध्यान रखें
- एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
- बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
- जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।
अगले चरण
- कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
- यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
- त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
- स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the Online and Hard Negative Mining quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
What is Online and Hard Negative Mining?
कठिन नकारात्मक खनन उन आसान उदाहरणों पर प्रयास बर्बाद करने के बजाय सबसे जानकारीपूर्ण, कठिन-से-पहचान करने वाले उदाहरणों को प्रशिक्षित करने के लिए चुनता है जो मॉडल पहले से ही सही है। यह वह ट्रिक है जो मीट्रिक लर्निंग और ऑब्जेक्ट डिटेक्शन को तेजी से और सटीक रूप से परिवर्तित करती है।
अधिकांश बेतरतीब ढंग से सैंपल किए गए नकारात्मक परिणाम त्रिक हानि में कम प्रशिक्षण संकेत क्यों प्रदान करते हैं?
आसान नकारात्मक मार्जिन से काफी आगे बैठते हैं, पहले से ही नुकसान को पूरा करते हैं, और अनिवार्य रूप से कोई ग्रेडिएंट नहीं देते हैं, इसलिए प्रशिक्षण रुक जाता है।
ऑनलाइन खनन को ऑफ़लाइन खनन से क्या अलग करता है?
ऑनलाइन माइनिंग प्रत्येक चरण में वर्तमान बैच के अंदर जोड़ीदार दूरी की गणना करता है, जबकि ऑफ़लाइन माइनिंग समय-समय पर पूरे डेटासेट को स्कैन करता है और पुराना हो सकता है।
फेसनेट में परिभाषित 'अर्ध-कठिन' नकारात्मक क्या है?
अर्ध-कठोर नकारात्मक सकारात्मक की तुलना में एंकर से अधिक दूर हैं, फिर भी मार्जिन के अंदर आते हैं, जो पूर्णतम कठिन मामलों की अस्थिरता के बिना उपयोगी, स्थिर ग्रेडिएंट देते हैं।
बैच-हार्ड माइनिंग में, प्रत्येक एंकर के लिए कौन सा नकारात्मक चुना जाता है?
बैच-हार्ड माइनिंग सबसे कठिन मामलों को चुनता है: प्रत्येक एंकर के लिए यह बैच में सबसे दूर के सकारात्मक और निकटतम (सबसे भ्रमित करने वाले) नकारात्मक को लेता है।
बड़े बैच का आकार खनन मीट्रिक-सीखने के परिणामों में सुधार क्यों करता है?
एक बड़ा बैच एक बड़ा जोड़ीदार दूरी मैट्रिक्स उत्पन्न करता है, इसलिए प्रत्येक चरण से सबसे कठिन खनन के लिए अधिक उम्मीदवार नकारात्मक होते हैं।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं