तकनीकी गाइड
इन्फोएनसीई और सिमसीएलआर उद्देश्य
InfoNCE एक विरोधाभासी हानि है जो एक मॉडल को मेल खाने वाली जोड़ियों को एक साथ खींचने और बेमेल जोड़ियों को एम्बेडिंग स्पेस में अलग करना सिखाती है।
इस गाइड को सुनेंएआई-नैरेटेड · ~2 min
इस पृष्ठ पर2 मिनट लाल
सिंहावलोकन
SimCLR is a landmark framework that used this loss to learn powerful image representations from unlabeled data, rivaling supervised pretraining.
गहरा गोता
InfoNCE (पारस्परिक जानकारी के लिए शोर-विपरीत अनुमान) एक एनकोडर को प्रशिक्षित करता है ताकि एक क्वेरी और उसके वास्तविक सकारात्मक में क्वेरी और कई नकारात्मक की तुलना में अधिक समानता स्कोर हो। यह अनिवार्य रूप से समानता स्कोर पर एक सॉफ्टमैक्स क्रॉस-एन्ट्रॉपी है: एक एंकर के लिए, सकारात्मक को नकारात्मक के खिलाफ जीतना चाहिए। SimCLR (2020) ने छवियों के लिए इसे संचालित किया: एक छवि लें, एक सकारात्मक जोड़ी बनाने के लिए दो यादृच्छिक संवर्द्धन लागू करें, दोनों को एक साझा एनकोडर और एक प्रक्षेपण सिर के माध्यम से चलाएं, और सामान्यीकृत तापमान-स्केल क्रॉस-एन्ट्रॉपी (NT-Xent, एक InfoNCE संस्करण) का उपयोग करें ताकि दो संवर्धित दृश्य आकर्षित हों जबकि बैच में अन्य सभी छवियां नकारात्मक के रूप में कार्य करती हैं। सिमसीएलआर ने दिखाया कि मजबूत डेटा संवर्द्धन, एक नॉनलाइनियर प्रोजेक्शन हेड, बड़े बैच आकार और एक ट्यून्ड तापमान मिलकर स्व-पर्यवेक्षित मॉडल को इमेजनेट पर पर्यवेक्षित मॉडल से मेल खाने देते हैं - प्रीट्रेनिंग के दौरान किसी भी लेबल के बिना।
वास्तविक विश्व कार्यान्वयन
SimCLR बिना लेबल वाली तस्वीरों पर एक छवि एनकोडर को पूर्व-प्रशिक्षित करता है, फिर वर्गीकरण के लिए एक छोटे लेबल वाले सेट पर फाइन-ट्यूनिंग करता है।
शून्य-शॉट छवि वर्गीकरण को सक्षम करते हुए, छवियों को उनके कैप्शन के साथ मिलान करने के लिए InfoNCE उद्देश्य का उपयोग करते हुए CLIP।
दृश्य खोज/पुनर्प्राप्ति का निर्माण जहां समान छवियां सीखे गए एम्बेडिंग स्थान में एक साथ करीब बैठती हैं।
चिकित्सा या उपग्रह इमेजरी के लिए स्व-पर्यवेक्षित प्रीट्रेनिंग जहां लेबल दुर्लभ हैं लेकिन कच्चा डेटा प्रचुर मात्रा में है।
इन्फोएनसीई और सिमसीएलआर उद्देश्यों का भविष्य
विरोधाभासी उद्देश्य सिमसीएलआर से कहीं आगे तक फैले हुए हैं: सीएलआईपी सभी तौर-तरीकों में इन्फोएनसीई का उपयोग करके छवियों को पाठ के साथ संरेखित करता है, और वही नुकसान ऑडियो, वीडियो और पुनर्प्राप्ति मॉडल को संचालित करता है। अनुसंधान अब मेमोरी बैंकों (MoCo) के माध्यम से विशाल बैचों और कई नकारात्मकताओं पर निर्भरता कम कर देता है, या स्पष्ट नकारात्मकताओं को पूरी तरह से हटा देता है (BYOL, SimSiam, DINO)। फाउंडेशन मॉडल के लिए एक प्रमुख सीमा के रूप में मल्टीमॉडल संरेखण (पाठ, छवि, ऑडियो) के साथ कंट्रास्टिव, डिस्टिलेशन और मास्क्ड-मॉडलिंग प्रीट्रेनिंग के निरंतर मिश्रण की अपेक्षा करें।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
- स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
- गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।
का ध्यान रखें
- एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
- बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
- जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।
अगले चरण
- कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
- यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
- त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
- स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the InfoNCE and SimCLR Objectives quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
What is InfoNCE and SimCLR Objectives?
InfoNCE एक विरोधाभासी हानि है जो एक मॉडल को मेल खाने वाली जोड़ियों को एक साथ खींचने और बेमेल जोड़ियों को एम्बेडिंग स्पेस में अलग करना सिखाती है। सिमसीएलआर एक ऐतिहासिक ढांचा है जिसने इस हानि का उपयोग बिना लेबल वाले डेटा से शक्तिशाली छवि प्रतिनिधित्व सीखने के लिए किया, जो पर्यवेक्षित प्रीट्रेनिंग को टक्कर देता है।
InfoNCE उद्देश्य एक मॉडल को क्या करने के लिए प्रोत्साहित करता है?
InfoNCE समानताओं पर एक सॉफ्टमैक्स है जो वास्तविक सकारात्मक के लिए उच्च समानता और नकारात्मक के लिए कम समानता को पुरस्कृत करता है।
SimCLR में, एक सकारात्मक जोड़ी कैसे बनाई जाती है?
SimCLR एक ही स्रोत छवि के दो संवर्धित दृश्यों से एक सकारात्मक जोड़ी उत्पन्न करता है; अन्य छवियाँ नकारात्मक के रूप में काम करती हैं।
NT-Xent/InfoNCE में तापमान τ क्या भूमिका निभाता है?
सॉफ्टमैक्स से पहले समानताओं को τ से विभाजित करने से यह नियंत्रित होता है कि हानि कितनी तेजी से सकारात्मक को कठोर नकारात्मक से अलग करती है।
प्रीट्रेनिंग के बाद सिमसीएलआर के प्रोजेक्शन हेड का क्या होता है?
सिमसीएलआर ने पाया कि प्रोजेक्शन हेड ट्रांसफर से पहले की विशेषताएं बेहतर ढंग से स्थानांतरित होती हैं, इसलिए प्रीट्रेनिंग के बाद सिर को फेंक दिया जाता है।
सिमसीएलआर ने बड़े बैच आकारों पर भरोसा क्यों किया?
SimCLR में बैच की अन्य छवियां नकारात्मक के रूप में कार्य करती हैं, इसलिए बड़े बैच अधिक नकारात्मक और मजबूत सीख देते हैं।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं