विज़ुअल एआई गाइड

किसी भी मॉडल को खंडित करें

सेगमेंट एनीथिंग मॉडल (एसएएम) छवि विभाजन के लिए Meta AI का आधार मॉडल है: एक बिंदु, बॉक्स या रफ संकेत दिए जाने पर, यह तुरंत संबंधित ऑब्जेक्ट की रूपरेखा तैयार करता है।

सिंहावलोकन

सेगमेंट एनीथिंग मॉडल (एसएएम) छवि विभाजन के लिए Meta AI का आधार मॉडल है: एक बिंदु, बॉक्स या रफ संकेत दिए जाने पर, यह तुरंत संबंधित ऑब्जेक्ट की रूपरेखा तैयार करता है। इसे उन वस्तुओं और छवियों का सामान्यीकरण करने के लिए बनाया गया था जिन्हें उसने प्रशिक्षण के दौरान कभी नहीं देखा था, जिससे विभाजन एक त्वरित कार्य बन गया।

सेगमेंट एनीथिंग मॉडल कंप्यूटर-विज़न वर्कफ़्लो से संबंधित है जो विश्लेषण, संचालन और रचनात्मकता के लिए विज़ुअल मीडिया की व्याख्या या उत्पादन करता है।

गहरा गोता

Meta AI द्वारा 2023 में जारी, SAM ने विभाजन को एक शीघ्र समस्या के रूप में पुनः प्रस्तुत किया: आप इसे एक संकेत (एक क्लिक, एक बॉक्स, एक मास्क, या पाठ-व्युत्पन्न संकेत) देते हैं और यह एक या अधिक ऑब्जेक्ट मास्क लौटाता है। इसकी शक्ति आंशिक रूप से पैमाने से आती है: इसे SA-1B पर प्रशिक्षित किया गया था, जो 11 मिलियन छवियों में 1 बिलियन से अधिक मास्क का डेटासेट है, जो एक मॉडल-इन-द-लूप एनोटेशन इंजन के साथ बनाया गया है। वास्तुकला की दृष्टि से, एसएएम में एक भारी छवि एनकोडर है जो प्रति छवि एक बार चलता है, एक हल्का प्रॉम्प्ट एनकोडर और एक तेज़ मास्क डिकोडर है, इसलिए एक एकल एम्बेडेड छवि को वास्तविक समय में इंटरैक्टिव रूप से फिर से संकेत दिया जा सकता है। यह कई कार्यों में शून्य-शॉट स्थानांतरण को सक्षम बनाता है। एसएएम 2, 2024 में रिलीज़ हुआ, इसे वीडियो तक विस्तारित करता है, फ़्रेम में ऑब्जेक्ट को ट्रैक करता है।

तकनीकी अंतर्दृष्टि

एसएएम सघन छवि एम्बेडिंग उत्पन्न करने के लिए एक विज़न ट्रांसफॉर्मर (वीआईटी) छवि एनकोडर का उपयोग करता है, जिसे अक्सर मास्क्ड ऑटोएन्कोडिंग के साथ पूर्व-प्रशिक्षित किया जाता है। संकेतों को टोकन में एन्कोड किया जाता है, और क्रॉस-अटेंशन फ़्यूज़ वाला एक ट्रांसफॉर्मर-आधारित डिकोडर आउटपुट मास्क और कॉन्फिडेंस स्कोर में छवि एम्बेडिंग के साथ प्रॉम्प्ट टोकन को फ़्यूज़ करता है। अस्पष्टता को हल करने के लिए (एक क्लिक का मतलब एक बटन, एक शर्ट या एक व्यक्ति हो सकता है), एसएएम एक साथ कई वैध मास्क की भविष्यवाणी करता है और उन्हें रैंक करता है, जिससे डाउनस्ट्रीम उपयोग या अतिरिक्त संकेतों को स्पष्ट किया जा सकता है।

किसी भी मॉडल के खंड में महारत हासिल करना

गहरी समझ बनाने के लिए, सेगमेंट एनीथिंग मॉडल को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि किसी एक फीचर के रूप में। वांछित परिणामों को परिभाषित करें, धारणाओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।

व्यवहार में, सेगमेंट एनीथिंग मॉडल का उपयोग करने वाली मजबूत टीमें डेटा गुणवत्ता, प्रकाश भिन्नता और लेबलिंग स्थिरता जैसी परिचालन वास्तविकताओं के साथ सटीकता को संतुलित करती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।

विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है। साथ ही, यदि उत्पत्ति स्पष्ट नहीं है तो छवि अधिकार और सहमति कानूनी जोखिम बन सकते हैं। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।

सामरिक प्रभाव

विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है।

विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

रचनात्मक टीमें कम मैन्युअल संशोधनों के साथ तेजी से अवधारणाओं का प्रोटोटाइप बना सकती हैं।

रचनात्मक टीमें कम मैन्युअल संशोधनों के साथ तेजी से अवधारणाओं का प्रोटोटाइप बना सकती हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

संचालन छवि और वीडियो संकेतों का उपयोग कर सकते हैं जिन्हें संसाधित करना पहले कठिन था।

संचालन छवि और वीडियो संकेतों का उपयोग कर सकते हैं जिन्हें संसाधित करना पहले कठिन था। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

सेगमेंट एनीथिंग मॉडल का भविष्य

एसएएम एनोटेशन टूल, मेडिकल इमेजिंग, रोबोटिक्स और एआर पाइपलाइनों के लिए एक डिफ़ॉल्ट रीढ़ बन गया है, जिसे अक्सर ओपन-शब्दावली 'सेगमेंट बाय नेम' वर्कफ़्लो के लिए डिटेक्टरों या टेक्स्ट मॉडल के साथ जोड़ा जाता है। ऑन-डिवाइस उपयोग के लिए हल्के, तेज़ वेरिएंट (मोबाइलएसएएम, कुशलएसएएम), पूरी तरह से टेक्स्ट-संचालित विभाजन के लिए भाषा के साथ गहन एकीकरण और वीडियो और 3डी में निरंतर विस्तार की अपेक्षा करें। एक फाउंडेशन मॉडल के रूप में, इसके एम्बेडिंग को अन्य प्रणालियों को खिलाने वाली एक धारणा परत के रूप में तेजी से पुन: उपयोग किया जा रहा है।

वास्तविक विश्व कार्यान्वयन

छवि-एनोटेशन प्लेटफ़ॉर्म एसएएम का उपयोग करते हैं ताकि लेबलर्स एक बार क्लिक कर सकें और लेबलिंग समय को कम करते हुए सटीक ऑब्जेक्ट मास्क स्वचालित रूप से उत्पन्न कर सकें।

शोधकर्ता सीटी और एमआरआई स्कैन में अंगों और ट्यूमर की रूपरेखा तैयार करने के लिए एसएएम (उदाहरण के लिए, मेडएसएएम) को अनुकूलित करते हैं।

फोटो और वीडियो संपादक एक क्लिक से विषयों को काटने या पृष्ठभूमि हटाने के लिए एसएएम को एकीकृत करते हैं।

एसएएम 2 एआर प्रभाव और रोबोटिक्स धारणा के लिए वीडियो फ्रेम में वस्तुओं को ट्रैक और खंडित करता है।

कार्यान्वयन पैटर्न

व्यवहार में किसी भी मॉडल को खंडित करें

छवि-एनोटेशन प्लेटफ़ॉर्म एसएएम का उपयोग करते हैं ताकि लेबलर्स एक बार क्लिक कर सकें और लेबलिंग समय को कम करते हुए सटीक ऑब्जेक्ट मास्क स्वचालित रूप से उत्पन्न कर सकें।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

व्यवहार में किसी भी मॉडल को खंडित करें

शोधकर्ता सीटी और एमआरआई स्कैन में अंगों और ट्यूमर की रूपरेखा तैयार करने के लिए एसएएम (उदाहरण के लिए, मेडएसएएम) को अनुकूलित करते हैं।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

व्यवहार में किसी भी मॉडल को खंडित करें

फोटो और वीडियो संपादक एक क्लिक से विषयों को काटने या पृष्ठभूमि हटाने के लिए एसएएम को एकीकृत करते हैं।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

व्यवहार में किसी भी मॉडल को खंडित करें

एसएएम 2 एआर प्रभाव और रोबोटिक्स धारणा के लिए वीडियो फ्रेम में वस्तुओं को ट्रैक और खंडित करता है।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

जोखिम और रेलिंग

!

यदि उत्पत्ति अस्पष्ट है तो छवि अधिकार और सहमति कानूनी जोखिम बन सकते हैं।

!

मॉडल का प्रदर्शन प्रकाश व्यवस्था, जनसांख्यिकी और वातावरण के अनुसार भिन्न हो सकता है।

!

जब तक आत्मविश्वास की सीमा की निगरानी नहीं की जाती, तब तक झूठी सकारात्मक बातों पर ध्यान नहीं दिया जा सकता।

कार्यान्वयन रोडमैप

1

सटीकता, रिकॉल और त्रुटि लागत के लिए स्वीकृति मानदंड परिभाषित करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

2

वास्तविक उत्पादन स्थितियों से मेल खाने वाले डेटा के साथ परीक्षण करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

3

कम-आत्मविश्वास या उच्च-प्रभाव वाली भविष्यवाणियों के लिए मानवीय समीक्षा जोड़ें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

4

कैमरा या डेटासेट में बदलाव के बाद मॉडल बहाव को ट्रैक करें और पुनः सत्यापित करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

अन्वेषण करते रहें

Check your understanding

Test yourself: take the Segment Anything Model quiz

Start quiz