विज़ुअल एआई गाइड

ड्रीमफ़्यूज़न और स्कोर आसवन नमूनाकरण

ड्रीमफ़्यूज़न एक आलोचक के रूप में 2डी छवि प्रसार मॉडल का उपयोग करके पाठ से 3डी ऑब्जेक्ट उत्पन्न करता है, कभी भी किसी 3डी डेटा पर प्रशिक्षण नहीं देता है।

सिंहावलोकन

ड्रीमफ़्यूज़न एक आलोचक के रूप में 2डी छवि प्रसार मॉडल का उपयोग करके पाठ से 3डी ऑब्जेक्ट उत्पन्न करता है, कभी भी किसी 3डी डेटा पर प्रशिक्षण नहीं देता है। इसका मुख्य आविष्कार, स्कोर डिस्टिलेशन सैंपलिंग, संपूर्ण टेक्स्ट-टू-3डी क्षेत्र के लिए मूलभूत नुस्खा बन गया।

ड्रीमफ्यूजन और स्कोर डिस्टिलेशन सैंपलिंग कंप्यूटर-विज़न वर्कफ़्लो से संबंधित है जो विश्लेषण, संचालन और रचनात्मकता के लिए दृश्य मीडिया की व्याख्या या उत्पादन करता है।

गहरा गोता

2022 में Google से ड्रीमफ्यूजन ने पूछा: क्या 2D टेक्स्ट-टू-इमेज मॉडल 3D दृश्य को हर कोण से सही दिखना सिखा सकता है? यह एक एनईआरएफ (न्यूरल रेडियंस फील्ड) को अनुकूलित करता है ताकि यादृच्छिक कैमरा दृष्टिकोण से रेंडरिंग, जब शोर किया जाए और जमे हुए प्रसार मॉडल (इमेजेन) में दिखाया जाए, तो टेक्स्ट प्रॉम्प्ट के लिए प्रशंसनीय छवियों के रूप में स्कोर किया जा सके। महत्वपूर्ण बात यह है कि यह किसी 3डी प्रशिक्षण डेटा का उपयोग नहीं करता है। सफलता स्कोर डिस्टिलेशन सैंपलिंग (एसडीएस) है: डिफ्यूजन मॉडल के महंगे यू-नेट के माध्यम से बैकप्रोपेगेटिंग के बजाय, एसडीएस मॉडल के अनुमानित शोर को सीधे रेंडर किए गए पिक्सल पर ग्रेडिएंट सिग्नल के रूप में उपयोग करता है। इसे हजारों दृष्टिकोणों में दोहराने से एक ही वाक्य से ज्यामिति और दृश्य-निर्भर उपस्थिति के साथ एक सुसंगत 3डी संपत्ति तैयार होती है।

तकनीकी अंतर्दृष्टि

एसडीएस प्रसार मॉडल को फ्रोजन स्कोरिंग फ़ंक्शन के रूप में मानता है। यह एनईआरएफ प्रस्तुत करता है, शोर जोड़ता है, प्रसार यू-नेट से उस शोर की भविष्यवाणी करने के लिए कहता है, और प्रदान की गई छवि पर वापस धकेले गए (अनुमानित शोर शून्य जोड़ा गया शोर) के रूप में ग्रेडिएंट की गणना करता है और इस प्रकार एनईआरएफ वजन होता है। यू-नेट जैकोबियन को छोड़ना इसे ट्रैक करने योग्य बनाता है। तीव्र परिणामों के लिए उच्च क्लासिफायर-मुक्त मार्गदर्शन (लगभग 100) की आवश्यकता होती है, जो विशेषता को अति-संतृप्त, कभी-कभी धुंधला 'ड्रीमफ्यूजन लुक' का कारण बनता है।

ड्रीमफ्यूजन और स्कोर डिस्टिलेशन सैंपलिंग में महारत हासिल करना

गहरी समझ बनाने के लिए, ड्रीमफ्यूजन और स्कोर डिस्टिलेशन सैंपलिंग को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि एक फीचर के रूप में। वांछित परिणामों को परिभाषित करें, धारणाओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।

व्यवहार में, ड्रीमफ्यूजन और स्कोर डिस्टिलेशन सैंपलिंग का उपयोग करने वाली मजबूत टीमें डेटा गुणवत्ता, प्रकाश भिन्नता और लेबलिंग स्थिरता जैसी परिचालन वास्तविकताओं के साथ सटीकता को संतुलित करती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।

विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है। साथ ही, यदि उत्पत्ति स्पष्ट नहीं है तो छवि अधिकार और सहमति कानूनी जोखिम बन सकते हैं। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।

सामरिक प्रभाव

विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है।

विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

रचनात्मक टीमें कम मैन्युअल संशोधनों के साथ तेजी से अवधारणाओं का प्रोटोटाइप बना सकती हैं।

रचनात्मक टीमें कम मैन्युअल संशोधनों के साथ तेजी से अवधारणाओं का प्रोटोटाइप बना सकती हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

संचालन छवि और वीडियो संकेतों का उपयोग कर सकते हैं जिन्हें संसाधित करना पहले कठिन था।

संचालन छवि और वीडियो संकेतों का उपयोग कर सकते हैं जिन्हें संसाधित करना पहले कठिन था। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।

ड्रीमफ्यूजन और स्कोर डिस्टिलेशन सैंपलिंग का भविष्य

एसडीएस ने अपनी कमजोरियों को ठीक करने के लिए काम की एक समृद्ध श्रृंखला को जन्म दिया: रिज़ॉल्यूशन और गति के लिए मैजिक 3 डी, तेज, अधिक विविध आउटपुट के लिए प्रोलिफिकड्रीमर का वेरिएशनल स्कोर डिस्टिलेशन, और 'जानूस' मल्टी-फेस आर्टिफैक्ट पर हमला करने वाले तरीके। यह क्षेत्र तेजी से एसडीएस को मल्टी-व्यू डिफ्यूजन प्रायर और गॉसियन स्प्लैटिंग जैसे तेज़ 3डी अभ्यावेदन के साथ जोड़ रहा है। उम्मीद करें कि टेक्स्ट-टू-3डी तेजी से और अधिक ज्यामितीय रूप से विकसित होगा, जिससे हाथ से तैयार की गई संपत्तियों के साथ अंतर कम होगा।

वास्तविक विश्व कार्यान्वयन

अकेले पाठ से 'छोटी टोपी पहने एक गिलहरी की डीएसएलआर तस्वीर' का 3डी मॉडल तैयार करना

मैन्युअल 3डी स्कल्पटिंग के बिना ड्राफ्ट गेम और एआर एसेट बनाना

निर्यात योग्य जालों का निर्माण करना जिन्हें कलाकार खरोंच से बनाने के बजाय परिष्कृत करते हैं

एसडीएस के विरुद्ध नए टेक्स्ट-टू-3डी तरीकों के मूल्यांकन के लिए अनुसंधान आधार रेखाएं

कार्यान्वयन पैटर्न

अभ्यास में ड्रीमफ्यूजन और स्कोर डिस्टिलेशन नमूनाकरण

अकेले पाठ से 'छोटी टोपी पहने एक गिलहरी की डीएसएलआर तस्वीर' का 3डी मॉडल तैयार करना।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

अभ्यास में ड्रीमफ्यूजन और स्कोर डिस्टिलेशन नमूनाकरण

मैन्युअल 3डी स्कल्पटिंग के बिना ड्राफ्ट गेम और एआर एसेट बनाना।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

अभ्यास में ड्रीमफ्यूजन और स्कोर डिस्टिलेशन नमूनाकरण

निर्यात योग्य जालों का निर्माण करना जिन्हें कलाकार खरोंच से बनाने के बजाय परिष्कृत करते हैं।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

अभ्यास में ड्रीमफ्यूजन और स्कोर डिस्टिलेशन नमूनाकरण

एसडीएस के विरुद्ध नए टेक्स्ट-टू-3डी तरीकों के मूल्यांकन के लिए अनुसंधान आधार रेखाएं।

टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।

जोखिम और रेलिंग

!

यदि उत्पत्ति अस्पष्ट है तो छवि अधिकार और सहमति कानूनी जोखिम बन सकते हैं।

!

मॉडल का प्रदर्शन प्रकाश व्यवस्था, जनसांख्यिकी और वातावरण के अनुसार भिन्न हो सकता है।

!

जब तक आत्मविश्वास की सीमा की निगरानी नहीं की जाती, तब तक झूठी सकारात्मक बातों पर ध्यान नहीं दिया जा सकता।

कार्यान्वयन रोडमैप

1

सटीकता, रिकॉल और त्रुटि लागत के लिए स्वीकृति मानदंड परिभाषित करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

2

वास्तविक उत्पादन स्थितियों से मेल खाने वाले डेटा के साथ परीक्षण करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

3

कम-आत्मविश्वास या उच्च-प्रभाव वाली भविष्यवाणियों के लिए मानवीय समीक्षा जोड़ें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

4

कैमरा या डेटासेट में बदलाव के बाद मॉडल बहाव को ट्रैक करें और पुनः सत्यापित करें।

इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।

अन्वेषण करते रहें

Check your understanding

Test yourself: take the DreamFusion and Score Distillation Sampling quiz

Start quiz