ट्यून-ए-वीडियो वन-शॉट संपादन
ट्यून-ए-वीडियो एक एकल वीडियो पर पूर्व-प्रशिक्षित टेक्स्ट-टू-इमेज प्रसार मॉडल को ठीक करता है ताकि यह उस क्लिप को नए टेक्स्ट संकेतों से फिर से संपादित कर सके।
सिंहावलोकन
यह मायने रखता है क्योंकि इसने दिखाया कि आपको टेक्स्ट-संचालित वीडियो संपादन को काम करने के लिए बड़े पैमाने पर वीडियो डेटासेट की आवश्यकता नहीं है।
गहरा गोता
ट्यून-ए-वीडियो, 2022 के अंत में पेश किया गया, 'वन-शॉट वीडियो जेनरेशन' से निपटता है: आप इसे एक स्रोत वीडियो और एक कैप्शन देते हैं, और यह मूल गति को बनाए रखते हुए नए संकेतों (किसी विषय, शैली या विशेषता को बदलते हुए) के तहत उस वीडियो को पुनर्जीवित करने के लिए पर्याप्त सीखता है। किसी वीडियो मॉडल को शुरुआत से प्रशिक्षित करने के बजाय, यह समय अक्ष पर 2डी कनवल्शन और ध्यान का विस्तार करके एक पूर्व-प्रशिक्षित टेक्स्ट-टू-इमेज मॉडल (स्थिर प्रसार) को छद्म वीडियो मॉडल में फुलाता है। इसके बाद यह एकल क्लिप पर मापदंडों के केवल एक छोटे सेट को ठीक करता है। अनुमान के अनुसार, स्रोत फ़्रेम का डीडीआईएम व्युत्क्रम संरचना को स्थिर करता है ताकि संपादन फ़्रेम-टू-फ़्रेम टिमटिमाते रहने के बजाय अस्थायी रूप से सुसंगत रहे।
तकनीकी अंतर्दृष्टि
मुख्य युक्ति विरल स्थानिक-अस्थायी ध्यान के साथ 'वन-शॉट ट्यूनिंग' है। छवि मॉडल का आत्म-ध्यान फिर से जुड़ा हुआ है, इसलिए प्रत्येक फ्रेम पहले फ्रेम और पिछले फ्रेम पर ध्यान केंद्रित करता है, उपस्थिति का प्रचार करता है और गति सुसंगतता को लागू करता है। केवल ध्यान प्रक्षेपण मैट्रिक्स (और टेम्पोरल लेयर्स) को अपडेट किया जाता है, जिससे ट्यूनिंग तेज़ और सस्ती रहती है। डीडीआईएम व्युत्क्रमण स्रोत फ्रेम को वापस शोर में बदल देता है ताकि पीढ़ी यादृच्छिक शोर के बजाय संरचना-संरक्षण अव्यक्त से शुरू हो।
सामरिक प्रभाव
गति और पैमाना
विज़ुअल एआई बड़े पैमाने पर निरीक्षण, पता लगाने और टैगिंग कार्यों को स्वचालित कर सकता है।
विकल्प बनाएं
रचनात्मक टीमें कम मैन्युअल संशोधनों के साथ तेजी से अवधारणाओं का प्रोटोटाइप बना सकती हैं।
टीम और वर्कफ़्लो
संचालन छवि और वीडियो संकेतों का उपयोग कर सकते हैं जिन्हें संसाधित करना पहले कठिन था।
ट्यून-ए-वीडियो वन-शॉट संपादन का भविष्य
ट्यून-ए-वीडियो ने ट्यूनिंग-मुक्त और शून्य-शॉट उत्तराधिकारियों (वीडियो-पी2पी, फ़ेटज़ीरो, टेक्स्ट2वीडियो-ज़ीरो, पिक्स2वीडियो) की एक लहर पैदा की जो पूरी तरह से प्रति-क्लिप प्रशिक्षण से बचती है। प्रवृत्ति मजबूत अस्थायी मॉड्यूल और देशी वीडियो प्रसार बैकबोन के साथ मनमाने ढंग से क्लिप को तुरंत संपादित करने की ओर है। उम्मीद है कि वन-शॉट दृष्टिकोण फीके पड़ जाएंगे क्योंकि Sora-स्टाइल सिस्टम जैसे फाउंडेशन वीडियो मॉडल एक फाइन-ट्यूनिंग काम के बजाय सुसंगत, त्वरित-संचालित संपादन को एक अंतर्निहित क्षमता बनाते हैं।
वास्तविक विश्व कार्यान्वयन
मूल नक्काशी गति को संरक्षित करते हुए 'एक आदमी स्कीइंग' की क्लिप को 'स्पाइडर-मैन स्कीइंग' में बदलना
एक वास्तविक वॉकिंग-डॉग वीडियो को वान गॉग या वॉटरकलर एनिमेटेड लुक में पुन: डिज़ाइन करना
किसी विषय की विशेषताओं की अदला-बदली करना, जैसे बांस खाने वाले पांडा को बांस खाने वाले कोआला में बदलना
विभिन्न संकेतों के साथ एक संदर्भ क्लिप को संपादित करके विज्ञापनों के लिए लघु अवधारणा एनिमेशन का प्रोटोटाइप बनाना
जोखिम और रेलिंग
यदि उत्पत्ति अस्पष्ट है तो छवि अधिकार और सहमति कानूनी जोखिम बन सकते हैं।
मॉडल का प्रदर्शन प्रकाश व्यवस्था, जनसांख्यिकी और वातावरण के अनुसार भिन्न हो सकता है।
जब तक आत्मविश्वास की सीमा की निगरानी नहीं की जाती, तब तक झूठी सकारात्मक बातों पर ध्यान नहीं दिया जा सकता।
कार्यान्वयन रोडमैप
सटीकता, रिकॉल और त्रुटि लागत के लिए स्वीकृति मानदंड परिभाषित करें।
वास्तविक उत्पादन स्थितियों से मेल खाने वाले डेटा के साथ परीक्षण करें।
कम-आत्मविश्वास या उच्च-प्रभाव वाली भविष्यवाणियों के लिए मानवीय समीक्षा जोड़ें।
कैमरा या डेटासेट में बदलाव के बाद मॉडल बहाव को ट्रैक करें और पुनः सत्यापित करें।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tune-A-Video One-Shot Editing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
मेक-ए-वीडियो टेक्स्ट-टू-वीडियो
अक्सर पूछे जाने वाले प्रश्नों
ट्यून-ए-वीडियो वन-शॉट एडिटिंग क्या है?
ट्यून-ए-वीडियो एक एकल वीडियो पर पूर्व-प्रशिक्षित टेक्स्ट-टू-इमेज प्रसार मॉडल को ठीक करता है ताकि यह उस क्लिप को नए टेक्स्ट संकेतों से फिर से संपादित कर सके। यह मायने रखता है क्योंकि इससे पता चलता है कि आपको टेक्स्ट-संचालित वीडियो संपादन कार्य करने के लिए बड़े पैमाने पर वीडियो डेटासेट की आवश्यकता नहीं है।
ट्यून-ए-वीडियो को वीडियो के लिए अनुकूलित करने से पहले यह किस आधार मॉडल से शुरू होता है?
ट्यून-ए-वीडियो विशाल वीडियो कॉर्पोरा पर प्रशिक्षण के बजाय एक पूर्व-प्रशिक्षित टेक्स्ट-टू-इमेज प्रसार मॉडल को छद्म वीडियो मॉडल में 'फुलाता' है।
ट्यून-ए-वीडियो में 'वन-शॉट' क्या संदर्भित करता है?
वन-शॉट का मतलब है कि संपादन के लिए दोबारा संकेत दिए जाने से पहले मॉडल को एकल इनपुट वीडियो और उसके कैप्शन पर ठीक से ट्यून किया गया है।
ट्यून-ए-वीडियो संपादित फ़्रेमों को अस्थायी रूप से सुसंगत कैसे रखता है?
क्रॉस-फ़्रेम (विरल अनुपात-अस्थायी) ध्यान प्रत्येक फ़्रेम को पहले और पिछले फ़्रेमों को देखने देता है, उपस्थिति और गति का प्रचार करता है।
अनुमान के समय डीडीआईएम व्युत्क्रमण क्या भूमिका निभाता है?
डीडीआईएम व्युत्क्रम वास्तविक फ़्रेमों को शोर में वापस मैप करता है, इसलिए पीढ़ी एक अव्यक्त से शुरू होती है जो मूल संरचना और गति को संरक्षित करती है।
ट्यूनिंग के दौरान, कुशल बने रहने के लिए ट्यून-ए-वीडियो मुख्य रूप से क्या अपडेट करता है?
यह प्रक्रिया को हल्का बनाए रखते हुए एक सीमित उपसमुच्चय, मुख्य रूप से ध्यान प्रक्षेपण और अस्थायी परतों को ठीक करता है।