आगेअगली गाइड
India IT Rules on Deepfakes and Synthetic Content Labels
समाज
समाज गाइड
AI सामग्री लेबल नोटिस हैं, जैसे Meta का 'AI जानकारी' टैग या YouTube का परिवर्तित या सिंथेटिक सामग्री लेबल, जो प्लेटफ़ॉर्म जेनरेटिव AI के साथ किए गए या महत्वपूर्ण रूप से परिवर्तित पोस्ट से जुड़ते हैं।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
वे या तो निर्माता के स्वयं के प्रकटीकरण से या प्लेटफ़ॉर्म द्वारा फ़ाइल में पाए जाने वाले संकेतों द्वारा ट्रिगर होते हैं। वे मायने रखते हैं क्योंकि वे दर्शकों को यह सीखने का मुख्य तरीका हैं कि एक यथार्थवादी छवि, वीडियो या आवाज वास्तविक नहीं हो सकती है, फिर भी वे मेटाडेटा और निर्माता की ईमानदारी पर निर्भर करते हैं, दोनों को खोना आसान है।
प्लेटफ़ॉर्म एआई सामग्री को दो तरह से लेबल करते हैं: निर्माता स्व-प्रकटीकरण और स्वचालित पहचान। स्वचालित पहचान अधिकतर सामग्री बनाने वाले उपकरणों द्वारा छोड़े गए संकेतों को पढ़ती है। एक मेटाडेटा है, जैसे C2PA सामग्री क्रेडेंशियल और IPTC डिजिटल स्रोत प्रकार फ़ील्ड, जो रिकॉर्ड कर सकता है कि एक छवि AI द्वारा उत्पन्न या संपादित की गई थी। दूसरा अदृश्य वॉटरमार्क है, जैसे Google का SynthID, जो पिक्सेल या ऑडियो में एम्बेडेड है। प्लेटफ़ॉर्म उन क्लासिफायरों पर कम भरोसा करते हैं जो सामग्री से ही अनुमान लगाते हैं, क्योंकि वे अधिक त्रुटियां करते हैं। Meta ने 2024 में Facebook, Instagram और Threads में AI इमेज को 'मेड विद AI' टैग के साथ लेबल करना शुरू किया। फ़ोटोग्राफ़रों ने शिकायत की कि मामूली AI-सहायता वाले संपादनों ने इसे वास्तविक फ़ोटो पर ट्रिगर कर दिया, इसलिए Meta ने इसका नाम बदलकर 'AI जानकारी' कर दिया और लेबल को हल्के ढंग से संपादित सामग्री के लिए एक मेनू में स्थानांतरित कर दिया। YouTube के लिए रचनाकारों को ऐसी यथार्थवादी सामग्री का खुलासा करने की आवश्यकता होती है जो बदली हुई या सिंथेटिक होती है, जैसे कि कोई वास्तविक व्यक्ति कुछ ऐसा कहता हुआ दिखाई देता है जो उन्होंने नहीं कहा। इसमें स्पष्ट रूप से अवास्तविक सामग्री, सौंदर्य फिल्टर या केवल स्क्रिप्टिंग जैसे कार्यों के लिए उपयोग किए जाने वाले एआई के प्रकटीकरण की आवश्यकता नहीं है। यह लेबल चुनाव, स्वास्थ्य और समाचार जैसे संवेदनशील विषयों के लिए अधिक प्रमुख है। TikTok के लिए रचनाकारों को यथार्थवादी AI सामग्री को लेबल करने की आवश्यकता है और 2024 में कुछ अपलोड को स्वचालित रूप से लेबल करने के लिए सामग्री क्रेडेंशियल पढ़ना शुरू किया। Google और Meta को उन राजनीतिक विज्ञापनों में भी प्रकटीकरण की आवश्यकता होती है जिनमें यथार्थवादी सिंथेटिक सामग्री होती है। इन नियमों को तोड़ने वाले रचनाकारों को सामग्री निष्कासन या दंड का सामना करना पड़ सकता है। अंतराल गंभीर हैं. स्क्रीनशॉट, री-एन्कोडिंग और कई संपादन ऐप्स मेटाडेटा छीन लेते हैं। कई ओपन-वेट मॉडल कोई वॉटरमार्क नहीं जोड़ते हैं। नियम हर प्लेटफॉर्म पर अलग-अलग होते हैं। श्रोता लेबल भी गलत पढ़ते हैं। एक छोटे से संपादन के साथ वास्तविक तस्वीर पर एक लेबल यह सुझाव दे सकता है कि यह नकली है, और एक लेबल की अनुपस्थिति यह साबित नहीं करती है कि सामग्री वास्तविक है।
एक YouTuber जिसने यथार्थवादी पुन: अधिनियमन का वर्णन करने के लिए क्लोन की गई आवाज का उपयोग किया, अपलोड के दौरान YouTube स्टूडियो में परिवर्तित या सिंथेटिक सामग्री प्रकटीकरण का चयन करता है।
एक फोटोग्राफर एक जेनरेटिव फिल टूल के साथ एक भटकी हुई वस्तु को हटा देता है, और Instagram स्वचालित रूप से एक AI जानकारी लेबल जोड़ता है क्योंकि संपादन सॉफ़्टवेयर ने फ़ाइल में AI मेटाडेटा लिखा है।
एक TikTok क्रिएटर एक टूल से एक वीडियो अपलोड करता है जो कंटेंट क्रेडेंशियल्स संलग्न करता है, और TikTok इसे क्रिएटर के कुछ भी किए बिना AI-जनरेटेड के रूप में लेबल करता है।
एक अन्य खाता AI छवि का स्क्रीनशॉट दोबारा पोस्ट करता है। स्क्रीनशॉट में कोई मेटाडेटा नहीं है, इसलिए कोई स्वचालित लेबल दिखाई नहीं देता है, जो मुख्य प्रवर्तन अंतरालों में से एक को दर्शाता है।
नियमन से दबाव बढ़ रहा है. ईयू एआई अधिनियम का अनुच्छेद 50 पारदर्शिता दायित्वों को निर्धारित करता है, जिसमें प्रदाताओं द्वारा सिंथेटिक आउटपुट की मशीन-पठनीय अंकन और तैनातीकर्ताओं द्वारा डीपफेक का खुलासा शामिल है, और ये दायित्व अगस्त 2026 से लागू होने के लिए निर्धारित हैं, हालांकि ईयू कानून निर्माताओं ने कुछ मौजूदा प्रणालियों के लिए संक्रमण अवधि पर चर्चा की है। कई न्यायालयों ने चुनावों में भ्रामक एआई सामग्री पर नियम भी पारित किए हैं। अधिक कैमरे, फ़ोन और संपादन उपकरण सामग्री क्रेडेंशियल अपना रहे हैं, जो लेबलिंग को अधिक सुसंगत बना सकते हैं। उद्योग में कुछ लोग प्रामाणिक सामग्री को सत्यापित करने के साथ-साथ सिंथेटिक सामग्री को चिह्नित करने का तर्क देते हैं, क्योंकि पता लगाने से कभी भी सब कुछ नहीं पकड़ा जा सकेगा। प्लेटफ़ॉर्म अपने नियमों को कितनी लगातार लागू करते हैं, और क्या दर्शकों को लेबल का मतलब समझ में आता है, यह अनिश्चित बना हुआ है।
मुफ़्त न्यूज़लेटर
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
AI सामग्री लेबल नोटिस हैं, जैसे Meta का 'AI जानकारी' टैग या YouTube का परिवर्तित या सिंथेटिक सामग्री लेबल, जो प्लेटफ़ॉर्म जेनरेटिव AI के साथ किए गए या महत्वपूर्ण रूप से परिवर्तित पोस्ट से जुड़ते हैं। वे या तो निर्माता के स्वयं के प्रकटीकरण से या प्लेटफ़ॉर्म द्वारा फ़ाइल में पाए जाने वाले संकेतों द्वारा ट्रिगर होते हैं। वे मायने रखते हैं क्योंकि वे दर्शकों को यह सीखने का मुख्य तरीका हैं कि एक यथार्थवादी छवि, वीडियो या आवाज वास्तविक नहीं हो सकती है, फिर भी वे मेटाडेटा और निर्माता की ईमानदारी पर निर्भर करते हैं, दोनों को खोना आसान है।
एआई टूल से किए गए छोटे-छोटे संपादनों के कारण वास्तविक तस्वीरों को 'एआई से निर्मित' टैग किया जा रहा था। नरम 'एआई जानकारी' शब्द और हल्के संपादन के लिए एक मेनू प्लेसमेंट का उद्देश्य इसे संबोधित करना था।
YouTube का नियम यथार्थवादी सामग्री को लक्षित करता है जो दर्शकों को गुमराह कर सकता है। केवल उत्पादन कार्यों के लिए उपयोग की जाने वाली अवास्तविक सामग्री, सौंदर्य फ़िल्टर और AI को बाहर रखा गया है।
स्वचालित लेबलिंग ज्यादातर त्रुटि-प्रवण क्लासिफायर पर भरोसा करने के बजाय, निर्माण उपकरण द्वारा छोड़े गए मूल संकेतों को पढ़ती है, जिसका अर्थ है मेटाडेटा और वॉटरमार्क।
मेटाडेटा-आधारित पहचान उसके मूल डेटा वाली फ़ाइल पर निर्भर करती है। स्क्रीनशॉट और री-एन्कोडिंग इसे छोड़ देती है, इसलिए कोई सिग्नल प्लेटफ़ॉर्म तक नहीं पहुंचता है।
'trainedAlgorithmicMedia' पूरी तरह से उत्पन्न सामग्री को इंगित करता है। 'compositeWithTrainedAlgorithmicMedia' उन कंपोजिट को चिह्नित करता है जिनमें उत्पन्न तत्व शामिल होते हैं।
सीखते रहो
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं
आगेअगली गाइड
India IT Rules on Deepfakes and Synthetic Content Labels
समाज