Instagram बिना लेबल वाले AI-जनरेटेड प्रोफाइल तक पहुंच को सीमित कर देगा

क्या हुआ?

द वर्ज की रिपोर्ट है कि Instagram बदल रहा है कि वह एआई-जनरेटेड लोगों की विशेषता वाले प्रोफाइल को कैसे लेबल करता है। प्लेटफ़ॉर्म अपने "एआई क्रिएटर" लेबल का नाम बदलकर "एआई-जनरेटेड प्रोफ़ाइल" कर देगा और उन खातों की पहुंच को सीमित कर देगा जो स्व-लेबल करने में विफल रहते हैं।

द वर्ज की रिपोर्ट है कि Instagram एआई-प्रभावक खातों के बढ़ने पर प्रतिक्रिया दे रहा है, जिन्हें वास्तविक लोगों का प्रतिनिधित्व करने वाले प्रोफाइल से अलग करना कठिन होता जा रहा है। प्लेटफ़ॉर्म अपने मौजूदा "एआई क्रिएटर" लेबल का नाम बदलकर "एआई-जेनरेटेड प्रोफ़ाइल" कर रहा है। Instagram ने द वर्ज द्वारा उद्धृत एक ब्लॉग पोस्ट में कहा, कि उपयोगकर्ता यह जानना चाहते हैं कि किसी प्रोफ़ाइल में वास्तविक इंसान के बजाय AI-जनरेटेड व्यक्ति को कब दिखाया जाता है। शब्दों में बदलाव का उद्देश्य उस अंतर को और अधिक स्पष्ट करना है। इसलिए रिपोर्ट की गई शब्दावली खाते का ही वर्णन करती है, न कि केवल एक व्यक्तिगत छवि, वीडियो या कैप्शन का, जिसमें एआई टूल का उपयोग किया गया हो।

द वर्ज के अनुसार, Instagram उन खातों की तलाश करेगा जिनमें AI-जनरेटेड प्रोफाइल हैं लेकिन खुद को लेबल नहीं करते हैं। रिपोर्ट किया गया जुर्माना सेवा से हटाने के बजाय वितरण में कमी है। उन खातों से पोस्ट जो Instagram फ़्लैग करते हैं, उन लोगों के लिए अनुशंसित नहीं की जाएगी जो पहले से ही रील्स और एक्सप्लोर में उनका अनुसरण नहीं करते हैं। द वर्ज यह भी रिपोर्ट करता है कि यदि Instagram उन्हें गलत तरीके से फ़्लैग करता है तो प्रोफ़ाइल स्वामी अपील कर सकते हैं। यह रिपोर्ट किए गए परिवर्तन को प्रकटीकरण से जुड़ा एक वितरण परिणाम बनाता है, जिसमें अपील विकल्प गलत ध्वज के लिए बताए गए उपाय के रूप में कार्य करता है।

रिपोर्ट की गई नीति की एक विशिष्ट सीमा है। Instagram ने द वर्ज को बताया कि जो लोग सामग्री तैयार करने के लिए AI टूल का उपयोग करते हैं, उन्हें लेबल जोड़ने की आवश्यकता नहीं है। इसलिए यह कार्रवाई उन प्रोफाइलों से संबंधित है जो एआई-जनित व्यक्ति को किसी खाते के स्पष्ट विषय के रूप में प्रस्तुत करते हैं, न कि हर उस पोस्ट को जिसे एआई के साथ संपादित, संवर्धित या अन्यथा बनाया गया है। स्रोत रोलआउट शेड्यूल, पहचान मानदंड, प्रवर्तन निर्णयों के उदाहरण या यह दर्शाने वाला डेटा प्रदान नहीं करता है कि कितने खाते प्रभावित हो सकते हैं। दूसरे शब्दों में, आपूर्ति की गई रिपोर्ट सिंथेटिक पहचान और उत्पादन के दौरान एआई के उपयोग के बीच एक रेखा खींचती है, जबकि कार्यान्वयन विवरण खुला छोड़ देती है।

स्रोत विवरण: theverge.com ↗

यह क्यों मायने रखता है?

परिवर्तन एआई-जनित व्यक्तित्वों को लक्षित करता है जो वास्तविक लोग प्रतीत हो सकते हैं, लेकिन यह एआई-निर्मित सामग्री के लिए एक सामान्य फ़िल्टर नहीं बनाता है। द वर्ज की रिपोर्ट है कि प्रभावित पोस्ट को रील्स और एक्सप्लोर में गैर-अनुयायियों के लिए अनुशंसाओं से बाहर रखा जाएगा, जबकि मालिक गलत निर्णयों के खिलाफ अपील कर सकते हैं।

परिवर्तन भ्रम के एक विशेष रूप को संबोधित करता है: एक खाता एक सामान्य व्यक्तिगत या प्रभावशाली प्रोफ़ाइल की तरह दिख सकता है, भले ही प्रतिनिधित्व करने वाला व्यक्ति मौजूद न हो। द वर्ज की रिपोर्ट है कि Instagram का तर्क उपयोगकर्ताओं को बाद में पता चला कि एक प्रतीत होता है कि मानव प्रोफ़ाइल AI-जनरेटेड थी। एक दृश्यमान प्रोफ़ाइल-स्तरीय लेबल उपयोगकर्ताओं को खाते की प्रस्तुति का अनुसरण करने, साझा करने या उस पर भरोसा करने से पहले महत्वपूर्ण संदर्भ दे सकता है। इच्छित लाभ उस बिंदु पर संदर्भ है जहां प्रोफ़ाइल का सामना किया जाता है, खाते की प्रस्तुति को अंकित मूल्य पर लेने से पहले।

पहुंच जुर्माना खाता संचालकों के लिए व्यावहारिक दांव को भी बदल देता है। यदि पोस्ट को रील्स और एक्सप्लोर में गैर-अनुयायियों के लिए अनुशंसाओं से बाहर रखा जाता है, तो एक बिना लेबल वाली एआई-जनरेटेड प्रोफ़ाइल में अपने मौजूदा दर्शकों से आगे बढ़ने की क्षमता कम हो सकती है। यह उस लेबल से भौतिक रूप से भिन्न है जो वितरण को अपरिवर्तित छोड़ते हुए केवल जानकारी जोड़ता है। साथ ही, द वर्ज एआई-जनरेटेड प्रोफाइल पर कोई विलोपन नीति, वित्तीय दंड या सामान्य निषेध की रिपोर्ट नहीं करता है। अंतर मायने रखता है क्योंकि अनुशंसा एक्सपोज़र इस बात का हिस्सा है कि कोई खाता उन लोगों तक कैसे पहुंचता है जिन्होंने इसका अनुसरण करना नहीं चुना है।

यह नीति उन तरीकों से सीमित है जो उपयोगकर्ताओं के लिए यह समझने की कोशिश करते हैं कि वे क्या देखते हैं। द वर्ज की रिपोर्ट है कि एआई-जनरेटेड सामग्री को हमेशा प्रोफ़ाइल लेबल की आवश्यकता नहीं होती है, इसलिए परिवर्तन लोगों को सभी एआई-निर्मित छवियों, वीडियो या कैप्शन को पहचानने या फ़िल्टर करने का व्यापक तरीका नहीं देगा। यह भी अनसुलझा है कि कैसे Instagram AI टूल का उपयोग करके एक पूर्ण सिंथेटिक व्यक्तित्व को एक वास्तविक व्यक्ति से अलग करेगा। रिपोर्ट स्वतंत्र रूप से यह स्थापित नहीं करती है कि Instagram का पता लगाना कितना सटीक होगा, कितनी बार गलत सकारात्मक परिणाम हो सकते हैं या क्या नए शब्दों से उपयोगकर्ता की समझ में सुधार होगा। उस सीमा का मतलब है कि लेबल को प्रोफ़ाइल-विशिष्ट सिग्नल के रूप में पढ़ा जाना चाहिए, न कि किसी व्यक्तिगत पोस्ट को बनाने के लिए उपयोग किए जाने वाले टूल के संपूर्ण विवरण के रूप में।

आगे क्या देखना है

मुख्य अज्ञात यह है कि Instagram एआई-जनरेटेड प्रोफ़ाइल की पहचान कैसे करता है, यह लेबल और पहुंच सीमा को कितनी लगातार लागू करता है, और अपील कैसे काम करती है। नीति का प्रभाव इस बात पर भी निर्भर करेगा कि उपयोगकर्ता एआई-जनित लोगों को सामान्य प्रोफाइल और एआई-सहायता प्राप्त सामग्री से अलग कर सकते हैं या नहीं।

पहला व्यावहारिक प्रश्न यह है कि Instagram यह कैसे निर्धारित करेगा कि किसी प्रोफ़ाइल में AI-जनित व्यक्ति मौजूद है। द वर्ज की रिपोर्ट है कि Instagram उन खातों की तलाश करने की योजना बना रहा है जो स्व-लेबल नहीं करते हैं, लेकिन लेख उस निर्धारण को करने के लिए उपयोग किए जाने वाले संकेतों, समीक्षा प्रक्रिया या सीमा का वर्णन नहीं करता है। प्रकाशित प्रवर्तन मार्गदर्शन, ध्वजांकित प्रोफाइल के उदाहरण और इस बारे में साक्ष्य देखें कि क्या सिस्टम स्वचालित पहचान, उपयोगकर्ता रिपोर्ट, मानव समीक्षा या विधियों के संयोजन पर निर्भर करता है। उन विवरणों के बिना, स्रोत नियोजित उद्देश्य स्थापित करता है लेकिन परिचालन मानक Instagram व्यवहार में लागू नहीं होगा।

अपील प्रक्रिया महत्वपूर्ण होगी क्योंकि रिपोर्ट किया गया परिणाम केवल प्रकटीकरण के बजाय वितरण को प्रभावित करता है। द वर्ज के अनुसार, Instagram का कहना है कि मालिक गलत तरीके से चिह्नित होने पर अपील कर सकते हैं, लेकिन स्रोत यह नहीं बताता है कि अपील की कितनी जल्दी समीक्षा की जाएगी, क्या समीक्षा के दौरान पहुंच बहाल की जाएगी या खाता मालिक क्या सबूत जमा कर सकते हैं। वे विवरण यह निर्धारित करेंगे कि क्या नीति लक्षित पारदर्शिता उपाय के रूप में कार्य करती है या गलत दमन का पर्याप्त जोखिम पैदा करती है। इसलिए उपलब्ध विवरण इसके सुरक्षा उपायों, समय या संभावित परिणाम को स्थापित किए बिना अपील पथ की पहचान करता है।

व्यापक अनसुलझा मुद्दा एआई-जनित प्रोफ़ाइल और सामान्य एआई-सहायता प्रकाशन के बीच की सीमा है। Instagram की रिपोर्ट की गई स्थिति यह है कि सामग्री बनाने के लिए AI टूल का उपयोग करने के लिए लेबल की आवश्यकता नहीं होती है। इस बात पर ध्यान दें कि क्या उपयोगकर्ता उस अंतर को विश्वसनीय रूप से समझ सकते हैं, क्या Instagram सिंथेटिक मीडिया के अन्य रूपों में लेबलिंग का विस्तार करता है और क्या पहुंच सीमाएं अज्ञात एआई व्यक्तित्वों के प्रसार को मापती हैं। द वर्ज की रिपोर्ट अभी तक नीति की प्रभावशीलता का कोई स्वतंत्र माप प्रदान नहीं करती है। वे प्रश्न आपूर्ति की गई रिपोर्ट में खुले रहते हैं, जो नीति का वर्णन करता है लेकिन अभी तक परिणाम मूल्यांकन प्रदान नहीं करता है।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी