क्या हुआ?
Ars Technica की रिपोर्ट है कि Meta अपने AI ग्लास को अपडेट कर रहा है ताकि यदि सक्रिय रिकॉर्डिंग के दौरान चश्मे की सुरक्षा लाइट ढकी हो तो कैमरा रिकॉर्डिंग बंद कर दे। यह बदलाव उन रिपोर्टों के बाद आया है कि उपयोगकर्ता पहले रिकॉर्डिंग शुरू कर सकते हैं और फिर पहले की सुरक्षा को दरकिनार करते हुए प्रकाश को कवर कर सकते हैं।
Ars Technica की रिपोर्ट है कि Meta अपने AI चश्मे के लिए एक सॉफ्टवेयर अपडेट जारी कर रहा है, क्योंकि उपयोगकर्ताओं ने चश्मे की कैप्चर लाइट को छुपाते हुए रिकॉर्ड करने का एक तरीका प्रदर्शित किया है। इससे पहले, चश्मे ने कथित तौर पर रिकॉर्डिंग को अक्षम कर दिया था जब एक उपयोगकर्ता ने पहले से ही प्रकाश को कवर करने वाले स्टिकर के साथ वीडियो कैप्चर करना शुरू करने का प्रयास किया था। बाईपास को पहले रिकॉर्डिंग शुरू करना था और बाद में प्रकाश को कवर करना था।
Ars Technica के अनुसार, Meta वियरेबल्स के कार्यकारी उपाध्यक्ष एलेक्स हिमेल ने Threads पोस्ट में कहा कि अगर रिकॉर्डिंग के दौरान प्रकाश को कवर किया जाता है तो कैमरा अब काम करना बंद कर देगा। हिमेल ने सुरक्षा को दरकिनार करने की कोशिश करने वाले लोगों को एक छोटे अल्पसंख्यक के रूप में चित्रित किया और कहा कि Meta अपने दृष्टिकोण में सुधार जारी रखेगा। AI Understanding ने स्वतंत्र रूप से Threads पोस्ट, रोलआउट स्थिति, या सभी ग्लासों पर अपडेट के संचालन की पुष्टि नहीं की है।
रिपोर्ट में कहा गया है कि यह बदलाव एक नए Meta मार्केटिंग अभियान के साथ जोड़ा गया है, जिसका उद्देश्य रिकॉर्डिंग लाइट को जनता के लिए अधिक दृश्यमान बनाना है। आर्स टेक्निका द वर्ज की रिपोर्ट का हवाला देते हुए कहती है कि लॉस एंजिल्स के बिलबोर्ड में एक बच्चे को Meta चश्मा पहने हुए दिखाया गया है और यह संदेश देते हुए प्रकाश की ओर ध्यान आकर्षित करता है कि कैमरा क्षणों को कैद करता है जबकि प्रकाश आस-पास के लोगों को सचेत करता है। स्रोत यह स्थापित नहीं करता है कि अभियान ने संकेतक के बारे में सार्वजनिक समझ को बदल दिया है या नहीं।
Ars Technica की यह भी रिपोर्ट है कि सुरक्षा उपाय हर बाईपास को संबोधित नहीं कर सकता है। लेख में कहा गया है कि उपयोगकर्ता संभावित रूप से चश्मे को संशोधित कर सकते हैं या रिकॉर्डिंग बंद किए बिना प्रकाश के साथ छेड़छाड़ कर सकते हैं, और यह स्पष्ट नहीं है कि अर्ध-पारदर्शी स्टिकर नई सुरक्षा को ट्रिगर करेंगे या नहीं। वे संभावनाएँ रिपोर्ट किए गए जोखिम हैं, स्रोत में स्वतंत्र रूप से सत्यापित परीक्षण नहीं।
स्रोत विवरण: arstechnica.com ↗
यह क्यों मायने रखता है?
अद्यतन एक एआई उत्पाद में प्रत्यक्ष गोपनीयता जोखिम को संबोधित करता है जो आस-पास के लोगों को उनकी जानकारी के बिना रिकॉर्ड कर सकता है। यह गैर-सहमति वाली रिकॉर्डिंग के एक रूप को कठिन बना सकता है, लेकिन यह स्थापित नहीं करता है कि जब रिकॉर्डिंग हो रही है तो दर्शक विश्वसनीय रूप से समझेंगे या कैप्चर किए गए डेटा के साथ क्या होता है इसे नियंत्रित करेंगे।
तात्कालिक महत्व व्यावहारिक है: चश्मा पहनने वाला व्यक्ति सार्वजनिक या निजी सेटिंग्स में वीडियो रिकॉर्ड करने में सक्षम हो सकता है, जबकि आस-पास के लोगों को यह नहीं पता होगा कि एआई-सक्षम डिवाइस उन्हें कैप्चर कर रहा है। सॉफ़्टवेयर परिवर्तन रिकॉर्डिंग को संकेतक की दृश्यता से अधिक मजबूती से जोड़ता है, उस विशिष्ट अनुक्रम को बंद कर देता है जिसमें प्रकाश कवर होने से पहले रिकॉर्डिंग शुरू होती है।
सीमा यह है कि एक संकेतक केवल तभी उपयोगी होता है जब लोग इसे पहचानते हैं, इसे देख सकते हैं और इसके अर्थ पर भरोसा कर सकते हैं। Ars Technica की रिपोर्ट है कि यूरोपीय संघ के डेटा नियामक इस बात की जांच कर रहे हैं कि क्या Meta ने प्रकाश का उचित रूप से परीक्षण किया है ताकि जनता इसके सुरक्षा कार्य को समझ सके। रिपोर्ट नियामक का अंतिम निष्कर्ष प्रदान नहीं करती है, इसलिए यह अभी तक स्थापित नहीं हुआ है कि डिज़ाइन किसी कानून का उल्लंघन करता है या सभी सामान्य सेटिंग्स में विफल रहता है।
डेटा के परिणाम कैप्चर किए जाने के क्षण से भी आगे तक बढ़ सकते हैं। Ars Technica की रिपोर्ट है कि एक प्रस्तावित अमेरिकी क्लास-एक्शन शिकायत में आरोप लगाया गया है कि Meta की गोपनीयता मार्केटिंग भ्रामक थी और केन्या में मानव डेटा एनोटेटर्स ने Meta AI को प्रशिक्षित करने के लिए चश्मे द्वारा कैप्चर किए गए फुटेज की समीक्षा की। शिकायत में कथित तौर पर संवेदनशील वीडियो का वर्णन किया गया है, जिसमें यौन गतिविधि, बाथरूम दौरे, भुगतान-कार्ड की जानकारी और निजी संदेश शामिल फुटेज शामिल हैं। ये मुकदमेबाजी के आरोप हैं, न कि किसी अदालत द्वारा स्थापित निष्कर्ष या इस स्रोत द्वारा स्वतंत्र रूप से पुष्टि की गई।
मुकदमे का व्यापक तर्क, जैसा कि एर्स टेक्निका द्वारा वर्णित है, यह है कि चश्मा पहनने वाले लोग पूरी तरह से नियंत्रित नहीं कर सकते हैं कि उनके द्वारा कैप्चर किए गए डेटा का क्या होता है, जिसमें दर्शकों से जुड़ा डेटा भी शामिल है। शिकायत में Meta की मार्केटिंग में नुकसान और बदलाव की मांग की गई है। यदि आरोप प्रमाणित हो जाते हैं, तो मुद्दा न केवल रिकॉर्डिंग के दृश्यमान होने से संबंधित होगा, बल्कि सहमति, डेटा प्रशासन, मानव समीक्षा, भावनात्मक क्षति और एआई विकास में दर्शकों की छवियों या गतिविधियों के उपयोग से भी संबंधित होगा।
इंटरैक्टिव तंत्र: यह वास्तव में कैसे काम करता है
इस विकास के पीछे अंतर्निहित प्रौद्योगिकी का अंतःक्रियात्मक रूप से अन्वेषण करें।
crm_get_transaction(id='4092').Why can ethical evaluation not be reduced to one model score?
आगे क्या देखना है
मुख्य अनुत्तरित प्रश्न हैं कि क्या अपडेट सभी उपकरणों तक पहुंच गया है, क्या अर्ध-पारदर्शी स्टिकर या हार्डवेयर संशोधन इसे हरा सकते हैं, और नियामक कैसे प्रतिक्रिया देते हैं। यूएस क्लास-एक्शन मुकदमे के घटनाक्रम और Meta AI को प्रशिक्षित करने के लिए उपयोग किए गए फुटेज की कथित मानव समीक्षा को स्पष्ट करने वाले साक्ष्य के लिए भी देखें।
सबसे पहले, Meta के रोलआउट का दायरा और विश्वसनीयता देखें। Ars Technica का कहना है कि अपडेट जल्द ही जारी किया जाएगा, लेकिन स्रोत पूर्णता तिथि, समर्थित डिवाइस सूची, भौगोलिक उपलब्धता, संस्करण संख्या या स्वतंत्र परीक्षण परिणाम नहीं देता है। वे विवरण मायने रखते हैं क्योंकि आंशिक तैनाती से कुछ उपयोगकर्ता पहले की खामियों के तहत काम कर रहे होंगे।
दूसरा, देखें कि क्या शोधकर्ता, नियामक या उपयोगकर्ता प्रकाश छिपाते हुए रिकॉर्ड करने के शेष तरीके प्रदर्शित करते हैं। रिपोर्ट विशेष रूप से अर्ध-पारदर्शी स्टिकर और भौतिक छेड़छाड़ को उठाती है, लेकिन यह नहीं बताती है कि कोई भी तरीका काम करता है या नहीं। एक सार्थक मूल्यांकन के लिए सामान्य उपयोगकर्ता व्यवहार को विशेष हार्डवेयर संशोधन से अलग करना होगा और परीक्षण करना होगा कि क्या कैमरा वास्तव में प्रत्येक स्थिति में बंद हो जाता है।
तीसरा, यूरोप में नियामक कार्रवाई पर नजर रखें। एर्स टेक्निका की रिपोर्ट है कि यूरोपीय संघ के डेटा नियामक चश्मे की जांच कर रहे हैं, जर्मनी एक गैर-लाभकारी आपराधिक शिकायत के बाद प्रतिबंध पर विचार कर रहा है, और यूरोपीय डेटा संरक्षण बोर्ड से संभावित सुरक्षा उपायों पर एक रिपोर्ट जारी करने की उम्मीद है। स्रोत उन कार्रवाइयों की कानूनी खूबियों, उनके सटीक समय, या क्या किसी प्राधिकरण ने निष्कर्ष निकाला है कि Meta ने गोपनीयता कानून का उल्लंघन किया है, यह नहीं बताया है।
अंत में, अमेरिकी मुकदमेबाजी और डेटा प्रबंधन के बारे में Meta के खुलासे देखें। Ars Technica की रिपोर्ट है कि Meta ने अभी तक क्लास-एक्शन मामले में कोई प्रतिक्रिया दर्ज नहीं की है और शिकायत चुनौती का दावा है कि चश्मा गोपनीयता को ध्यान में रखकर डिजाइन किया गया है। सबसे महत्वपूर्ण अनसुलझे तथ्यात्मक प्रश्नों में शामिल हैं कि क्या कथित केन्याई समीक्षा पाइपलाइन में वर्णित फुटेज की श्रेणियां शामिल हैं, उपयोगकर्ताओं और दर्शकों को क्या सहमति या नोटिस प्राप्त हुआ, कितनी देर तक रिकॉर्डिंग बरकरार रखी गई, और क्या Meta अपने विपणन या उत्पाद डिफ़ॉल्ट को बदलता है।