क्या हुआ?
एक्सियोस की रिपोर्ट है कि वेमो के ऑनबोर्ड सॉफ्टवेयर के उपाध्यक्ष श्रीकांत थिरुमलाई ने कहा कि शुद्ध एंड-टू-एंड एआई सिस्टम बड़े पैमाने पर स्वायत्त-वाहन तैनाती के लिए कंपनी के सुरक्षा मानक को पूरा नहीं करते हैं। वेमो का कहना है कि वह समान दृष्टिकोणों का परीक्षण करने और 200 मिलियन से अधिक ड्राइवर रहित मील से सबक लेने के बाद इस निष्कर्ष पर पहुंचा है।
एक्सियोस की रिपोर्ट है कि वेमो के ऑनबोर्ड सॉफ्टवेयर के उपाध्यक्ष श्रीकांत थिरुमलाई ने कहा कि बड़े पैमाने पर स्वायत्त वाहनों को सुरक्षित रूप से तैनात करने के लिए एआई मॉडल में सुधार करने से कहीं अधिक की आवश्यकता है। एक्सियोस के अनुसार, वेमो ने शुरू से ही अपने उद्देश्य को "स्पष्ट रूप से सुरक्षित एआई" के निर्माण के रूप में वर्णित किया है और थिरुमलाई ने कहा कि कंपनी ने नए स्वायत्त-ड्राइविंग डेवलपर्स द्वारा उपयोग किए जाने वाले समान सामान्य उपकरणों का परीक्षण किया है। वेमो का निष्कर्ष, जैसा कि एक्सियोस द्वारा रिपोर्ट किया गया है, यह है कि "शुद्ध एंड-टू-एंड" सिस्टम अपने सुरक्षा मानकों को उस पैमाने पर पूरा करने में सक्षम नहीं हैं जिस पैमाने पर यह संचालित होता है। स्रोत उस सुरक्षा पट्टी के पीछे संख्यात्मक सीमा या परीक्षण प्रोटोकॉल निर्दिष्ट नहीं करता है।
एक्सियोस की रिपोर्ट है कि वेमो की आलोचना उन प्रणालियों पर लक्षित है जो कच्चे सेंसर डेटा को संसाधित करते हैं और सीधे स्टीयरिंग कमांड उत्पन्न करते हैं। कंपनी का कहना है कि ऐसे आर्किटेक्चर में इसकी तैनाती की जरूरतों के लिए पर्याप्त सुरक्षा रेलिंग का अभाव है। थिरुमलाई ने एक्सियोस को यह भी बताया कि बहुत बड़े एआई मॉडल भी मतिभ्रम कर सकते हैं, जिससे भौतिक प्रणालियों में एक विशेष समस्या पैदा हो सकती है: एक वाहन को खराब निर्णय लेने के बाद आसानी से ताज़ा या पुनरारंभ नहीं किया जा सकता है। स्रोत के खाते में, वेमो तर्क दे रहा है कि एक स्वायत्त वाहन को वास्तविक दुनिया में त्रुटि के परिणामों का प्रबंधन करना चाहिए, जहां लोग, वाहन और बुनियादी ढांचे तुरंत प्रभावित होते हैं।
एक्सियोस के अनुसार, वेमो का दृष्टिकोण समय के साथ बदल गया है। कंपनी ने कई विशेष मॉडलों के साथ शुरुआत की, जिसमें पैदल यात्रियों का पता लगाने और ट्रैफिक सिग्नल के हरा होने पर पहचानने जैसे कार्यों के लिए अलग-अलग सिस्टम शामिल थे। बाद में यह नियंत्रण की व्यापक प्रणाली पर भरोसा करते हुए कम, बड़े फाउंडेशन मॉडल की ओर बढ़ गया। एक्सियोस का कहना है कि वेमो ने एक ब्लॉग पोस्ट प्रकाशित किया है जिसमें 200 मिलियन से अधिक स्वायत्त मील से 10 सबक बताए गए हैं। रिपोर्ट में टेस्ला, वेव और वाबी को अधिक व्यापक एंड-टू-एंड सिस्टम को आगे बढ़ाने के रूप में वर्णित किया गया है, जो उन कंपनियों का कहना है कि मानवीय तर्क का समर्थन कर सकते हैं। इसलिए वेमो की टिप्पणियाँ एक सक्रिय उद्योग बहस का हिस्सा हैं, न कि कोई स्थापित तकनीकी खोज।
एक्सियोस की यह भी रिपोर्ट है कि वेमो ने पाया कि जब कैमरे, लिडार और रडार का एक साथ उपयोग किया गया तो दृश्यता बेहतर थी, जब उनमें से एक या अधिक सेंसर प्रकारों को हटा दिया गया था। थिरुमलाई ने आउटलेट को बताया कि एआई केवल वही व्याख्या कर सकता है जो उसके सेंसर पहचानते हैं। वेमो ने हाई-डेफिनिशन मानचित्रों के बारे में भी ऐसा ही तर्क दिया, जिसे कुछ प्रतिस्पर्धी अनावश्यक कहते हैं। रिपोर्ट तुलनात्मक परीक्षण परिणाम नहीं देती है, उपयोग किए गए वातावरण को निर्दिष्ट नहीं करती है, या यह स्थापित नहीं करती है कि क्या निष्कर्ष सभी स्वायत्त-ड्राइविंग प्रणालियों पर समान रूप से लागू होता है।
यह क्यों मायने रखता है?
यह स्थिति स्वायत्त-वाहन दौड़ के एक केंद्रीय आधार को चुनौती देती है: बेहतर मॉडल और अधिक डेटा नई कंपनियों को जल्दी से पकड़ने में मदद कर सकता है। यह एक अनसुलझे तकनीकी और नीतिगत प्रश्न पर भी प्रकाश डालता है कि एकाधिक मॉडल, सेंसर और सुरक्षा नियंत्रणों की तुलना में एकल तंत्रिका तंत्र पर कितनी स्वायत्तता निर्भर होनी चाहिए।
व्यावहारिक जोखिम असामान्य रूप से ऊंचे हैं क्योंकि स्वायत्त-ड्राइविंग सॉफ़्टवेयर जनता के आसपास की भौतिक मशीनों को नियंत्रित करता है। यदि कोई एआई सिस्टम किसी दृश्य की गलत व्याख्या करता है, तो परिणाम केवल एक गलत उत्तर नहीं है जिसे पुनर्जीवित किया जा सकता है। एक्सियोस की रिपोर्ट है कि थिरुमलाई ने इस भेद का उपयोग यह समझाने के लिए किया कि वेमो का मानना है कि भौतिक एआई को सामान्य-उद्देश्य वाले मॉडल की तुलना में मजबूत सुरक्षा उपायों की आवश्यकता क्यों है। कंपनी के तर्क का तात्पर्य है कि विश्वसनीयता को लंबे समय तक चलने वाले वास्तविक दुनिया के संचालन में प्रदर्शित किया जाना चाहिए, न कि मॉडल आकार, बेंचमार्क स्कोर या सिस्टम के तर्क के स्पष्ट प्रवाह से अनुमान लगाया जाना चाहिए।
रिपोर्ट में विवाद को प्रतिस्पर्धी समय के बारे में एक प्रश्न के रूप में भी प्रस्तुत किया गया है। एक्सियोस का कहना है कि डेटा संग्रह में प्रगति और स्मार्ट मॉडल ने इस उम्मीद को बढ़ावा दिया है कि नई कंपनियां सेल्फ-ड्राइविंग का शॉर्टकट ढूंढ सकती हैं। यदि वे उम्मीदें उचित हैं, तो प्रतिद्वंद्वी वेमो की लंबी शुरुआत के महत्व को कम कर सकते हैं। यदि वेमो सही है कि सुरक्षित तैनाती के लिए व्यापक परीक्षण, नियंत्रण की कई परतों और व्यापक सेंसर कवरेज की आवश्यकता होती है, तो स्वायत्त वाहन एक धीमी और अधिक महंगी इंजीनियरिंग परियोजना बनी रह सकती है। स्रोत स्वतंत्र रूप से यह स्थापित नहीं करता है कि उस बहस का कौन सा पक्ष सही है।
सुरक्षा मानकों को कैसे परिभाषित किया जा सकता है, इसके लिए वेमो की स्थिति मायने रखती है। कई सेंसर प्रकारों, विस्तृत मानचित्रों या स्तरित मॉडल आर्किटेक्चर की आवश्यकता से अतिरेक में सुधार हो सकता है, लेकिन इससे विकास और परिचालन लागत भी बढ़ सकती है। इसके विपरीत, एकल एंड-टू-एंड सिस्टम को स्वीकार करने से एक सीखे हुए मॉडल पर अधिक जिम्मेदारी डालते हुए वाहन के सॉफ्टवेयर स्टैक को सरल बनाया जा सकता है। एक्सियोस की रिपोर्ट है कि वेमो का सुरक्षा तर्क उसके प्रतिस्पर्धी हितों को भी पूरा करता है क्योंकि कंपनी ने वर्षों के परीक्षण और वास्तविक दुनिया का ड्राइविंग डेटा जमा किया है। वह प्रोत्साहन दावे को अमान्य नहीं करता है, लेकिन यह इसके मूल्यांकन के लिए प्रासंगिक संदर्भ है।
यह कहानी नामित कंपनियों से परे महत्वपूर्ण है क्योंकि यह चिंता का विषय है कि नियामक, बीमाकर्ता और जनता स्वायत्त प्रणालियों का मूल्यांकन कैसे कर सकते हैं। एक वाहन जो प्रदर्शनों में अच्छा प्रदर्शन करता है उसे अभी भी कठिन किनारे वाले मामलों, सेंसर सीमाओं या विफलताओं का सामना करना पड़ सकता है जिन्हें पुन: पेश करना मुश्किल है। रिपोर्ट वेमो के रिकॉर्ड का कोई स्वतंत्र मूल्यांकन नहीं करती है, प्रतिद्वंद्वी प्रणालियों के साथ कोई तुलना नहीं करती है, और कोई सबूत नहीं देती है कि एक वास्तुकला सार्वभौमिक रूप से सुरक्षित है। इसका मुख्य योगदान वेमो की वर्तमान तकनीकी स्थिति और कंपनी द्वारा सार्वजनिक रूप से प्रस्तुत किए जा रहे तर्क का दस्तावेजीकरण करना है।
इंटरैक्टिव तंत्र: यह वास्तव में कैसे काम करता है
इस विकास के पीछे अंतर्निहित प्रौद्योगिकी का अंतःक्रियात्मक रूप से अन्वेषण करें।
Which component of an AI application is the machine-learning model itself?
आगे क्या देखना है
मुख्य परीक्षण वेमो और उसके प्रतिस्पर्धियों से सुरक्षा प्रदर्शन, तैनाती की स्थिति और विफलता से निपटने के बारे में सार्वजनिक साक्ष्य होगा। स्रोत सटीक सुरक्षा सीमाएँ, तुलनात्मक विफलता दर या वेमो के दावों का स्वतंत्र सत्यापन प्रदान नहीं करता है।
सबसे महत्वपूर्ण अनुवर्ती मापने योग्य साक्ष्य है। पाठकों को सार्वजनिक रूप से प्रलेखित जानकारी की तलाश करनी चाहिए कि प्रत्येक स्वायत्त-ड्राइविंग प्रणाली कहां संचालित होती है, कितनी बार मानव हस्तक्षेप या दूरस्थ सहायता की आवश्यकता होती है, विफलताओं को कैसे वर्गीकृत किया जाता है, और विभिन्न स्थितियों में सुरक्षा प्रदर्शन की तुलना कैसे की जाती है। एक्सियोस 200 मिलियन से अधिक ड्राइवर रहित मील के संदर्भ में वेमो के अनुभव की रिपोर्ट करता है, लेकिन स्रोत घटनाओं के लिए एक भाजक, प्रतिस्पर्धियों के साथ एक मानकीकृत तुलना या उस आंकड़े के सुरक्षा निहितार्थ का एक स्वतंत्र ऑडिट प्रदान नहीं करता है।
सेंसर रणनीति एक और विभाजन रेखा होगी। एक्सियोस का कहना है कि जब कैमरे, लिडार और रडार ने एक साथ काम किया तो वेमो के प्रशिक्षण में बेहतर दृश्यता दिखाई दी, जबकि यह भी बताया गया कि टेस्ला केवल कैमरा दृष्टिकोण अपना रहा है। आगे की रिपोर्टिंग से यह स्थापित होना चाहिए कि क्या ये परिणाम मौसम, प्रकाश व्यवस्था, सड़क लेआउट और असामान्य वस्तुओं पर लागू होते हैं, और क्या अतिरिक्त सेंसर उनकी लागत और रखरखाव आवश्यकताओं के सापेक्ष सार्थक सुधार करते हैं। स्रोत यह नहीं कहता है कि अकेले कैमरे असंभव हैं, केवल वेमो का कहना है कि बेहतर एआई अपर्याप्त सेंसिंग की पूरी तरह से भरपाई नहीं कर सकता है।
मानचित्रण आवश्यकताएँ भी जाँच की पात्र हैं। एक्सियोस की रिपोर्ट है कि कुछ प्रतिद्वंद्वी हाई-डेफिनिशन मानचित्रों को अनावश्यक मानते हैं, जबकि वेमो का तर्क है कि मैपिंग महत्वपूर्ण बनी हुई है। अनसुलझा मुद्दा यह है कि प्रत्येक प्रणाली सड़क परिवर्तन, निर्माण, असामान्य यातायात पैटर्न और अपने सामान्य परिचालन क्षेत्र के बाहर के स्थानों को कैसे संभालती है। कंपनियों या नियामकों के सार्वजनिक दस्तावेज़ यह स्पष्ट कर सकते हैं कि क्या मानचित्र सुरक्षा-महत्वपूर्ण हैं, वैकल्पिक समर्थन उपकरण हैं, या तैनाती पर बाधा हैं। इनमें से कोई भी विवरण स्रोत में स्थापित नहीं है।
अंत में, देखें कि क्या एआई की प्रगति वास्तुकला संबंधी बहस को बदल देती है। एक्सियोस की रिपोर्ट है कि वेमो का मानना है कि कोई भी "सिल्वर बुलेट" नहीं है, लेकिन लेख में यह भी कहा गया है कि तेजी से प्रगति अभी भी स्वायत्तता के लिए एक तेज़ मार्ग तैयार कर सकती है। सार्थक अज्ञात में यह शामिल है कि वेमो अपनी सुरक्षा पट्टी को कैसे परिभाषित करता है, इसके सिस्टम किस विशिष्ट रेलिंग का उपयोग करते हैं, इसके परीक्षण किए गए एंड-टू-एंड घटकों को कैसे एकीकृत किया जाता है, और क्या टेस्ला, वेव या वाबी बड़े पैमाने पर तुलनीय सुरक्षा प्रदर्शित कर सकते हैं। जब तक उन सवालों का जवाब तुलनीय सार्वजनिक साक्ष्य के साथ नहीं दिया जाता है, वेमो के दावे को एक निश्चित फैसले के बजाय एक जिम्मेदार उद्योग की स्थिति के रूप में माना जाना चाहिए।