एआई सीईओ का कहना है कि उन्हें विकास की गति धीमी करने की जरूरत है। लेकिन क्या वे करेंगे?

क्या हुआ?

द गार्जियन की रिपोर्ट है कि Anthropic के सीईओ डारियो अमोदेई ने स्वतंत्र मूल्यांकनकर्ताओं, अंतर्राष्ट्रीय सुरक्षा समझौतों और सुरक्षा मुद्दों पर चीन के साथ समन्वय के माध्यम से सीमांत एआई विकास को धीमा करने का प्रस्ताव रखा। OpenAI के सीईओ सैम ऑल्टमैन, Google DeepMind के प्रमुख डेमिस हसाबिस और xAI के मालिक एलोन मस्क ने सार्वजनिक रूप से समर्थन व्यक्त किया। रिपोर्ट में यह भी कहा गया है कि डोनाल्ड ट्रंप ने चीन के साथ प्रतिस्पर्धा का हवाला देते हुए धीमे विकास को खारिज कर दिया।

द गार्जियन की रिपोर्ट है कि संभावित विनाशकारी एआई जोखिमों के बारे में Anthropic शोधकर्ताओं की चेतावनी के बाद अमोदेई ने "वी मस्ट पेस द फ्रंटियर" शीर्षक से एक प्रस्ताव जारी किया। इसके तीन केंद्रीय विचार जोखिम की निगरानी के लिए कर्मचारी-स्तर की पहुंच वाले बाहरी मूल्यांकनकर्ता, सुरक्षा मानकों पर लोकतांत्रिक सरकारों के बीच समझौते और सुरक्षा मुद्दों पर चीन सहित सत्तावादी सरकारों के साथ वैश्विक समन्वय हैं।

रिपोर्ट के अनुसार, ऑल्टमैन ने कहा कि OpenAI स्वतंत्र मूल्यांकनकर्ताओं के प्रति अमोदेई की प्रतिबद्धता से मेल खाएगा, जबकि हस्साबिस और मस्क ने भी समर्थन व्यक्त किया। रिपोर्ट अमोदेई के प्रस्ताव का पूर्ण प्राथमिक पाठ या स्वतंत्र साक्ष्य प्रदान नहीं करती है कि इन बयानों ने औपचारिक, लागू करने योग्य प्रतिबद्धताएं उत्पन्न की हैं।

लेख में एआई विनियमन आलोचकों और पूर्व अधिकारियों के पर्याप्त विरोध की रिपोर्ट दी गई है, जिन्होंने सवाल किया था कि क्या उद्योग-चयनित मूल्यांकनकर्ता और संभावित अविश्वास छूट नियामक कब्जे के बराबर हो सकते हैं। यह भी बताया गया है कि ट्रम्प ने एआई विकास को धीमा करने के आह्वान को खारिज कर दिया और हाउस स्पीकर माइक जॉनसन ने कहा कि कांग्रेस के बजाय कंपनियों को एआई सुरक्षा पर नेतृत्व करना चाहिए।

स्रोत विवरण: theguardian.com ↗

यह क्यों मायने रखता है?

यह एपिसोड गंभीर जोखिमों के बारे में एआई कंपनियों की सार्वजनिक चेतावनियों और अधिक सक्षम सिस्टम जारी रखने के लिए उनके वाणिज्यिक और भू-राजनीतिक प्रोत्साहनों के बीच बढ़ते संघर्ष को उजागर करता है। यदि मूल्यांकनकर्ताओं को वास्तविक पहुंच और अधिकार प्राप्त हो तो स्वैच्छिक प्रतिबद्धताएं निरीक्षण में सुधार कर सकती हैं, लेकिन आपूर्ति की गई रिपोर्ट स्वतंत्र रूप से पुष्टि नहीं करती है कि किसी कंपनी ने बाध्यकारी उपाय अपनाए हैं। बहस यह भी सवाल उठाती है कि क्या उद्योग समन्वय से सुरक्षा में सुधार होगा या मौजूदा बाजार के नेताओं को मजबूत किया जाएगा।

यह विकास परिणामी है क्योंकि कई प्रमुख एआई कंपनियों के नेता सार्वजनिक रूप से स्वीकार कर रहे हैं कि तेज क्षमता विकास के लिए मजबूत सुरक्षा नियंत्रण की आवश्यकता हो सकती है। वह स्थिति भविष्य के विनियमन, कॉर्पोरेट प्रशासन और अंतर्राष्ट्रीय वार्ता को प्रभावित कर सकती है, लेकिन केवल सार्वजनिक समर्थन यह स्थापित नहीं करता है कि विकास धीमा हो गया है या सुरक्षा प्रथाओं में भौतिक रूप से बदलाव आया है।

गार्जियन की रिपोर्टिंग एक संरचनात्मक तनाव को भी उजागर करती है: कंपनियां उन नियमों का विरोध करते हुए स्वैच्छिक समन्वय की तलाश कर सकती हैं जो उनके उत्पादों को बाधित कर सकते हैं या प्रतिस्पर्धियों की रक्षा कर सकते हैं। व्यावहारिक परिणाम इस बात पर निर्भर करेगा कि क्या स्वतंत्र मूल्यांकनकर्ता प्रासंगिक प्रणालियों तक पहुंच सकते हैं, विश्वसनीय निष्कर्ष प्रकाशित कर सकते हैं और कंपनी के नियंत्रण से परे काम कर सकते हैं। आपूर्ति की गई रिपोर्ट में वे स्थितियाँ अनसुलझी हैं।

आगे क्या देखना है

मुख्य अज्ञात में यह शामिल है कि क्या कंपनियां अपनी प्रतिबद्धताओं को औपचारिक रूप देंगी, कौन बाहरी मूल्यांकनकर्ताओं का चयन करेगा और उन्हें सशक्त बनाएगा, और क्या मूल्यांकनकर्ताओं के पास व्यवहार में कर्मचारी-स्तर की पहुंच होगी। किसी भी प्रस्तावित संघीय भूमिका, अविश्वास संबंधी चिंताओं के समाधान और क्या ट्रम्प प्रशासन धीमे विकास के प्रति अपने विरोध को बदलता है, इस पर नज़र रखें। किसी उत्पाद तक पहुंच, उपलब्धता या मूल्य परिवर्तन का दस्तावेजीकरण नहीं किया गया है।

तत्काल परीक्षण कार्यान्वयन है. रिपोर्ट अनुपालन में विफल रहने वाली कंपनियों के लिए समय सीमा, प्रवर्तन तंत्र, मूल्यांकनकर्ता की पहचान या परिणाम स्थापित नहीं करती है। आगे की रिपोर्टिंग में सार्वजनिक बयानों को हस्ताक्षरित समझौतों, परिचालन रुकावटों या स्वतंत्र रूप से मूल्यांकन किए गए सुरक्षा परिवर्तनों से अलग करना चाहिए।

प्रस्ताव के अंतर्राष्ट्रीय और अविश्वास तत्वों को राजनीतिक प्रतिरोध का सामना करना पड़ सकता है। रिपोर्ट में उद्धृत आलोचकों का तर्क है कि सहयोग का उपयोग प्रतिस्पर्धा को सीमित करने के लिए किया जा सकता है, जबकि अमेरिकी प्रशासन एआई नेतृत्व को चीन के साथ प्रतिस्पर्धा के रूप में पेश करना जारी रखता है। क्या नीति निर्माता प्रवर्तनीय निरीक्षण बनाते हैं या मुख्य रूप से कंपनियों पर जिम्मेदारी छोड़ देते हैं यह अज्ञात है।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी