क्या हुआ?
ब्लूमबर्ग की रिपोर्ट है कि Anthropic के सीईओ डारियो अमोदेई ने एआई उद्योग से अपने सबसे उन्नत मॉडल के विकास को धीमा करने का आग्रह किया और कहा कि Anthropic तीसरे पक्ष के मूल्यांकनकर्ताओं सहित अतिरिक्त सुरक्षा उपायों को लागू करेगा। ब्लूमबर्ग ने यह भी बताया कि OpenAI और xAI से जुड़े नेताओं ने AI विकास को धीमा करने का आह्वान किया है। लेख स्वतंत्र रूप से इन प्रस्तावों के दायरे, समय या प्रवर्तनीयता को स्थापित नहीं करता है।
ब्लूमबर्ग की रिपोर्ट है कि Anthropic के सीईओ डारियो अमोदेई ने 12 सितंबर को एक लंबा ब्लॉग पोस्ट प्रकाशित किया जिसमें उन्नत एआई मॉडल में सुधार की गति में व्यापक उद्योग "डाउनशिफ्ट" का आह्वान किया गया। ब्लूमबर्ग के अनुसार, अमोदेई ने प्रौद्योगिकी से बढ़ते जोखिमों का हवाला दिया और कहा कि Anthropic तीसरे पक्ष के मूल्यांकनकर्ताओं के उपयोग सहित नए सुरक्षा कदम पेश करेगा।
ब्लूमबर्ग की रिपोर्ट में OpenAI के सीईओ सैम ऑल्टमैन और एलोन मस्क सहित अन्य प्रौद्योगिकी नेताओं के फ्रंटियर एआई विकास को धीमा करने के आह्वान के साथ-साथ बयान भी दिया गया है। धीमी गति के कथित आह्वान के अलावा स्रोत लेख में उन नेताओं के प्रस्तावों का कोई विस्तृत विवरण नहीं देता है।
स्रोत एक द्वितीयक रिपोर्ट है. Anthropic प्रस्ताव के अस्तित्व और शब्दों का श्रेय यहां ब्लूमबर्ग के खाते और उस खाते में वर्णित लिंक किए गए पोस्ट को दिया गया है; इस मूल्यांकन के लिए उनकी स्वतंत्र रूप से पुष्टि नहीं की गई है। ब्लूमबर्ग ने यह निर्दिष्ट नहीं किया है कि Anthropic की नई मूल्यांकन प्रक्रिया कब शुरू होगी, इसमें कौन से सिस्टम शामिल होंगे, मूल्यांकनकर्ता के रूप में कौन अर्हता प्राप्त करेगा, या कंपनी परिणाम प्रकाशित करेगी या नहीं।
यह क्यों मायने रखता है?
धीमी विकास गति प्रभावित कर सकती है कि फ्रंटियर एआई सिस्टम को कितनी जल्दी प्रशिक्षित, जारी और तैनात किया जाता है, जबकि स्वतंत्र मूल्यांकन सुरक्षा दावों की अतिरिक्त जांच प्रदान कर सकता है। महत्व इस बात पर निर्भर करता है कि क्या ये कॉल प्रतिस्पर्धी कंपनियों द्वारा अपनाई गई विशिष्ट, मापने योग्य प्रतिबद्धताएं बन जाती हैं। ब्लूमबर्ग प्रस्तावों और उनके बताए गए तर्कों की रिपोर्ट करता है, लेकिन स्रोत स्वतंत्र सबूत नहीं देता है कि विकास धीमा हो गया है या प्रस्तावित सुरक्षा उपाय प्रभावी ढंग से काम कर रहे हैं।
प्रस्ताव उन्नत एआई में एक केंद्रीय शासन समस्या को संबोधित करता है: तेजी से सक्षम प्रणालियों को बेहतर बनाने के लिए प्रतिस्पर्धा करने वाली कंपनियों को सुरक्षा परीक्षण परिपक्व होने से पहले उन्हें जारी करने या स्केल करने के दबाव का सामना करना पड़ सकता है। स्वतंत्र मूल्यांकनकर्ता किसी कंपनी के स्वयं के परीक्षण से परे जांच जोड़ सकते हैं, लेकिन उनका मूल्य प्रासंगिक प्रणालियों तक पहुंच, हितों के टकराव से सुरक्षा और सार्थक निष्कर्षों की रिपोर्ट करने की क्षमता पर निर्भर करेगा।
एक स्वैच्छिक मंदी का व्यावहारिक महत्व केवल तभी होगा जब यह प्रशिक्षण कार्यक्रम, तैनाती सीमा या रिलीज निर्णयों में अवलोकन योग्य परिवर्तन उत्पन्न करेगा। स्रोत किसी रुकावट, बाध्यकारी उद्योग समझौते, सरकारी आवश्यकता या किसी एआई उत्पाद की उपलब्धता में बदलाव की रिपोर्ट नहीं करता है। यह भी स्थापित नहीं करता है कि प्रस्तावित उपाय विशिष्ट जोखिमों को कम करेंगे।
उपयोगकर्ताओं और संगठनों के लिए, तत्काल व्यावहारिक निहितार्थ ज्ञात उत्पाद परिवर्तन के बजाय अनिश्चितता है। ब्लूमबर्ग नई पहुंच शर्तों, मूल्य निर्धारण या प्रतिबंधों की रिपोर्ट नहीं करता है। मुख्य संभावित प्रभाव भविष्य के मॉडल रिलीज़ और उन्हें तैनात करने से पहले कंपनियों द्वारा प्रदान किए जाने वाले साक्ष्य पर है।
इंटरैक्टिव तंत्र: यह वास्तव में कैसे काम करता है
इस विकास के पीछे अंतर्निहित प्रौद्योगिकी का अंतःक्रियात्मक रूप से अन्वेषण करें।
Why can ethical evaluation not be reduced to one model score?
आगे क्या देखना है
ठोस समयसीमा, किन मॉडलों या क्षमताओं को कवर किया जाएगा इसकी परिभाषा और तीसरे पक्ष के मूल्यांकनकर्ताओं की स्वतंत्रता और अधिकार के बारे में विवरण देखें। यह देखना भी महत्वपूर्ण है कि क्या अन्य एआई डेवलपर्स तुलनीय प्रतिबद्धताओं को अपनाते हैं और क्या सरकारें या ग्राहक अनुपालन के लिए प्रोत्साहन बनाते हैं। ब्लूमबर्ग उपभोक्ता पहुंच, उत्पाद उपलब्धता या मूल्य निर्धारण में किसी भी बदलाव की रिपोर्ट नहीं करता है।
अगले महत्वपूर्ण विवरण Anthropic की प्रतिबद्धता का दायरा और समय हैं: कौन से मॉडल का मूल्यांकन किया जाएगा, क्या मूल्यांकनकर्ता Anthropic के बाहर हैं, वे किस जानकारी का निरीक्षण कर सकते हैं, और क्या उनके निष्कर्ष प्रकाशित किए जाएंगे। इनमें से कोई भी शर्त स्रोत में निर्दिष्ट नहीं है।
यह अज्ञात है कि क्या OpenAI, xAI, या अन्य प्रमुख डेवलपर्स तुलनीय प्रतिबद्धताएँ बनाएंगे। एक व्यापक, समन्वित मानक अलग-अलग बयानों की तुलना में अधिक प्रभाव डाल सकता है, लेकिन ब्लूमबर्ग ने ऐसी कोई सहमति नहीं बताई है।
कार्यान्वयन के साक्ष्य पर नज़र रखें, जैसे विलंबित रिलीज़, नई मूल्यांकन रिपोर्ट, संशोधित तैनाती नीतियां, या सार्वजनिक स्पष्टीकरण कि सुरक्षा निष्कर्ष लॉन्च निर्णयों को कैसे प्रभावित करते हैं। स्रोत अभी तक कोई सबूत नहीं देता है कि रिपोर्ट की गई कॉलों ने विकास गतिविधि को बदल दिया है।