ऑल्टमैन का कहना है कि OpenAI अपने सबसे सक्षम AI मॉडल को आगे बढ़ाने के लिए तैयार नहीं है

क्या हुआ?

टेक टाइम्स ने फॉर्च्यून साक्षात्कार का हवाला देते हुए रिपोर्ट दी है कि OpenAI के सीईओ सैम ऑल्टमैन ने कहा कि कंपनी अपने सबसे सक्षम अप्रकाशित मॉडल को तब तक सुरक्षित रूप से आगे नहीं बढ़ा सकती है जब तक कि वह मॉनिटरेबिलिटी, संरेखण और मॉडल व्यवहार को समझने की क्षमता में सुधार नहीं करती है। उन्होंने यह भी कहा कि प्रमुख एआई प्रयोगशालाओं के नेता एक समन्वित सुरक्षा प्रतिबद्धता पर चर्चा कर रहे हैं और सैद्धांतिक रूप से स्वतंत्र निरीक्षण का समर्थन करते हैं। स्रोत किसी नए मॉडल की रिलीज़, उत्पाद वापसी या पहुंच परिवर्तन का दस्तावेजीकरण नहीं करता है।

टेक टाइम्स की रिपोर्ट है कि फॉर्च्यून ने कंपनी के सैन फ्रांसिस्को मुख्यालय में OpenAI के सीईओ सैम ऑल्टमैन का साक्षात्कार लिया। रिपोर्ट के अनुसार, ऑल्टमैन ने कहा कि OpenAI वर्तमान में अपनी सबसे उन्नत क्षमताओं को आगे बढ़ाने की स्थिति में नहीं है क्योंकि इसे मॉनिटरेबिलिटी, संरेखण, मॉडल क्या कर रहे हैं यह समझने और यह सुनिश्चित करने पर अधिक प्रगति की आवश्यकता है कि सिस्टम मानवीय मूल्यों और उपयोगकर्ता के इरादे का पालन करें।

उसी रिपोर्ट में कहा गया है कि ऑल्टमैन ने पुष्टि की कि प्रमुख एआई प्रयोगशालाओं के नेताओं के बीच निजी चर्चाएं हो रही हैं, लेकिन उन्होंने उनके सार का खुलासा नहीं किया। टेक टाइम्स की यह भी रिपोर्ट है कि ऑल्टमैन ने स्वतंत्र मूल्यांकनकर्ताओं द्वारा स्थायी पहुंच के लिए Anthropic के सीईओ डारियो अमोदेई के प्रस्ताव का समर्थन किया और कहा कि OpenAI के पास जल्द ही साझा करने के लिए और भी बहुत कुछ होगा।

स्रोत इन बयानों को व्यापक सुरक्षा चिंताओं और एआई-एजेंट घटनाओं के बारे में पूर्व रिपोर्टिंग के साथ रखता है, लेकिन आपूर्ति की गई सामग्री में आसपास के दावों की स्वतंत्र रूप से पुष्टि नहीं की गई है। यह इस बात का भी सबूत नहीं देता है कि एक क्रॉस-इंडस्ट्री समझौते को अंतिम रूप दिया गया है या किसी मॉडल में औपचारिक रूप से देरी हुई है।

स्रोत विवरण: techtimes.com ↗

यह क्यों मायने रखता है?

रिपोर्ट में OpenAI के मुख्य कार्यकारी की प्रत्यक्ष स्वीकृति का वर्णन किया गया है कि सुरक्षा और निरीक्षण क्षमताएं आगे की क्षमता विकास को सीमित कर रही हैं। यदि सटीक रूप से रिपोर्ट की गई है, तो यह प्रभावित कर सकता है कि व्यवसाय भविष्य के मॉडल रिलीज के आसपास कैसे योजना बनाते हैं और नियामक स्वैच्छिक उद्योग सुरक्षा उपायों का आकलन कैसे करते हैं। व्यावहारिक महत्व तब तक सीमित रहता है जब तक OpenAI विशिष्ट प्रतिबद्धताओं, समयसीमा और मूल्यांकन साक्ष्य प्रकाशित नहीं करता।

केंद्रीय निहितार्थ यह है कि क्षमता की प्रगति उद्योग की तेजी से सक्षम प्रणालियों का निरीक्षण और नियंत्रण करने की क्षमता से बाधित हो सकती है। यह भविष्य में मॉडल की उपलब्धता के बारे में योजना बनाने वाले डेवलपर्स और संगठनों के लिए प्रासंगिक है, क्योंकि रिपोर्ट अनसुलझे सुरक्षा कार्य को सामान्य नीति प्राथमिकता के बजाय एक इंजीनियरिंग स्थिति के रूप में वर्णित करती है।

शासन के लिए, एक स्वैच्छिक समझौता तभी सार्थक हो सकता है जब यह निर्दिष्ट करे कि कंपनियां क्या करेंगी, अनुपालन की जांच कैसे की जाएगी और उल्लंघन के बाद क्या होगा। स्रोत यह स्थापित नहीं करता है कि ऐसे प्रावधान मौजूद हैं। न ही यह फॉर्च्यून साक्षात्कार के टेक टाइम्स खाते से परे रिपोर्ट किए गए बयानों को स्वतंत्र रूप से सत्यापित करता है।

किसी भी नए उत्पाद की पहुंच, मूल्य निर्धारण, एपीआई परिवर्तन, बेंचमार्क परिणाम या तैनाती प्रतिबंध का दस्तावेजीकरण नहीं किया गया है। इसलिए स्रोत बताई गई सुरक्षा चिंताओं और संभावित समन्वय के बारे में एक रिपोर्ट का समर्थन करता है, न कि इस निष्कर्ष का कि OpenAI ने मोटे तौर पर विकास या तैनाती को रोक दिया है।

आगे क्या देखना है

मुख्य परीक्षण यह है कि प्रस्तावित क्रॉस-लैब समझौते में मापने योग्य सीमाएं, स्वतंत्र सत्यापन और उल्लंघन के परिणाम शामिल हैं या नहीं। यह स्पष्ट करने के लिए OpenAI पर नजर रखें कि क्या यह Anthropic द्वारा वर्णित ढांचे के बराबर स्थायी तृतीय-पक्ष पहुंच प्रदान करेगा, और क्या कोई उन्नत मॉडल या तैनाती योजना में देरी हो रही है। स्रोत कोई पुष्ट समय सारिणी, प्रवर्तन तंत्र, पहुंच शर्तें या मूल्य निर्धारण परिवर्तन प्रदान नहीं करता है।

इसमें शामिल प्रयोगशालाओं का एक सार्वजनिक बयान स्पष्ट करेगा कि क्या चर्चाओं से कोई वास्तविक सहमति बनी या केवल एक साझा इरादा। महत्वपूर्ण विवरणों में मॉडल सीमाएँ, मूल्यांकन मानक, रिपोर्टिंग कर्तव्य, स्वतंत्र पहुँच और प्रवर्तन शामिल होंगे।

OpenAI की प्रतिक्रिया में यह भी स्पष्ट होना चाहिए कि क्या स्वतंत्र निरीक्षण के उसके समर्थन में स्थायी मूल्यांकनकर्ता पहुंच और प्रकाशन अधिकार शामिल हैं, और क्या वे शर्तें प्रशिक्षण, तैनाती और घटना जांच पर लागू होती हैं।

स्रोत समझौते के लिए कोई निश्चित कार्यक्रम नहीं देता है और न ही कोई स्वतंत्र रूप से सत्यापित साक्ष्य देता है कि OpenAI के अप्रकाशित मॉडल कैसा प्रदर्शन करते हैं या कौन सा विशिष्ट सुरक्षा अंतर आगे के काम को रोकता है। वे सार्थक अज्ञात बने हुए हैं।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी