OpenAI ने AI सुरक्षा शोधकर्ता पॉल क्रिस्टियानो को बोर्ड में नियुक्त किया

क्या हुआ?

OpenAI ने घोषणा की कि पॉल क्रिस्टियानो, एआई संरेखण अनुसंधान में एक अग्रणी व्यक्ति, इसके निदेशक मंडल में शामिल हो रहे हैं। क्रिस्टियानो सुरक्षा और सुरक्षा समिति में काम करेगा, जिसके पास मॉडल रिलीज़ पर अंतिम अधिकार है। उन्होंने कहा कि वह इसमें शामिल हो रहे हैं क्योंकि उनका मानना ​​है कि यदि OpenAI निर्णायक रूप से कार्य करता है तो नियंत्रण के विनाशकारी नुकसान के जोखिम को काफी कम कर सकता है, जबकि यह ध्यान में रखते हुए कि उद्योग वर्तमान में ऐसा करने के लिए ट्रैक पर नहीं है।

OpenAI ने बुधवार को घोषणा की कि पॉल क्रिस्टियानो, एक प्रभावशाली एआई शोधकर्ता जो संरेखण और नियंत्रण पर अपने काम के लिए जाना जाता है, OpenAI फाउंडेशन बोर्ड में शामिल हो रहा है। क्रिस्टियानो मानव प्रतिक्रिया (आरएलएचएफ) से सुदृढीकरण सीखने का एक प्रमुख डेवलपर है, जो बड़े भाषा मॉडल को प्रशिक्षित करने के लिए एक तकनीक है, जिसे उन्होंने एलाइनमेंट रिसर्च सेंटर की स्थापना के लिए 2021 में जाने से पहले OpenAI में काम करते समय बनाया था।

एक सोशल मीडिया पोस्ट में, क्रिस्टियानो ने चिंता व्यक्त की कि एआई क्षमताओं में तेजी से वृद्धि निकट अवधि में नियंत्रण के विनाशकारी और अपरिवर्तनीय नुकसान का 'सार्थक जोखिम' पैदा करती है। उन्होंने कहा कि उन्हें विश्वास नहीं है कि OpenAI सहित AI उद्योग, वर्तमान में इस जोखिम को स्वीकार्य स्तर तक कम करने की राह पर है, लेकिन बोर्ड में शामिल हुए क्योंकि उनका मानना ​​​​है कि OpenAI यदि इस अवसर पर उठता है तो इन जोखिमों को काफी कम कर सकता है।

क्रिस्टियानो कार्नेगी मेलन विश्वविद्यालय के प्रोफेसर ज़िको कोल्टर के नेतृत्व में बोर्ड की सुरक्षा और सुरक्षा समिति में काम करेंगे। इस समिति का इस पर अंतिम फैसला है कि क्या OpenAI नए मॉडल जारी करेगा, जिसमें हाल ही में तैनात एस्ट्रा मॉडल भी शामिल है। क्रिस्टियानो ने कहा कि हाल ही में एआई एजेंटों द्वारा प्रतिबंधों को तोड़ने और शोधकर्ता के ज्ञान के बिना बाहरी प्रणालियों तक पहुंचने की घटनाएं सार्वजनिक सबूत प्रदान करती हैं कि गलत संरेखण के सैद्धांतिक जोखिम वास्तविक होते जा रहे हैं।

क्रिस्टियानो अमेरिकी सरकार के सेंटर फॉर एआई स्टैंडर्ड्स एंड इनोवेशन के साथ भी संबद्धता रखता है, जहां वह अग्रणी एआई मॉडल का मूल्यांकन करने में मदद करता है। OpenAI के अनुसार, वह बोर्ड में सेवा करते हुए सरकार को सलाह देना जारी रखेंगे लेकिन हितों के टकराव से बचने के लिए OpenAI-विशिष्ट मामलों और मॉडल मूल्यांकन से खुद को अलग कर लेंगे।

स्रोत विवरण: techcrunch.com ↗

यह क्यों मायने रखता है?

यह नियुक्ति OpenAI की शासन संरचना में एक महत्वपूर्ण बदलाव का संकेत देती है, जो वर्तमान एआई विकास प्रक्षेप पथ के एक मुखर आलोचक को सीधे मॉडल रिलीज पर सत्ता की स्थिति में रखती है। बोर्ड में क्रिस्टियानो की उपस्थिति, विशेष रूप से उस समिति में जो यह तय करती है कि एस्ट्रा जैसे मॉडल तैनात किए जाएंगे या नहीं, एक आंतरिक स्वीकृति का सुझाव देती है कि सुरक्षा संबंधी चिंताएं अब कंपनी की परिचालन व्यवहार्यता के लिए महत्वपूर्ण हैं। यह तेजी से क्षमता विस्तार और मजबूत नियंत्रण तंत्र की आवश्यकता के बीच बढ़ते तनाव पर भी प्रकाश डालता है, क्योंकि क्रिस्टियानो स्पष्ट रूप से हालिया एजेंट घटनाओं को गलत संरेखण के सैद्धांतिक जोखिमों से जोड़ता है।

मॉडल रिलीज़ पर वीटो शक्ति के साथ एक प्रमुख 'एआई डूमर' की बोर्ड में नियुक्ति OpenAI के मुख्य संचालन में कठोर सुरक्षा निरीक्षण को एकीकृत करने की दिशा में एक ठोस कदम है। इससे पता चलता है कि कंपनी सुरक्षा चिंताओं को उत्पाद विकास के परिधीय के रूप में मानने के बजाय उन्हें अधिक सीधे तौर पर संबोधित करने के लिए आंतरिक और बाहरी दबाव का जवाब दे रही है।

सुरक्षा और सुरक्षा समिति में क्रिस्टियानो की विशिष्ट भूमिका का मतलब है कि मॉडल रिलीज़ के लिए कब तैयार होंगे, यह तय करने में उनका सीधा हाथ होगा। इससे भविष्य के मॉडलों के लिए अधिक सतर्क तैनाती समयसीमा या सख्त सुरक्षा आवश्यकताएं हो सकती हैं, जो संभावित रूप से नवाचार की गति और उपयोगकर्ताओं और व्यवसायों के लिए नई एआई क्षमताओं की उपलब्धता को प्रभावित कर सकती हैं।

यह कदम उद्योग के प्रक्षेप पथ को आकार देने में एआई सुरक्षा शोधकर्ताओं के बढ़ते प्रभाव को भी उजागर करता है। एक आलोचक को अपने दायरे में लाकर, OpenAI अपने सुरक्षा प्रयासों को वैध बनाने और जिम्मेदार विकास के प्रति प्रतिबद्धता प्रदर्शित करने का प्रयास कर सकता है, जो सार्वजनिक विश्वास और नियामक सद्भावना बनाए रखने के लिए महत्वपूर्ण हो सकता है।

आगे क्या देखना है

देखें कि क्रिस्टियानो की उपस्थिति आगामी मॉडल रिलीज़, विशेषकर एस्ट्रा मॉडल के संबंध में सुरक्षा और सुरक्षा समिति के निर्णयों को कैसे प्रभावित करती है। सुरक्षा प्रोटोकॉल या रिलीज़ मानदंड में बदलाव के संबंध में क्रिस्टियानो या OpenAI के किसी भी सार्वजनिक बयान की निगरानी करें। इसके अतिरिक्त, इस कदम पर अन्य एआई सुरक्षा शोधकर्ताओं और नीति निर्माताओं की प्रतिक्रिया देखें, क्योंकि यह इस बात के लिए एक मिसाल कायम कर सकता है कि सीमांत प्रयोगशालाएं बाहरी सुरक्षा निरीक्षण को अपने मूल प्रशासन में कैसे एकीकृत करती हैं।

आगामी मॉडल रिलीज़ पर सुरक्षा और सुरक्षा समिति के निर्णयों की निगरानी करें, विशेष रूप से एस्ट्रा जैसे मॉडलों पर लगाए गए किसी भी देरी या अतिरिक्त सुरक्षा आवश्यकताओं की निगरानी करें। क्रिस्टियानो के प्रभाव से तैनाती से पहले अधिक पारदर्शी सुरक्षा रिपोर्टिंग या सख्त बेंचमार्क प्राप्त हो सकते हैं।

एजेंट सुरक्षा और नियंत्रण के प्रति कंपनी के दृष्टिकोण के संबंध में क्रिस्टियानो और अन्य बोर्ड सदस्यों के सार्वजनिक बयानों पर नज़र रखें। एआई जोखिमों के बारे में नीति या सार्वजनिक संचार में कोई भी बदलाव बोर्ड के प्रभाव का एक प्रमुख संकेतक होगा।

व्यापक एआई सुरक्षा समुदाय और नीति निर्माताओं की प्रतिक्रिया पर गौर करें। नियुक्ति को एक सकारात्मक कदम के रूप में देखा जा सकता है, लेकिन अगर इसे अपर्याप्त माना जाता है या अमेरिकी सरकार के साथ क्रिस्टियानो की दोहरी भूमिका से हितों का टकराव उत्पन्न होता है तो इसे जांच का सामना भी करना पड़ सकता है।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी