पूर्व Anthropic शोधकर्ता ने बीबीसी को बताया कि AI शोधकर्ता मानवता के भविष्य से डरते हैं

क्या हुआ?

बीबीसी की रिपोर्ट है कि पूर्व Anthropic और OpenAI शोधकर्ता जैकब कॉक्सन ने चेतावनी दी है कि AI शोधकर्ता विकास की गति और मानवता पर इसके संभावित प्रभावों से डरते हैं। उन्होंने धीमे विकास, विनियमन और स्वतंत्र निगरानी के आह्वान का समर्थन किया, जबकि Anthropic ने अपने सुरक्षा कार्य का बचाव किया। रिपोर्ट में Anthropic के सीईओ डारियो अमोडी के अधिक सावधानी बरतने के मौजूदा आह्वान पर नई प्रतिक्रियाएं जोड़ी गई हैं।

बीबीसी की रिपोर्ट है कि 27 वर्षीय कॉक्सन ने कहा कि एआई शोधकर्ता प्रगति की वर्तमान गति से "वास्तव में भयभीत" हैं और तर्क दिया कि यदि विकास धीमा नहीं हुआ तो निकट भविष्य में मानवता को मरने का बहुत अधिक जोखिम का सामना करना पड़ सकता है। उन्होंने उद्योग-व्यापी संयम के लिए अमोडी के प्रस्ताव का स्वागत किया लेकिन कहा कि अंतरराष्ट्रीय दौड़ से बचने के लिए चीन को इसमें शामिल होने की आवश्यकता होगी। बीबीसी द्वारा रिपोर्ट किए गए ये कॉक्सन के विचार हैं, स्वतंत्र रूप से स्थापित पूर्वानुमान नहीं।

रिपोर्ट कॉक्सन की टिप्पणियों को Anthropic के सीईओ डारियो अमोडी के एक निबंध से जोड़ती है, जो स्रोत के अनुसार 12 तारीख को प्रकाशित हुआ था, जिसमें तर्क दिया गया था कि एआई विकास स्वयं समस्या नहीं है, लेकिन कंपनियों और सरकारों को गंभीर जोखिमों को दूर करने के लिए समय की आवश्यकता है। बीबीसी OpenAI के सीईओ सैम ऑल्टमैन और xAI के सीईओ एलोन मस्क से धीमी गति से विकास, विनियमन या स्वतंत्र निगरानी के लिए समर्थन की भी रिपोर्ट करता है।

Anthropic ने बीबीसी न्यूज़ को बताया कि उसने AI से बड़े लाभ और अभूतपूर्व जोखिम दोनों को लगातार स्वीकार किया है। इसके प्रवक्ता ने कहा कि कंपनी मजबूत सुरक्षा उपाय विकसित कर रही है, शोध कर रही है कि मॉडल कैसे संचालित होते हैं, गलत संरेखण जोखिमों के लिए मॉडल का परीक्षण कर रहे हैं और परिणाम प्रकाशित कर रहे हैं। स्रोत उन सुरक्षा उपायों का कोई स्वतंत्र मूल्यांकन प्रदान नहीं करता है।

बीबीसी Anthropic वैज्ञानिक इवान हुबिंगर और कंप्यूटर वैज्ञानिक जेफ्री हिंटन की अतिरिक्त चेतावनियों की रिपोर्ट करता है, जिनमें से प्रत्येक ने मानव विलुप्त होने की संभावना के बारे में व्यक्तिगत अनुमान दिए थे। यह Hugging Face के सीईओ क्लेमेंट डेलांगु और फैकल्टी सीईओ मार्क वार्नर की आलोचना की भी रिपोर्ट करता है, जिन्होंने कहा कि ऐसी संभावनाओं को स्थापित करना मुश्किल है। स्रोत में इनमें से किसी भी अनुमान को मान्य करने वाला कोई तकनीकी साक्ष्य नहीं है।

स्रोत विवरण: bbc.com ↗

यह क्यों मायने रखता है?

रिपोर्ट मायने रखती है क्योंकि यह प्रमुख एआई कंपनियों के अंदर और आसपास इस बात पर व्यापक सार्वजनिक असहमति का दस्तावेजीकरण करती है कि क्या विकास सुरक्षा कार्य और सरकारी निरीक्षण की तुलना में तेजी से आगे बढ़ रहा है। वर्णित व्यावहारिक प्रस्ताव शक्तिशाली मॉडलों की धीमी तैनाती, स्वतंत्र निगरानी और चीन सहित अंतर्राष्ट्रीय समन्वय हैं। हालाँकि, सबसे गंभीर दावे पूर्वानुमान या व्यक्तिगत अनुमान हैं, स्वतंत्र रूप से प्रदर्शित निष्कर्ष नहीं। स्रोत यह स्थापित नहीं करता है कि विलुप्ति आसन्न है, एक सत्यापित जोखिम की मात्रा निर्धारित नहीं करता है, या यह नहीं दिखाता है कि किसी सरकार या कंपनी ने नए प्रतिबंध अपनाए हैं।

यह एक सार्थक एआई-सुरक्षा विकास है क्योंकि एक पूर्व कर्मचारी का सार्वजनिक खाता कंपनी के नेता के धीमे विकास और सुरक्षा उपायों के आह्वान के साथ प्रस्तुत किया जाता है। कुल मिलाकर, बयानों से पता चलता है कि चिंताएँ बाहरी आलोचकों तक सीमित नहीं हैं, हालाँकि रिपोर्ट यह नहीं मापती है कि एआई शोधकर्ताओं के बीच ये विचार कितने प्रतिनिधि हैं।

व्यावहारिक निहितार्थ यह है कि सुरक्षा तर्क तेजी से रिलीज प्रशासन, विनियमन और अंतर्राष्ट्रीय समन्वय को प्रभावित कर सकते हैं। वे परिणाम संभावित बने रहेंगे: स्रोत किसी नए कानून, समझौते, तैनाती पर रोक या स्वतंत्र रूप से सत्यापित घटना की रिपोर्ट नहीं करता है। कोई उत्पाद पहुंच शर्तें या मूल्य निर्धारण प्रासंगिक या दस्तावेजित नहीं हैं।

आगे क्या देखना है

संयम के आह्वान के बाद ठोस नीति या कंपनी की कार्रवाइयों पर नज़र रखें: औपचारिक निगरानी आवश्यकताएँ, तैनाती सीमाएँ, अंतर्राष्ट्रीय समझौते, या मॉडल-रिलीज़ प्रक्रियाओं में परिवर्तन। स्रोत किसी नए उत्पाद, पहुंच परिवर्तन, कीमत, सुरक्षा परीक्षण परिणाम या बाध्यकारी नीति का दस्तावेजीकरण नहीं करता है। यह साक्षात्कारकर्ताओं द्वारा उद्धृत विलुप्त होने की संभावनाओं को स्वतंत्र रूप से सत्यापित नहीं करता है या वर्तमान 96-घंटे की विंडो के सापेक्ष रिपोर्ट किए गए साक्षात्कार के समय को स्थापित नहीं करता है।

चाहे Anthropic हो या अन्य AI कंपनियां संयम के आह्वान को सत्यापन योग्य प्रथाओं में बदल देती हैं, जैसे स्वतंत्र मॉडल निगरानी, ​​​​प्रकाशित मूल्यांकन सीमाएँ या धीमी रिलीज़।

क्या सरकारें एआई प्रतिस्पर्धा और जोखिम के बारे में सामान्य बयानों के बजाय विशिष्ट नियमों या अंतरराष्ट्रीय चर्चाओं के साथ प्रतिक्रिया देती हैं।

क्या स्वतंत्र तकनीकी अनुसंधान रिपोर्ट में उद्धृत गंभीर जोखिम अनुमानों का समर्थन करता है, उन्हें सीमित करता है या चुनौती देता है। स्रोत उस विवाद को सुलझाने के लिए पर्याप्त साक्ष्य उपलब्ध नहीं कराता है।

स्रोत पाठ में प्रकाशन की तारीख शामिल नहीं है, इसलिए अंतर्निहित साक्षात्कारों की नवीनता की आपूर्ति की गई सामग्री से स्वतंत्र रूप से पुष्टि नहीं की जा सकती है।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी