सभी एआई कार्यकर्ता यह नहीं सोचते कि तकनीक हर किसी को मार सकती है

क्या हुआ?

OpenAI, Meta, और DeepMind जैसी प्रमुख कंपनियों के कई AI कर्मचारी इस विचार को लेकर संशय में हैं कि AI मानवता के लिए एक संभावित खतरा है। वे हास्य के माध्यम से अपने संदेह व्यक्त करते हैं और इन दावों का समर्थन करने वाले ठोस सबूतों की कमी की ओर इशारा करते हैं। जबकि विशेष रूप से सैन्य सेटिंग्स में एआई सुरक्षा और नैतिक उपयोग जैसे तत्काल जोखिमों के बारे में चिंताएं हैं, श्रमिकों को लगता है कि बातचीत हाल की हाई-प्रोफाइल चेतावनियों की तुलना में अधिक सूक्ष्म है।

लेख OpenAI, Meta, और DeepMind जैसी कंपनियों के AI कार्यकर्ताओं की प्रतिक्रियाओं को साझा करता है जो AI द्वारा उत्पन्न अस्तित्व संबंधी खतरों के बारे में संशय में हैं। वे उद्योग जगत की कुछ हस्तियों द्वारा किए गए दावों में ठोस सबूतों की कमी पर आश्चर्य और संदेह व्यक्त करते हैं।

Anthropic के पूर्व कर्मचारी जैकब कॉक्सन ने दावा किया कि भविष्य के AI उपकरण लोगों को खतरे में डाल सकते हैं, लेकिन कई कर्मचारी इन दावों को अस्पष्ट और असमर्थित पाते हैं।

संपुरा रिसर्च के संस्थापक रिशुब जैन का कहना है कि एआई के बारे में नए डर को लेकर एआई कार्यकर्ताओं का लहजा 'थोड़ा मजाकिया' है। Meta डेटा वैज्ञानिक कॉलिन फ़्रेज़र का तर्क है कि इसका कोई वास्तविक सबूत नहीं है कि AI मॉडल अनिवार्य रूप से मानव मृत्यु की ओर ले जाने वाले लक्ष्यों का पीछा करेंगे।

संदेह के बावजूद, एआई कार्यकर्ता विभिन्न जोखिमों को कम करने के महत्व पर सहमत हैं, जिसमें एआई रेलिंग को विफल होने से रोकना और सैन्य सेटिंग्स में एआई के बारे में नैतिक चिंताओं को संबोधित करना शामिल है।

सुरक्षा के लिए नए AI मॉडल का आकलन करने के लिए बाहरी मूल्यांकनकर्ताओं को लाने के लिए समर्थन बढ़ रहा है, Anthropic के डेरियो अमोदेई और OpenAI के सैम ऑल्टमैन जैसे नेता इस दृष्टिकोण का समर्थन कर रहे हैं।

स्रोत विवरण: bbc.com ↗

यह क्यों मायने रखता है?

यह मायने रखता है क्योंकि यह एआई उद्योग के भीतर एआई के संभावित जोखिमों के बारे में विभाजन को उजागर करता है। जबकि कुछ लोग अस्तित्व संबंधी खतरों की चेतावनी देते हैं, कई श्रमिकों को लगता है कि ये चिंताएँ अतिरंजित हैं और साक्ष्य द्वारा समर्थित नहीं हैं। यह संदेह इस बात पर प्रभाव डाल सकता है कि उद्योग एआई सुरक्षा और विनियमन के प्रति किस प्रकार दृष्टिकोण रखता है।

एआई कार्यकर्ताओं के बीच संदेह सुरक्षा और विनियमन के प्रति उद्योग के दृष्टिकोण को प्रभावित कर सकता है, जिससे संभावित रूप से अधिक सूक्ष्म और साक्ष्य-आधारित चर्चा हो सकती है।

एआई जोखिमों पर विचारों में विभाजन एआई विकास और तैनाती के संबंध में सार्वजनिक धारणा और नीतिगत निर्णयों को प्रभावित कर सकता है।

एआई सुरक्षा और नैतिक उपयोग जैसे तत्काल जोखिम ध्यान आकर्षित कर रहे हैं, इन जोखिमों को कम करने के लिए व्यावहारिक कदमों पर ध्यान केंद्रित किया जा रहा है।

आगे क्या देखना है

सुरक्षा और विनियमन के लिए एआई उद्योग का दृष्टिकोण, एआई प्रयोगशालाओं में बाहरी मूल्यांकनकर्ताओं का एकीकरण, और एआई रेलिंग विफल होने जैसे तत्काल जोखिमों को कैसे संबोधित किया जाता है।

प्रमुख एआई प्रयोगशालाओं में बाहरी मूल्यांकनकर्ताओं का एकीकरण और एआई सुरक्षा पर उनका प्रभाव।

उद्योग एआई रेलिंग की विफलता और नैतिक चिंताओं जैसे तत्काल जोखिमों को कैसे संबोधित करता है।

एआई जोखिमों और सुरक्षा के आसपास सार्वजनिक और नियामक चर्चाओं का विकास।

संबंधित मार्गदर्शिकाएँ एवं प्रश्नोत्तरी