कृत्रिम सामान्य बुद्धि
आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) अधिकांश संज्ञानात्मक कार्यों में व्यापक, मानव-स्तर (या अधिक) क्षमता वाले एआई सिस्टम को संदर्भित करता है - न कि केवल अनुवाद या छवि लेबलिंग जैसा एक संकीर्ण कौशल।
सिंहावलोकन
आर्टिफिशियल जनरल इंटेलिजेंस (एजीआई) अधिकांश संज्ञानात्मक कार्यों में व्यापक, मानव-स्तर (या अधिक) क्षमता वाले एआई सिस्टम को संदर्भित करता है - न कि केवल अनुवाद या छवि लेबलिंग जैसा एक संकीर्ण कौशल।
आर्टिफिशियल जनरल इंटेलिजेंस क्षमता, शक्ति और सार्वजनिक पसंद के चौराहे पर बैठता है - जहां सुरक्षा, शासन और वैधता तय करती है कि उन्नत एआई मदद करता है या बड़े पैमाने पर नुकसान पहुंचाता है।
गहरा गोता
एजीआई की कोई एक सर्वमान्य परिभाषा नहीं है। कुछ लोगों का मतलब है 'अधिकांश ज्ञान कार्यों पर औसत मानव पेशेवरों से मेल खाता है,' दूसरों का मतलब है 'अधिकांश आर्थिक रूप से मूल्यवान कार्यों को स्वचालित कर सकते हैं,' और अन्य लोग उन प्रणालियों के लिए शब्द आरक्षित रखते हैं जो खुद को बेहतर बना सकते हैं या विज्ञान और रणनीति में मानवता से आगे निकल सकते हैं। परिभाषा मायने रखती है क्योंकि नीति, निवेश और सुरक्षा योजना सभी इस पर निर्भर करते हैं कि आप क्या सोचते हैं कि ऐसी प्रणालियाँ कब आती हैं और वे क्या कर सकती हैं। वर्तमान बड़े भाषा मॉडल सख्त परिभाषाओं के अनुसार एजीआई नहीं हैं, लेकिन वे पहले से ही व्यापक क्षमता और तेजी से सुधार दिखाते हैं - यही कारण है कि समयसीमा पर विवाद होता है और क्यों अस्तित्वगत जोखिम शोधकर्ता एजीआई (और इससे परे सिस्टम) को विज्ञान कथा के बजाय एक लाइव योजना समस्या के रूप में मानते हैं। यदि एजीआई-स्तरीय सिस्टम सीमित निरीक्षण के साथ कार्य कर सकते हैं, तो संरेखण और नियंत्रण समस्याएं अकादमिक होना बंद हो जाती हैं।
तकनीकी अंतर्दृष्टि
व्यापक क्षमता की दिशा में प्रगति बड़े पैमाने पर डेटा, गणना और एल्गोरिदम को स्केल करने से हुई है; प्रशिक्षण के बाद जो मॉडलों को अधिक उपयोगी बनाता है; और ऐसे टूल/एजेंटों से जो मॉडलों को दुनिया में काम करने देते हैं। विश्वसनीय दीर्घ-क्षितिज एजेंसी, जमीनी विश्व मॉडल और सुसंगत सत्यता में अंतराल बना हुआ है। सुरक्षा-प्रासंगिक प्रश्नों में शामिल हैं: कौन सी क्षमताएं अचानक उभरती हैं, क्या इवेल्स उनका पता लगाता है, और क्या जोखिम बढ़ने पर प्रयोगशालाएं रोक सकती हैं या तैनाती शुरू कर सकती हैं।
आर्टिफिशियल जनरल इंटेलिजेंस में महारत हासिल करना
गहरी समझ बनाने के लिए, आर्टिफिशियल जनरल इंटेलिजेंस को एक ऑपरेटिंग मॉडल के रूप में मानें, न कि किसी एक फीचर के रूप में। वांछित परिणामों को परिभाषित करें, धारणाओं को स्पष्ट करें, और जो सिस्टम विश्वसनीय रूप से कर सकता है उसे अलग करें जिसके लिए अभी भी विशेषज्ञ निर्णय की आवश्यकता है।
व्यवहार में, आर्टिफिशियल जनरल इंटेलिजेंस का उपयोग करने वाली मजबूत टीमें शासन, सुरक्षा और स्पष्ट जवाबदेही संरचनाओं के साथ क्षमता वृद्धि को जोड़ती हैं। वे स्पष्ट सफलता मानदंडों का दस्तावेजीकरण करते हैं, यथार्थवादी डेटा और वर्कफ़्लो के विरुद्ध परीक्षण करते हैं, और एक बार की बेंचमार्क जीत के बजाय देखे गए विफलता पैटर्न के आधार पर पुनरावृत्ति करते हैं। यहीं पर सैद्धांतिक समझ उत्पाद, नीति और संचालन में टिकाऊ क्षमता में बदल जाती है।
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। साथ ही, अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है। सबसे लचीला दृष्टिकोण प्रयोग की गति को शासन अनुशासन के साथ जोड़ना है: पायलट चलाना, साक्ष्य प्राप्त करना, निर्णय लॉग प्रकाशित करना, और मॉडल व्यवहार, उपयोगकर्ता अपेक्षाओं और नियामक आवश्यकताओं के विकसित होने पर सुरक्षा उपायों को लगातार अपडेट करना।
सामरिक प्रभाव
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है।
विनाशकारी और रोजमर्रा के एआई नुकसान दोनों इस बात पर निर्भर करते हैं कि जोखिमों को कौन समझता है और कौन कार्रवाई कर सकता है। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं।
सार्वजनिक और व्यावसायिक साक्षरता यह निर्धारित करती है कि मजबूत सुरक्षा नीति राजनीतिक रूप से संभव है या नहीं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं।
स्पष्ट स्पष्टीकरण प्रचार, लैब पीआर और अस्पष्ट नैतिकता थिएटर द्वारा कब्जा कम कर देते हैं। उच्च-गुणवत्ता वाली तैनाती में, इसे मापने योग्य संचालन नियमों, स्वामित्व सीमाओं और आवर्ती समीक्षा अनुष्ठानों में अनुवादित किया जाता है ताकि टीमें अस्पष्टता को मापने के बजाय आत्मविश्वास को बढ़ा सकें।
वास्तविक विश्व कार्यान्वयन
यह ट्रैक करना कि फ्रंटियर मॉडल चैट से लेकर कोडिंग, अनुसंधान सहायता और मल्टी-स्टेप टूल उपयोग तक कैसे विस्तारित होते हैं।
एजीआई की प्रयोगशालाओं की सार्वजनिक परिभाषाओं की तुलना करना और वे किस सीमा का दावा करते हैं, यह सुरक्षा नीति के लिए मायने रखता है।
यदि सिस्टम दूरस्थ संज्ञानात्मक श्रम के बड़े वर्गों को प्रतिस्थापित कर सकता है तो आर्थिक और सुरक्षा प्रभावों की योजना बनाना।
स्पष्ट सफलता मानदंड और मानव समीक्षा चौकियों के साथ दोहराए जाने योग्य आर्टिफिशियल जनरल इंटेलिजेंस वर्कफ़्लो का निर्माण।
कार्यान्वयन पैटर्न
व्यवहार में कृत्रिम सामान्य बुद्धि
यह ट्रैक करना कि फ्रंटियर मॉडल चैट से लेकर कोडिंग, अनुसंधान सहायता और मल्टी-स्टेप टूल उपयोग तक कैसे विस्तारित होते हैं।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में कृत्रिम सामान्य बुद्धि
एजीआई की प्रयोगशालाओं की सार्वजनिक परिभाषाओं की तुलना करना और वे किस सीमा का दावा करते हैं, यह सुरक्षा नीति के लिए मायने रखता है।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में कृत्रिम सामान्य बुद्धि
यदि सिस्टम दूरस्थ संज्ञानात्मक श्रम के बड़े वर्गों को प्रतिस्थापित कर सकता है तो आर्थिक और सुरक्षा प्रभावों की योजना बनाना।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
व्यवहार में कृत्रिम सामान्य बुद्धि
स्पष्ट सफलता मानदंड और मानव समीक्षा चौकियों के साथ दोहराए जाने योग्य आर्टिफिशियल जनरल इंटेलिजेंस वर्कफ़्लो का निर्माण।
टीमों को आमतौर पर बेहतर परिणाम मिलते हैं जब वे गुणवत्ता सीमा को पहले से परिभाषित करते हैं, किनारे के मामलों के लिए मानव वृद्धि पथ रखते हैं, और समय के साथ उत्पादकता लाभ और त्रुटि लागत दोनों को ट्रैक करते हैं।
जोखिम और रेलिंग
अस्तित्वगत जोखिम को विज्ञान-कल्पना के रूप में मानते हुए क्षमता को मिश्रित किया जाता है।
उच्च स्वायत्तता के तहत संरेखण के साथ भ्रमित करने वाली सतह उत्पाद सुरक्षा।
गैर-अंग्रेज़ी और गैर-विशेषज्ञ दर्शकों को केवल निम्न-गुणवत्ता वाले स्रोतों के साथ छोड़ना।
कार्यान्वयन रोडमैप
उत्पाद के नुकसान, दुरुपयोग और नियंत्रण की हानि/गलत संरेखण जोखिमों को अलग करें।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
पूछें कि कौन से सबूत समयसीमा और गंभीरता पर आपके दृष्टिकोण को बदल देंगे।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
विपणन दावों की तुलना में प्राथमिक स्रोतों और ठोस मूल्यांकन को प्राथमिकता दें।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
एक कार्य पथ की पहचान करें: कैरियर, नीति, वित्त पोषण, या कौशल - केवल जागरूकता नहीं।
इसे एक साक्ष्य द्वार के रूप में मानें: यदि मानदंड पूरे नहीं होते हैं, तो रोलआउट रोकें, अंतर को बंद करें, और उसके बाद ही उपयोग का विस्तार करें।
अन्वेषण करते रहें
Check your understanding
Test yourself: take the Artificial General Intelligence quiz