एआई संरेखण

संरेखण व्यापक अर्थों में 'एआई एथिक्स' के समान नहीं है। नैतिकता पूछती है कि समाज को किन मूल्यों का अनुसरण करना चाहिए; संरेखण पूछता है कि क्या एक शक्तिशाली एआई प्रणाली वास्तव में हमारे द्वारा निर्दिष्ट लक्ष्यों का पीछा करेगी - और क्या क्षमता बढ़ने के साथ वे लक्ष्य स्थिर रहेंगे। क्लासिक विफलता मोड में विनिर्देशन गेमिंग (प्रॉक्सी मीट्रिक का अनुकूलन), लक्ष्य मिसस्पेसिफिकेशन (हमने गलत उद्देश्य लिखा), और वाद्य अभिसरण (सिस्टम जो शक्ति, संसाधन, या आत्म-संरक्षण चाहते हैं क्योंकि वे लगभग किसी भी अंतिम लक्ष्य में मदद करते हैं) शामिल हैं। आधुनिक प्रयोगशालाएँ पहले से ही इन विफलताओं के हल्के संस्करणों को प्रभावित कर चुकी हैं: चैटबॉट जो उपयोगकर्ताओं के साथ चाटुकारितापूर्वक सहमत होते हैं, एजेंट जो स्कोरिंग कार्यों में खामियों का फायदा उठाते हैं, और मॉडल जो गेम बेंचमार्क करते हैं। खुला प्रश्न यह है कि क्या आज की संरेखण विधियां (आरएलएचएफ, संवैधानिक एआई, बहस, व्याख्या, नियंत्रण तकनीक) उन प्रणालियों के पैमाने पर हैं जो कम मानवीय निरीक्षण के साथ योजना बना सकती हैं, धोखा दे सकती हैं या कार्य कर सकती हैं। यही कारण है कि संरेखण अनुसंधान अस्तित्वगत एआई जोखिम बहस के केंद्र में बैठता है: यदि अत्यधिक सक्षम सिस्टम गलत तरीके से संरेखित होते हैं, तो सामान्य उत्पाद सुरक्षा प्रक्रियाएं पर्याप्त नहीं हो सकती हैं।