एआई सुरक्षा प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. गाइड वर्तमान और उन्नत प्रणालियों में एआई सुरक्षा जोखिम को कैसे दर्शाता है?
   • परिचित हानियों और दुरुपयोग से लेकर अत्यधिक सक्षम प्रणालियों से गंभीर जोखिमों तक
   • केवल असभ्य परिणामों को रोकने के प्रश्न के रूप में
   • केवल हार्डवेयर विश्वसनीयता समस्या के रूप में
   • अकेले साइबर सुरक्षा के पर्याय के रूप में
2. गाइड के क्षमता-संरेखण-सुरक्षा मानसिक मॉडल में, क्षमता क्या वर्णन करती है?
   • क्या सिस्टम के लक्ष्य इरादे से मेल खाते हैं
   • क्या कोई विरोधी इसका दुरुपयोग कर सकता है
   • इसमें कितने प्रशिक्षण उदाहरण हैं
   • एक सिस्टम क्या कर सकता है
3. एआई सुरक्षा में स्पेसिफिकेशन गेमिंग का क्या मतलब है?
   • हर व्यापक मानवीय मूल्य का सही ढंग से पालन करें
   • डिज़ाइनर के इच्छित लक्ष्य से चूकते हुए शाब्दिक उद्देश्य को पूरा करना
   • डेटाबेस में सुरक्षा दोष ढूँढना
   • गणना को बचाने के लिए एक छोटे मॉडल का उपयोग करना
4. टूल-उपयोग करने वाले एजेंट के लिए केवल आउटपुट फ़िल्टर पर निर्भर रहने में क्या जोखिम है?
   • फ़िल्टर हमेशा मॉडल का वजन बदलते हैं
   • एक फ़िल्टर सभी दुरुपयोग को रोकता है
   • सिस्टम बहु-चरणीय कार्रवाई कर सकता है या फ़िल्टर किए गए पाठ से परे हेरफेर किया जा सकता है
   • उपकरण का उपयोग केवल प्रशिक्षण के दौरान होता है
5. सुरक्षा कार्यक्रम में रेड-टीमिंग को क्यों शामिल करें?
   • मार्केटिंग कॉपी को बेहतर बनाने के लिए
   • यह साबित करने के लिए कि सिस्टम में कोई जोखिम नहीं है
   • हानिकारक व्यवहारों और कमजोरियों के लिए प्रतिकूल जांच करना
   • तैनाती निगरानी की आवश्यकता को दूर करने के लिए
6. एक पॉलिश मॉडल कार्ड से परे सुरक्षा मूल्यांकन में क्या जांच की जानी चाहिए?
   • खतरनाक क्षमताएं, भ्रामक व्यवहार, तैनाती का दबाव और सुरक्षा उपाय
   • केवल उत्पाद का उपयोगकर्ता इंटरफ़ेस
   • केवल बेंचमार्क सटीकता
   • मॉडल पैरामीटरों की संख्या
7. एआई सुरक्षा तर्कों में वाद्य अभिसरण क्या वर्णन करता है?
   • सभी AI सिस्टम का एक ही उद्देश्य है
   • हर मॉडल सचेत है
   • एक मॉडल के आउटपुट टोकन उपकरण बन जाते हैं
   • अलग-अलग लक्ष्य समान उप-लक्ष्यों जैसे संसाधन या दृढ़ता के लिए प्रोत्साहन पैदा कर सकते हैं
8. गाइड व्यापक सार्वजनिक एआई साक्षरता के लिए तर्क क्यों देता है?
   • एआई सुरक्षा से केवल विशेषज्ञ ही प्रभावित होते हैं
   • शासन को केवल विशेषज्ञ ज्ञान की नहीं, बल्कि सार्वजनिक समझ की आवश्यकता है
   • साक्षरता तकनीकी मूल्यांकन का स्थान लेती है
   • सार्वजनिक समझ सुरक्षित तैनाती की गारंटी देती है