एजेंट रेलिंग प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. एजेंट रेलिंग का मुख्य उद्देश्य क्या है?
   • सुरक्षा और अनुपालन के लिए एक एजेंट क्या कर सकता है, क्या कह सकता है या उस तक पहुंच को सीमित करना
   • एजेंटों को अधिक धीरे-धीरे प्रतिक्रिया देने के लिए
   • एजेंट की शब्दावली बढ़ाने के लिए
   • अंतर्निहित मॉडल को पूरी तरह से बदलने के लिए
2. 'आउटपुट रेलिंग' आम तौर पर क्या करती है?
   • केवल आने वाले उपयोगकर्ता संकेतों को स्क्रीन करता है
   • डिलीवरी से पहले विषाक्त, झूठी या गैर-अनुपालक सामग्री के लिए एजेंट की प्रतिक्रियाओं की जाँच करता है
   • मॉडल के प्रशिक्षण को गति देता है
   • एजेंट को अधिक टूल एक्सेस प्रदान करता है
3. एक्शन रेलिंग पर 'कम से कम विशेषाधिकार का सिद्धांत' कैसे लागू होता है?
   • एजेंट को हर संभव अनुमति दी जाती है
   • एजेंट को किसी भी चीज़ के लिए अनुमति नहीं मांगनी चाहिए
   • एजेंट को केवल संकीर्ण दायरे वाले उपकरण, चाबियाँ और उसकी आवश्यकता की सीमाएँ मिलती हैं
   • सुविधा के लिए एजेंट को एडमिन एक्सेस दिया जाता है
4. रेलिंग में 'जज' या सत्यापनकर्ता मॉडल का उपयोग किसके लिए किया जाता है?
   • एजेंट के मुख्य उत्तर उत्पन्न करने के लिए
   • उपयोगकर्ता पासवर्ड संग्रहीत करने के लिए
   • केवल भाषाओं का अनुवाद करने के लिए
   • सुरक्षा या सटीकता के लिए एजेंट के आउटपुट को ग्रेड या तथ्य-जांच करना
5. प्रतिकूल इनपुट के विरुद्ध रेलिंग का परीक्षण क्यों महत्वपूर्ण है?
   • क्योंकि हमलावर जेलब्रेक की कोशिश करते हैं, इसलिए आंख मूंदकर भरोसा करने के बजाय रेलिंग की जांच की जानी चाहिए
   • यह एजेंट को जानबूझकर धीमा कर देता है
   • यह किसी भी नियम की आवश्यकता को हटा देता है
   • यह गारंटी देता है कि मॉडल कभी गलती नहीं करेगा
6. कौन सा उदाहरण एक प्रभावी कार्रवाई रेलिंग दिखाता है?
   • एक क्रय एजेंट जिसके पास कोई खर्च सीमा नहीं है
   • मॉडल के बाहर लागू प्रति लेनदेन 100 डॉलर की सख्त सीमा वाला एक क्रय एजेंट
   • एक एजेंट जो अपनी इच्छानुसार कोई भी कमांड चला सकता है
   • एक एजेंट जो सभी अनुमतियों को अनदेखा करता है
7. What does NIST’s Generative AI Profile say content filters can do?
   • Guarantee that all false or harmful content is removed
   • Verify that every generated answer is factually correct
   • Use rule-based or machine-learning methods to flag problematic inputs and outputs
   • Replace all post-deployment monitoring
8. What can a NIST post-deployment monitoring plan include for generative AI?
   • A guarantee that all outputs will be safe
   • A replacement for pre-deployment testing
   • An instruction to ignore user-reported issues
   • Mechanisms to capture user input and support appeal, override, incident response, and updates