रेलिंग और आउटपुट मॉडरेशन प्रश्नोत्तरी

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. भाषा मॉडल के संदर्भ में रेलिंग क्या हैं?
   • सुरक्षा जांच जो इनपुट और आउटपुट को स्वीकार्य सीमा के भीतर रखती है
   • चैट विंडो के चारों ओर सजावटी सीमाएँ
   • मॉडल को तेजी से प्रतिक्रिया देने का एक तरीका
   • हार्डवेयर जो सर्वर को ठंडा करता है
2. 'आउटपुट मॉडरेशन' विशेष रूप से किसका निरीक्षण करता है?
   • मॉडल द्वारा उपयोग की जाने वाली बिजली
   • मॉडल द्वारा उत्पादित पाठ, उपयोगकर्ता तक पहुंचने से पहले
   • उपयोगकर्ता की टाइपिंग गति
   • इंटरफ़ेस की रंग योजना
3. इनपुट-साइड रेलिंग का उदाहरण कौन सा है?
   • उत्तर का स्पेनिश में अनुवाद करना
   • फ़ॉन्ट को बड़ा बनाना
   • मॉडल तक पहुंचने से पहले त्वरित-इंजेक्शन प्रयास को फ़िल्टर करना
   • उत्तर में उद्धरण जोड़ना
4. स्ट्रीमिंग (टोकन-दर-टोकन) प्रतिक्रियाओं को मॉडरेट करना कठिन क्यों है?
   • स्ट्रीमिंग में अधिक रंगों का उपयोग होता है
   • स्ट्रीमिंग सभी क्लासिफायर को अक्षम कर देती है
   • उपयोगकर्ता स्ट्रीम किए गए टेक्स्ट को नहीं पढ़ सकते
   • टेक्स्ट उत्पन्न होते ही दिखाया जाता है, इसलिए हानिकारक सामग्री पूर्ण जाँच से पहले दिखाई दे सकती है
5. रेलिंग इंजीनियरों को मुख्य संतुलन क्या बनाना चाहिए?
   • वैध अनुरोधों पर झूठी सकारात्मकता को कम करते हुए हानिकारक आउटपुट को पकड़ना
   • मॉडल को यथासंभव धीमा बनाना
   • हर एक प्रतिक्रिया को अवरुद्ध करना
   • सभी लॉगिंग हटा रहा है
6. What is a privacy-conscious way to log moderation decisions?
   • Store every full conversation indefinitely with public access
   • Record only necessary information, with defined access and retention controls
   • Disable all privacy controls to simplify debugging
   • Publish blocked prompts so users can inspect them
7. What should pre-deployment guardrail testing include?
   • Only the prompts that already pass
   • No testing of borderline requests
   • Representative harmful and benign cases to measure misses and false positives
   • A single test prompt for every policy category
8. Why monitor guardrails after deployment?
   • Monitoring makes the model intrinsically safe
   • A deployed classifier never changes its error rate
   • It eliminates the need for user reports or evaluation
   • Usage and threat patterns can change, revealing new errors or policy gaps