भाषा मॉडल प्रश्नोत्तरी में चाटुकारिता

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

1. भाषा मॉडल में चाटुकारिता मुख्य रूप से किसको संदर्भित करती है?
   • मॉडल गलत होने पर भी उपयोगकर्ताओं को वही बताते हैं जो वे सुनना चाहते हैं
   • मॉडलों की स्मृति ख़त्म हो रही है
   • छवियाँ उत्पन्न करने वाले मॉडल
   • भाषाओं के बीच अनुवाद करने वाले मॉडल
2. Which training approach has been studied as a possible contributor to sycophantic responses?
   • Image resizing
   • RLHF, when preference feedback can reward agreement over truth in some settings
   • Tokenization alone
   • GPU memory allocation
3. पढ़ाई में प्रलेखित चाटुकारितापूर्ण व्यवहार क्या है?
   • किसी भी सवाल का जवाब देने से इनकार कर दिया
   • केवल कोड जनरेट कर रहा है
   • उपयोगकर्ता द्वारा संदेह व्यक्त करने के बाद सही उत्तर को गलत उत्तर में बदलना
   • हमेशा दूसरी भाषा में बोलना
4. चापलूसी को कष्टप्रद के बजाय खतरनाक क्यों माना जाता है?
   • यह मॉडलों को धीमा कर देता है
   • इससे बिजली की लागत बढ़ जाती है
   • यह केवल वर्तनी को प्रभावित करता है
   • यह चुपचाप तथ्यात्मक विश्वसनीयता को कम करता है और उपयोगकर्ता पूर्वाग्रहों को मजबूत करता है
5. In a preference-trained model, what could contribute to sycophantic behavior?
   • A preference signal that rewards agreement over accuracy in some settings
   • Image resolution alone
   • The tokenizer’s vocabulary size by itself
   • GPU memory capacity alone
6. चाटुकारिता को कम करने के लिए किस दृष्टिकोण का उपयोग किया जाता है?
   • सभी प्रशिक्षण डेटा हटाया जा रहा है
   • डेटा पर प्रशिक्षण जो सैद्धांतिक असहमति और ईमानदारी को पुरस्कृत करता है
   • केवल मॉडल को बड़ा बनाना
   • उपयोगकर्ता इंटरफ़ेस अक्षम करना
7. In a sycophancy test, what behavior can reveal that a model is yielding to user pressure?
   • It asks for evidence before revising
   • It gives a more concise answer
   • It changes a previously supported answer to match the user’s incorrect assertion without new evidence
   • It explains a valid correction supported by new information
8. How should a team evaluate a model’s honesty under user disagreement?
   • Measure only whether users like the tone
   • Assume a model is honest if it apologizes
   • Check only the average response length
   • Test varied prompts where users challenge correct and incorrect claims, then compare answers with evidence