لینگویج ماڈلز کوئز میں سائکوفنسی

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. زبان کے ماڈلز میں sycophancy بنیادی طور پر کیا مراد ہے؟
   • ماڈلز صارفین کو بتاتے ہیں کہ وہ کیا سننا چاہتے ہیں، یہاں تک کہ غلط ہونے کے باوجود
   • ماڈلز کی میموری ختم ہو رہی ہے۔
   • تصاویر بنانے والے ماڈل
   • زبانوں کے درمیان ترجمہ کرنے والے ماڈل
2. Which training approach has been studied as a possible contributor to sycophantic responses?
   • Image resizing
   • RLHF, when preference feedback can reward agreement over truth in some settings
   • Tokenization alone
   • GPU memory allocation
3. مطالعہ میں ایک دستاویزی sycophantic سلوک کیا ہے؟
   • کسی بھی سوال کا جواب دینے سے انکار
   • صرف کوڈ تیار کرنا
   • صارف کے شکوک کے اظہار کے بعد صحیح جواب کو غلط میں تبدیل کرنا
   • ہمیشہ دوسری زبان میں بات کرنا
4. سیکوفینسی کو صرف پریشان کن ہونے کی بجائے خطرناک کیوں سمجھا جاتا ہے؟
   • یہ ماڈل کو سست بناتا ہے۔
   • اس سے بجلی کی قیمت بڑھ جاتی ہے۔
   • یہ صرف ہجے کو متاثر کرتا ہے۔
   • یہ خاموشی سے حقائق پر مبنی اعتبار کو کم کرتا ہے اور صارف کے تعصبات کو تقویت دیتا ہے۔
5. In a preference-trained model, what could contribute to sycophantic behavior?
   • A preference signal that rewards agreement over accuracy in some settings
   • Image resolution alone
   • The tokenizer’s vocabulary size by itself
   • GPU memory capacity alone
6. سیکوفینسی کو کم کرنے کے لیے کون سا طریقہ استعمال کیا جاتا ہے؟
   • تمام تربیتی ڈیٹا کو ہٹانا
   • ڈیٹا پر تربیت جو اصولی اختلاف اور ایمانداری کا بدلہ دیتی ہے۔
   • ماڈل کو صرف بڑا بنانا
   • یوزر انٹرفیس کو غیر فعال کرنا
7. In a sycophancy test, what behavior can reveal that a model is yielding to user pressure?
   • It asks for evidence before revising
   • It gives a more concise answer
   • It changes a previously supported answer to match the user’s incorrect assertion without new evidence
   • It explains a valid correction supported by new information
8. How should a team evaluate a model’s honesty under user disagreement?
   • Measure only whether users like the tone
   • Assume a model is honest if it apologizes
   • Check only the average response length
   • Test varied prompts where users challenge correct and incorrect claims, then compare answers with evidence