گائیڈ سے منسلک کوئز · درمیانہ سطح
متضاد ڈیکوڈنگ کوئز
ٹیسٹ ماہر - شوقیہ اسکورنگ، مشترکہ ٹوکن دبانے، قابل فہمی فلٹرنگ، ڈی کوڈنگ وقت کا استعمال، اور متضاد نسل کی تشخیص۔
سوال 1 کی 8
متضاد ضابطہ کشائی میں، چھوٹا 'شوقیہ' ماڈل کیا کردار ادا کرتا ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- متضاد ضابطہ کشائی میں، چھوٹا 'شوقیہ' ماڈل کیا کردار ادا کرتا ہے؟
- مشترکہ ناکامی کے طریقوں کو دبانے کے لیے اس کے لاگ ان امکانات کو گھٹا دیا جاتا ہے۔
- یہ براہ راست حتمی آؤٹ پٹ ٹیکسٹ تیار کرتا ہے۔
- یہ ماہر کی غلطیوں پر ٹھیک ہے
- یہ ماہر کی جگہ لے لیتا ہے جب ماہر غیر یقینی ہوتا ہے۔
- شوقیہ کے امکانات کو کم کرنے سے تکرار اور کم پیداوار کیوں کم ہوتی ہے؟
- شوقیہ کو تربیت دی جاتی ہے کہ وہ الفاظ کو کبھی نہ دہرائیں۔
- عام اور دہرائے جانے والے ٹوکن دونوں ماڈلز کو پسند کرتے ہیں، اس لیے کنٹراسٹ انہیں منسوخ کر دیتا ہے۔
- شوقیہ ڈپلیکیٹ ٹوکن نسل در نسل حذف کرتا ہے۔
- دو ماڈل ووٹ دینے کے بعد دہرانا ناممکن ہے۔
- What does the adaptive plausibility constraint do in contrastive decoding?
- It guarantees every remaining continuation is coherent and true
- It replaces the expert distribution with the amateur distribution
- It filters out candidates whose expert probability is too low relative to the expert’s top token
- It forces every token to have equal probability
- متضاد ضابطہ کشائی میں اسکورنگ فارمولہ کیا ہے؟
- لاگ p_Amateur مائنس لاگ p_expert
- p_expert اوقات p_amateur
- دو احتمالات کا اوسط
- لاگ p_expert مائنس ایک عددی اوقات لاگ p_amateur
- متضاد ضابطہ کشائی کا ایک اہم عملی فائدہ یہ ہے کہ:
- بغیر کسی اضافی تربیت کے تخمینہ کے وقت کام کرتا ہے۔
- دونوں ماڈلز کو مشترکہ طور پر دوبارہ تربیت دینے کی ضرورت ہے۔
- صرف درجہ بندی کے کاموں پر کام کرتا ہے۔
- ایک بڑے ماڈل کی ضرورت کو ختم کرتا ہے۔
- بعد میں کون سا طریقہ متضاد خیال کو ایک ماڈل کی اپنی تہوں تک پھیلاتا ہے؟
- بیم کی تلاش
- DoLa، جو ابتدائی بمقابلہ دیر کی تہوں میں متضاد ہے۔
- لالچی ضابطہ کشائی
- درجہ حرارت کی پیمائش
- The expert assigns probability 0.4 to its top token and the plausibility threshold is 0.1 of that value. What is the minimum probability for a candidate to remain eligible?
- 0.4
- 0.1
- 0.04
- 0.004
- Why can contrastive decoding require more inference work than using the expert model alone?
- It must retrain both models for every prompt
- It replaces the vocabulary with image patches
- It runs only the amateur model
- It scores candidates with both an expert and an amateur model at inference time