گائیڈ سے منسلک کوئز · درمیانہ سطح
پریفکس ٹیوننگ کوئز
پریفکس ٹیوننگ کے منجمد بیک بون اپروچ، فی ٹاسک پیرامیٹر کی بچت، توجہ کی تہہ کی جگہ کا تعین، اور قدرتی زبان کی تخلیق کے کاموں کے نتائج کا اندازہ لگائیں۔
سوال 1 کی 8
پریفکس ٹیوننگ اصل میں کیا تربیت دیتی ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- پریفکس ٹیوننگ اصل میں کیا تربیت دیتی ہے؟
- ماڈل کے تمام ٹرانسفارمر کا وزن
- صرف ماڈل کی آؤٹ پٹ الفاظ کی پرت
- ہر کام کے لیے ماڈل کی الگ کاپی
- مسلسل سابقہ ویکٹر کا ایک چھوٹا سیٹ جب کہ ماڈل منجمد رہتا ہے۔
- پریفکس ویکٹر کہاں لگائے جاتے ہیں؟
- ہر توجہ کی پرت پر چابیاں اور اقدار میں
- صرف آخری آؤٹ پٹ پرت پر
- صرف نقصان کے فنکشن میں
- سرایت کرنے سے پہلے ٹوکنائزر میں
- کس نے پریفکس ٹیوننگ متعارف کروائی اور تقریباً کب؟
- OpenAI 2018 میں
- 2021 میں اسٹینفورڈ میں لی اور لیانگ
- 2015 میں Google
- 2023 میں Meta
- بہت سے کاموں کو انجام دینے کے لیے پریفکس ٹیوننگ کیوں پرکشش ہے؟
- اس کے لیے کسی تربیتی ڈیٹا کی ضرورت نہیں ہے۔
- یہ بغیر کسی ہارڈ ویئر پر قیاس آرائی کرتا ہے۔
- ہر کام کو مکمل ماڈل کاپی کے بجائے صرف ایک چھوٹا سا سابقہ درکار ہوتا ہے۔
- یہ مستقل طور پر ایک ساتھ تمام کاموں کے لیے بیس ماڈل کو دوبارہ لکھتا ہے۔
- پریفکس ٹریننگ کو مستحکم کرنے کے لیے اکثر کون سی چال استعمال کی جاتی ہے؟
- سیکھنے کی شرح کو ہر قدم دوگنا کرنا
- سابقہ کو منجمد کرنا اور ماڈل کو تربیت دینا
- تمام توجہ کی تہوں کو ہٹانا
- ایک چھوٹے سے فیڈ فارورڈ نیٹ ورک کے ذریعے سابقہ کو دوبارہ پیرامیٹرائز کرنا جو بعد میں رد کر دیا جاتا ہے۔
- کس قسم کے کام پر پریفکس ٹیوننگ خاص طور پر چمکتی ہے؟
- قدرتی زبان کی تخلیق جیسے ٹیبل سے متن اور خلاصہ
- تصویر کی درجہ بندی
- آڈیو ویوفارم ترکیب
- ڈیٹا بیس انڈیکسنگ
- What proportion of model parameters did the original prefix-tuning paper report learning in its experiments?
- About 10%
- About 0.1%
- تقریباً 50%
- All model parameters
- How did prefix-tuning perform in the paper’s low-data settings?
- It always matched full fine-tuning on every task
- It could not train with limited examples
- It outperformed full fine-tuning in some evaluated low-data cases
- It changed every backbone parameter