نالج ڈسٹلیشن کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. In knowledge distillation, what is the student model trained to do?
   • ایک چھوٹے طالب علم کے ماڈل کو تربیت دینے کے لیے ایک بڑے استاد کے ماڈل کی نقل کرنا
   • ایک ماڈل کو بڑا اور زیادہ درست بنانے کے لیے
   • ڈیٹا کو خود بخود لیبل کرنے کے لیے
   • ماڈل کے وزن کو خفیہ کرنے کے لیے
2. استاد کے 'تاریک علم' سے کیا مراد ہے؟
   • ماڈل میں چھپا ہوا بدنیتی پر مبنی رویہ
   • ماڈل فائل کا خفیہ کردہ حصہ
   • متعلقہ امکانات میں معلومات استاد غلط کلاسوں کو تفویض کرتا ہے۔
   • وہ ڈیٹا جس پر استاد کو کبھی تربیت نہیں دی گئی تھی۔
3. کشید میں درجہ حرارت (T) کیا کردار ادا کرتا ہے؟
   • یہ صرف ماڈل کی تربیت کی رفتار کو کنٹرول کرتا ہے۔
   • یہ سافٹ میکس کو نرم کرتا ہے تاکہ چھوٹی بین طبقاتی مماثلتیں سیکھنے کے قابل بن جائیں۔
   • یہ طالب علم میں پرتوں کی تعداد کا تعین کرتا ہے۔
   • یہ GPU کی گرمی کی پیداوار کی پیمائش کرتا ہے۔
4. کلاسک ڈسٹلیشن نقصان کن دو اجزاء کو ملاتا ہے؟
   • دو الگ الگ انعامی ماڈل
   • مربع کی غلطی اور قبضہ نقصان کا مطلب ہے۔
   • ریفرنس پالیسی اور ویلیو فنکشن کے خلاف KL جرمانہ
   • حقیقی لیبلز پر ٹیچر کے نرم آؤٹ پٹس کے علاوہ کراس اینٹروپی سے مماثل KL- ڈائیورجنس اصطلاح
5. کون سی ایک کشید زبان کے ماڈل کی مثال ہے؟
   • ResNet-50
   • Word2Vec
   • ڈسٹل برٹ
   • الیکس نیٹ
6. خصوصیت پر مبنی کشید کلاسک آؤٹ پٹ پر مبنی نقطہ نظر سے کیسے مختلف ہے؟
   • یہ انٹرمیڈیٹ پوشیدہ پرت کی نمائندگی سے میل کھاتا ہے، نہ صرف حتمی نتائج
   • یہ استاد کو مکمل طور پر نظر انداز کر دیتا ہے۔
   • یہ صرف سخت لیبل استعمال کرتا ہے۔
   • یہ طالب علم کی بجائے استاد کی تربیت کرتا ہے۔
7. A teacher assigns similar small probabilities to wolf and fox when predicting dog. What can soft-target distillation transfer beyond the top label?
   • A guarantee that either alternative is the correct label
   • The teacher’s complete original training corpus
   • The teacher’s exact number of hidden layers
   • Relative relationships among the teacher’s alternative class scores
8. A distilled student is smaller than its teacher. Which evaluation is needed before deployment?
   • Assume its accuracy must equal the teacher’s
   • Measure its task accuracy and runtime on the intended system
   • Assume fewer parameters guarantee lower latency on every device
   • Only compare the models’ names