জ্ঞান পাতন ক্যুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. জ্ঞান পাতন, ছাত্র মডেল কি করতে প্রশিক্ষিত হয়?
   • একটি বড় শিক্ষক মডেল অনুকরণ করতে একটি ছোট ছাত্র মডেল প্রশিক্ষণ
   • একটি মডেল বড় এবং আরো সঠিক করতে
   • স্বয়ংক্রিয়ভাবে ডেটা লেবেল করতে
   • একটি মডেলের ওজন এনক্রিপ্ট করতে
2. শিক্ষকের 'অন্ধকার জ্ঞান' বলতে কী বোঝ?
   • মডেলে লুকানো দূষিত আচরণ
   • মডেল ফাইলের এনক্রিপ্ট করা অংশ
   • শিক্ষক ভুল ক্লাসের জন্য নির্ধারিত আপেক্ষিক সম্ভাবনার তথ্য
   • তথ্য শিক্ষক কখনও প্রশিক্ষিত ছিল না
3. পাতনে তাপমাত্রা (T) কী ভূমিকা পালন করে?
   • এটি শুধুমাত্র মডেলের প্রশিক্ষণের গতি নিয়ন্ত্রণ করে
   • এটি সফটম্যাক্সকে নরম করে তাই ছোট আন্তঃশ্রেণীর মিলগুলি শেখার যোগ্য হয়ে ওঠে
   • এটি শিক্ষার্থীর স্তরের সংখ্যা নির্ধারণ করে
   • এটি GPU এর তাপ আউটপুট পরিমাপ করে
4. ক্লাসিক পাতন ক্ষতি কোন দুটি উপাদানকে একত্রিত করে?
   • দুটি পৃথক পুরস্কার মডেল
   • বর্গাকার ত্রুটি এবং একটি কব্জা ক্ষতি মানে
   • একটি রেফারেন্স নীতি এবং একটি মান ফাংশনের বিরুদ্ধে একটি KL জরিমানা৷
   • সত্যিকারের লেবেলে শিক্ষকের নরম আউটপুট প্লাস ক্রস-এনট্রপির সাথে মেলে একটি কেএল-ডাইভারজেন্স শব্দ
5. কোনটি পাতিত ভাষার মডেলের উদাহরণ?
   • ResNet-50
   • Word2Vec
   • ডিস্টিলবার্ট
   • অ্যালেক্সনেট
6. বৈশিষ্ট্য-ভিত্তিক পাতন কীভাবে ক্লাসিক আউটপুট-ভিত্তিক পদ্ধতির থেকে আলাদা?
   • এটি মধ্যবর্তী লুকানো-স্তর উপস্থাপনাগুলির সাথে মেলে, শুধুমাত্র চূড়ান্ত আউটপুট নয়
   • এটি শিক্ষককে সম্পূর্ণরূপে উপেক্ষা করে
   • এটি শুধুমাত্র হার্ড লেবেল ব্যবহার করে
   • এটি ছাত্রের পরিবর্তে শিক্ষককে প্রশিক্ষণ দেয়
7. A teacher assigns similar small probabilities to wolf and fox when predicting dog. What can soft-target distillation transfer beyond the top label?
   • A guarantee that either alternative is the correct label
   • The teacher’s complete original training corpus
   • The teacher’s exact number of hidden layers
   • Relative relationships among the teacher’s alternative class scores
8. A distilled student is smaller than its teacher. Which evaluation is needed before deployment?
   • Assume its accuracy must equal the teacher’s
   • Measure its task accuracy and runtime on the intended system
   • Assume fewer parameters guarantee lower latency on every device
   • Only compare the models’ names