পরবর্তী-টোকেন পূর্বাভাস কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. প্রতিটি ধাপে একটি পরবর্তী-টোকেন ভবিষ্যদ্বাণী মডেল আউটপুট কি করে?
   • পরবর্তী টোকেনের জন্য শব্দভান্ডারের উপর একটি সম্ভাব্যতা বন্টন
   • একটি একক স্থির শব্দ
   • বাক্যটির অনুবাদ
   • একটি ব্যাকরণ স্কোর
2. কোন ধরনের মনোযোগ একটি GPT-শৈলী ডিকোডার ব্যবহার করে?
   • দ্বিমুখী মনোযোগ
   • কার্যকারণ (মুখোশ) মনোযোগ যা ভবিষ্যতের টোকেনগুলিকে লুকিয়ে রাখে
   • মোটেও মনোযোগ নেই
   • এলোমেলো মনোযোগ
3. 'অটোরিগ্রেসিভ' প্রজন্ম বলতে এখানে কী বোঝায়?
   • মডেলটি একবারে সমস্ত টোকেন তৈরি করে
   • মডেলটি একটি গড় মানের দিকে ফিরে যায়
   • প্রতিটি নতুন টোকেন যুক্ত করা হয় এবং পরবর্তী ভবিষ্যদ্বাণী করার জন্য ফেরত দেওয়া হয়
   • টোকেনগুলি এলোমেলো ক্রমে তৈরি হয়
4. প্রশিক্ষণের সময় কোন ক্ষতি ফাংশন সাধারণত কম করা হয়?
   • বর্গাকার ত্রুটির গড়
   • কবজা ক্ষতি
   • কোসাইন দূরত্ব
   • পরবর্তী টোকেনের উপর ক্রস-এনট্রপি
5. স্যাম্পলিংয়ের সময় তাপমাত্রা বাড়ানো কী করে?
   • আউটপুট আরো র্যান্ডম এবং সৃজনশীল করে তোলে
   • আউটপুট কঠোরভাবে নির্ধারক করে তোলে
   • শব্দভান্ডারের আকার বাড়ায়
   • সফটম্যাক্স লেয়ারটি সরিয়ে দেয়
6. ভবিষ্যদ্বাণী করার আগে, কীভাবে কাঁচা পাঠ্য সাধারণত প্রস্তুত করা হয়?
   • এটি ইংরেজিতে অনুবাদ করা হয়
   • এটি একটি টোকেনাইজার দ্বারা টোকেনে বিভক্ত
   • এটি অডিওতে রূপান্তরিত হয়
   • এটিকে কোনো প্রক্রিয়াকরণ ছাড়াই কাঁচা অক্ষর হিসাবে রেখে দেওয়া হয়
7. During next-token training, what is teacher forcing?
   • The model receives future target tokens before the input
   • The model randomly changes the tokenizer at every step
   • The model receives the ground-truth preceding tokens when predicting the next token
   • The model always samples its own previous prediction during training
8. What mismatch can arise because generation feeds back model-produced tokens?
   • The model can no longer use attention
   • The vocabulary disappears after the first token
   • The model’s loss is computed only on images
   • Errors in generated prefixes can affect later predictions, unlike training on the ground-truth prefix