এনকোডার-ডিকোডার আর্কিটেকচার কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. একটি এনকোডার-ডিকোডার মডেলে এনকোডারের প্রধান কাজ কী?
   • ইনপুট পড়তে এবং এটিকে সমৃদ্ধ অভ্যন্তরীণ উপস্থাপনায় পরিণত করতে
   • একবারে একটি টোকেন আউটপুট তৈরি করতে
   • সম্ভাব্যতার ভিত্তিতে প্রার্থীর আউটপুট র্যাঙ্ক করা
   • মডেলের প্রশিক্ষণ তথ্য সংরক্ষণ করতে
2. কেন ডিকোডার মুখোশযুক্ত (কারণ) স্ব-মনোযোগ ব্যবহার করে?
   • এনকোডার থেকে ইনপুট লুকাতে
   • প্রজন্মের সময় ভবিষ্যত টোকেন দেখা থেকে প্রতিটি অবস্থান প্রতিরোধ করতে
   • আউটপুটকে কম টোকেনে সংকুচিত করতে
   • নিয়মিতকরণের জন্য এলোমেলোভাবে টোকেন ড্রপ করতে
3. কোন প্রক্রিয়াটি ডিকোডারকে এনকোডারের উপস্থাপনাগুলির সাথে সংযুক্ত করে?
   • ড্রপআউট
   • ব্যাচ স্বাভাবিককরণ
   • ক্রস-মনোযোগ
   • অবস্থানগত এনকোডিং
4. এই মডেলগুলির মধ্যে কোনটি একটি এনকোডার-ডিকোডার (সিকোয়েন্স-টু-সিকোয়েন্স) আর্কিটেকচার?
   • জিপিটি-৩
   • BERT
   • Word2Vec
   • T5
5. কেন এনকোডার-ডিকোডার ডিজাইন অনুবাদের জন্য একটি প্রাকৃতিক উপযুক্ত?
   • কারণ ইনপুট এবং আউটপুট ভিন্ন ক্রম, সম্পূর্ণ বোধগম্যতা প্রয়োজন তারপর নতুন প্রজন্ম
   • কারণ ইনপুট এবং আউটপুট সবসময় একই দৈর্ঘ্য
   • কারণ এটিকে কখনই নতুন টেক্সট তৈরি করার দরকার নেই
   • কারণ এটি সম্পূর্ণরূপে মনোযোগ ব্যবহার এড়ায়
6. In the original Transformer architecture, what attention does the encoder use over its input sequence?
   • Causal attention that hides all earlier source tokens
   • Bidirectional self-attention over the full source sequence
   • Cross-attention only to an image sequence
   • No attention mechanism
7. What training objective does BART use for pretraining?
   • It predicts only the next pixel in an image
   • It classifies each word into a fixed sentiment label
   • It corrupts text and trains a sequence-to-sequence denoising model to reconstruct the original
   • It performs speech recognition from raw audio
8. How does T5 frame many NLP tasks for one encoder-decoder model?
   • As image classification with a shared label set
   • As speech waveforms with no text tokens
   • As separate model architectures for each task
   • As text-to-text inputs and outputs with task descriptions in the input text