গোষ্ঠীবদ্ধ-কোয়েরি মনোযোগ কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. গ্রুপড-কোয়েরি অ্যাটেনশনে, ক্যোয়ারী হেডগুলির একটি গ্রুপের মধ্যে কী ভাগ করা হয়?
   • কী এবং মান প্রধান
   • শুধুমাত্র আউটপুট অভিক্ষেপ
   • ইনপুট এম্বেডিং
   • শেখার হার
2. GQA কে কোন দুটি চরমের মধ্যবর্তী স্থল হিসাবে সর্বোত্তমভাবে বর্ণনা করা হয়?
   • আবর্তন এবং মনোযোগ
   • সম্পূর্ণ মাল্টি-হেড মনোযোগ এবং মাল্টি-কোয়েরি মনোযোগ
   • FP32 এবং FP8 নির্ভুলতা
   • শুধুমাত্র এনকোডার এবং শুধুমাত্র ডিকোডার মডেল
3. অনুমানের কোন অংশ GQA প্রাথমিকভাবে সস্তা করে?
   • প্রম্পটের টোকেনাইজেশন
   • প্রশিক্ষণ ক্ষতি গণনা
   • কেভি ক্যাশে মেমরি এবং প্রজন্মের সময় এর ব্যান্ডউইথ
   • শব্দভান্ডারের উপর চূড়ান্ত সফটম্যাক্স
4. যদি একটি মডেলের 32টি ক্যোয়ারী হেড এবং 8 KV গ্রুপ থাকে, তাহলে KV ক্যাশে মোটামুটি কোন ফ্যাক্টর দ্বারা হ্রাস করা হয়?
   • প্রায় 32x
   • প্রায় 2x
   • কোন কমানো
   • প্রায় 4x
5. What quality/speed tradeoff did the GQA paper report in its experiments?
   • Quality close to MHA with inference speed closer to MQA
   • Lower quality and slower inference than both
   • Exactly the same latency and quality for every model
   • A result only on image classification
6. কিভাবে বিদ্যমান মাল্টি-হেড মডেলগুলি প্রায়শই GQA তে রূপান্তরিত হয়?
   • সমস্ত মনোযোগ স্তর মুছে ফেলার মাধ্যমে
   • বিদ্যমান চেকপয়েন্ট থেকে একটি সংক্ষিপ্ত 'প্রশিক্ষণ' পদক্ষেপের মাধ্যমে
   • একটি ভিন্ন টোকেনাইজারে স্যুইচ করে
   • তারা কিছুতেই ধর্মান্তরিত হতে পারে না
7. Which task families did the GQA paper evaluate?
   • Image segmentation and object detection
   • Speech synthesis and speaker verification
   • Language modeling and machine translation
   • Molecular generation and toxicity prediction
8. How much of the original pretraining compute did the GQA paper report using for its uptraining recipe?
   • প্রায় ৫০%
   • প্রায় 100%
   • No additional training compute
   • প্রায় 5%