ট্রান্সফরমার কুইজে ইন্ডাকশন হেডস

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. একটি আনয়ন মাথা অপরিহার্যভাবে প্রয়োগ করে কি নিয়ম?
   • ভাষায় সবচেয়ে ঘন ঘন টোকেন ভবিষ্যদ্বাণী করুন
   • সর্বদা পূর্ববর্তী টোকেন অপরিবর্তিত অনুলিপি করুন
   • এলোমেলোভাবে প্রসঙ্গ টোকেনগুলি এলোমেলো করুন৷
   • আগে [A][B] দেখুন, তারপর [A] এ আবার [B] ভবিষ্যদ্বাণী করুন
2. What capability was linked to induction-head behavior in the cited 2022 study?
   • In-context learning in the examined models, with broader large-model claims framed as hypotheses
   • A proof that every form of reasoning uses only one identical circuit
   • Changing the tokenizer vocabulary during every prompt
   • Permanent weight updates whenever a repeated token appears
3. ইন্ডাকশন সার্কিটে 'আগের-টোকেন হেড' কী ভূমিকা পালন করে?
   • এটি চূড়ান্ত সফটম্যাক্স তৈরি করে
   • এটি অবস্থানগত তথ্য সরিয়ে দেয়
   • এটি প্রতিটি টোকেনের পূর্বসূরি তথ্যকে কপি করে যাতে মিল ঘটতে পারে
   • এটি মনোযোগের ওজনকে স্বাভাবিক করে তোলে
4. ক্যানোনিকাল ইন্ডাকশন সার্কিটে সাধারণত কতজন মনোযোগের মাথা জড়িত থাকে?
   • ঠিক এক
   • দুই, স্তর জুড়ে গঠিত
   • একক স্তরে শত শত
   • শূন্য; এটা শুধুমাত্র ফিড ফরোয়ার্ড
5. What training relationship did the induction-head study report in the models it examined?
   • Head formation coincided with changes in loss behavior and increased in-context learning
   • All heads were fully formed before any training
   • Induction behavior could only appear after every parameter was frozen forever
   • The same exact training transition must occur in every future model
6. কোন কাজটি একটি ইন্ডাকশন হেড সবচেয়ে সরাসরি পরিচালনা করবে?
   • একটি সংখ্যাসূচক গ্রেডিয়েন্ট গণনা
   • মডেলের ওজন সংকুচিত করা
   • ইনপুট প্রম্পট এনক্রিপ্ট করা হচ্ছে
   • আগের ম্যাচিং টোকেনগুলি অনুসরণ করে অনুলিপি করে একটি ক্রম পুনরাবৃত্তি করা
7. What roles do query-key matching and the output-value path play in the canonical induction circuit?
   • Query-key computations generate the final text filename; output-value computations train the tokenizer
   • Query-key computations select the matching context position; output-value computations promote the token information there
   • Both paths only count the total number of context words
   • The output-value path selects a position without any attention pattern
8. Does a demonstrated two-head induction circuit prove that every large-model in-context task uses that mechanism alone?
   • Yes; every architecture and prompt has already been causally tested
   • Yes; no other network computation can influence a prediction
   • No; the wider explanation remains a hypothesis needing model- and task-specific evidence
   • Only the number of parameters determines whether the proof is universal