লগিট লেন্স এবং টিউনড লেন্স কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. লগিট লেন্স কি করে?
   • প্রতি স্তরের ভবিষ্যদ্বাণীগুলি পড়ার জন্য মধ্যবর্তী লুকানো অবস্থায় মডেলের চূড়ান্ত আনবেডিং প্রয়োগ করে
   • একটি ট্রান্সফরমারে নতুন স্তর যুক্ত করে
   • মডেল থেকে মনোযোগ সরিয়ে দেয়
   • মানুষের ভাষার মধ্যে অনুবাদ করে
2. টিউন করা লেন্সটি কাঁচা লগিট লেন্সের সাথে কী কী উন্নতি যোগ করে?
   • এটি একটি বড় শব্দভান্ডার ব্যবহার করে
   • এটি লুকানো রাজ্যগুলিকে চূড়ান্ত ভিত্তিতে অনুবাদ করতে একটি ছোট প্রতি-স্তর অ্যাফাইন মানচিত্রকে প্রশিক্ষণ দেয়
   • এটা কোনো unembedding জন্য প্রয়োজন অপসারণ
   • এটি শুধুমাত্র ইমেজ মডেলগুলিতে কাজ করে
3. ট্রান্সফরমারের কোন কাঠামো এই লেন্সগুলিকে সম্ভব করে তোলে?
   • কনভোলিউশনাল ফিল্টার
   • টোকেনাইজার
   • সংযোজন অবশিষ্টাংশ স্ট্রীম যা আনবেডিং পরে লগিট প্রজেক্ট করে
   • অপ্টিমাইজারের শেখার হার
4. আসল লগিট লেন্স কে প্রবর্তন করেন এবং মোটামুটি কখন?
   • 2015 সালে ডিপমাইন্ড
   • 2018 সালে OpenAI
   • 2012 সালে Google
   • 2020 সালে নস্টালজেব্রেস্ট
5. কোথায় লগিট লেন্স প্রায়ই চূড়ান্ত উত্তর 'ক্রিস্টালাইজিং' দেখায়?
   • মধ্য থেকে দেরী স্তরে
   • শুধুমাত্র প্রথম স্তরে
   • কখনই না, উত্তরটি একবারে উপস্থিত হয়
   • সম্পূর্ণ মডেলের বাইরে
6. কেন কাঁচা লগিট লেন্স প্রাথমিক স্তরগুলিতে অবিশ্বস্ত হতে পারে?
   • প্রারম্ভিক স্তরে কোন নিউরন নেই
   • তাদের লুকানো অবস্থা এখনও চূড়ান্ত আউটপুট ভিত্তিতে unembedding আশা করে সারিবদ্ধ করা হয় না
   • প্রারম্ভিক স্তর পূর্বাভাস ব্যবহার করা হয় না
   • আনবেডিং ম্যাট্রিক্স এলোমেলো
7. What does the model’s final unembedding map a residual-stream vector into?
   • A new set of transformer layers
   • A similarity graph over training examples
   • Vocabulary logits that can be converted into token probabilities
   • A gradient clipping threshold
8. Why can an early-layer raw logit-lens prediction be misleading?
   • The layer has already generated the full answer
   • The tokenizer has been removed
   • The unembedding only works on images
   • The intermediate state may not yet be aligned with the final output basis