বিপর্যয়মূলক ভুলে যাওয়া কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. কোন পরিস্থিতি একটি নিউরাল নেটওয়ার্কে বিপর্যয়কর ভুলে যাওয়া বর্ণনা করে?
   • যখন একটি নতুন কাজ শেখার ফলে একটি মডেল পূর্বে শেখা ক্ষমতা হারায়
   • যখন অনুমান করার সময় একটি মডেল মেমরি ফুরিয়ে যায়
   • যখন প্রশিক্ষণের ডেটা দুর্ঘটনাক্রমে মুছে ফেলা হয়
   • যখন একজন মডেল একটি প্রশ্নের উত্তর দিতে অস্বীকার করে
2. নিউরাল নেটওয়ার্কে কেন বিপর্যয়কর ভুলে যাওয়া হয়?
   • কারণ প্রতিটি কাজ স্বয়ংক্রিয়ভাবে নিজস্ব আলাদা নেটওয়ার্ক পায়
   • কারণ নতুন গ্রেডিয়েন্ট আপডেটগুলি শেয়ার করা ওজনগুলিকে ওভাররাইট করে যা পুরানো দক্ষতাগুলিকে এনকোড করে৷
   • কারণ মডেলগুলি একাধিক তথ্য সংরক্ষণ করতে পারে না
   • কারণ মনোযোগ স্তরগুলি উদ্দেশ্যমূলকভাবে ডেটা মুছে ফেলে
3. ইলাস্টিক ওয়েট কনসোলিডেশন (EWC) ভুলে যাওয়া কমাতে কী করে?
   • নতুন টাস্কের ডেটা মুছে দেয়
   • শেখার হার দ্বিগুণ করে
   • পূর্বে শেখা কাজগুলির জন্য গুরুত্বপূর্ণ ওজনের পরিবর্তনগুলিকে শাস্তি দেয়৷
   • মডেল থেকে মনোযোগ সরিয়ে দেয়
4. কিভাবে অভিজ্ঞতা রিপ্লে (মহড়া) যুদ্ধ ভুলে যাওয়া?
   • স্থায়ীভাবে সম্পূর্ণ মডেল হিমায়িত করে
   • শুধুমাত্র নতুন তথ্যের উপর প্রশিক্ষণের মাধ্যমে
   • স্তর সংখ্যা হ্রাস দ্বারা
   • নতুন প্রশিক্ষণের সময় সঞ্চিত পুরানো উদাহরণ ইন্টারলেভ করে
5. What does LoRA do to base-model weights when adding a task-specific adapter?
   • It freezes base weights and trains a low-rank adapter, which may reduce direct interference but does not guarantee retention
   • It rewrites every base weight for each new task
   • It stores no task-specific parameters
   • It guarantees zero forgetting on every task sequence
6. কিভাবে একটি পুনরুদ্ধার-বর্ধিত পদ্ধতি বিপর্যয়কর ভুলে যাওয়াকে পাশ কাটিয়ে যায়?
   • পুরানো জ্ঞান মুছে জায়গা করে
   • ওজনের পরিবর্তে একটি বাহ্যিক ডাটাবেসে নতুন জ্ঞান সংরক্ষণ করে
   • এলোমেলো শব্দে ক্রমাগত প্রশিক্ষণের মাধ্যমে
   • মডেলের মেমরি সম্পূর্ণরূপে নিষ্ক্রিয় করে
7. How does Gradient Episodic Memory (GEM) constrain learning on a new task?
   • It removes old task examples from memory
   • It changes the model to a nearest-class-mean classifier
   • It adjusts the gradient so the first-order approximation does not increase loss on stored prior-task examples
   • It adds a KL penalty to every parameter regardless of task
8. How do RAG-Token and RAG-Sequence differ in the original RAG paper?
   • RAG-Token removes retrieval while RAG-Sequence removes generation
   • RAG-Sequence uses images while RAG-Token uses audio
   • RAG-Token trains without model parameters
   • RAG-Token marginalizes retrieved documents per output token, while RAG-Sequence uses one document for a whole sequence