বৈশিষ্ট্য নিষ্কাশন কুইজের জন্য স্পার্স অটোএনকোডার

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. Which interpretability difficulty motivates sparse dictionary learning for neural activations?
   • Every model activation is already a complete dictionary definition
   • Several learned signals can overlap in an activation space
   • The tokenizer must be permanently removed
   • All neural weights are stored as image pixels
2. What does an SAE sparsity constraint encourage for a given input?
   • Every feature to activate equally on every input
   • A mandatory removal of its decoder
   • A guarantee that every feature has exactly one perfect human label
   • Only a limited subset of learned feature activations to be nonzero
3. Anthropic এর 'স্কেলিং মনোসেম্যান্টিসিটি' কাজে, বিখ্যাত উদাহরণ বৈশিষ্ট্যটি কী ছিল?
   • গোল্ডেন গেট ব্রিজের বৈশিষ্ট্য
   • সাত নম্বরের জন্য একটি বৈশিষ্ট্য
   • শুধুমাত্র নীল রঙের জন্য একটি বৈশিষ্ট্য
   • স্বরবর্ণের জন্য একটি বৈশিষ্ট্য
4. What does an overcomplete SAE dictionary mean?
   • It must activate every feature for every token
   • It contains no reconstruction mapping
   • It has more learned feature directions than input activation dimensions
   • It always requires less storage than the input vector
5. What does a monosemantic feature label aim to describe in this research context?
   • A guarantee that the feature never responds to related examples
   • A feature associated with one interpretable concept
   • A language model that has only one parameter
   • A token represented by exactly one raw byte
6. কিভাবে SAEs একটি মডেলের আচরণ প্রভাবিত করতে ব্যবহার করা যেতে পারে?
   • আউটপুট স্টিয়ার করার জন্য একটি বৈশিষ্ট্য চালু বা বন্ধ করে
   • পুরো মডেলটিকে স্ক্র্যাচ থেকে পুনরায় প্রশিক্ষণ দিয়ে
   • টোকেনাইজার মুছে ফেলার মাধ্যমে
   • এটিকে একটি ইমেজ মডেলে রূপান্তর করে
7. What does an SAE’s reconstruction residual measure for an activation vector?
   • The difference between two unrelated document titles
   • The total number of words in the model vocabulary
   • Only the model’s hardware temperature
   • The difference between the original activation and its decoded reconstruction
8. When an SAE is fitted to collected activations of a frozen language model, which weights need to be trained for that fitting?
   • Every original language-model weight must be updated
   • Only the tokenizer’s character list
   • The SAE’s own encoder and decoder weights
   • No parameters of the SAE can change