যান্ত্রিক ব্যাখ্যাযোগ্যতা কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. যান্ত্রিক ব্যাখ্যাযোগ্যতার কেন্দ্রীয় লক্ষ্য কী?
   • একটি নেটওয়ার্কের অভ্যন্তরীণ গণনাগুলিকে মানব-বোধগম্য অ্যালগরিদমে বিপরীত-প্রকৌশলী করতে
   • মডেলদের দ্রুত ট্রেন করতে
   • মোবাইল ডিভাইসের জন্য মডেল কম্প্রেস করতে
   • শুধুমাত্র গুরুত্ব দ্বারা ইনপুট বৈশিষ্ট্য র্যাঙ্ক করতে
2. নিউরাল নেটওয়ার্কে 'সুপারপজিশন' কী বোঝায়?
   • একসাথে অনেক মডেল স্ট্যাকিং
   • ওভারল্যাপিং দিকনির্দেশ ব্যবহার করে মাত্রার চেয়ে বেশি বৈশিষ্ট্যের প্রতিনিধিত্ব করা
   • একাধিক GPU-তে একটি মডেল চালানো
   • বিভিন্ন রান থেকে গড় পূর্বাভাস
3. স্পার্স অটোএনকোডারগুলি যান্ত্রিক ব্যাখ্যাযোগ্যতায় প্রাথমিকভাবে ব্যবহৃত হয়...
   • প্রশিক্ষণ ডেটা তৈরি করুন
   • অনুমানের গতি বাড়ান
   • পলিসেম্যান্টিক অ্যাক্টিভেশনগুলিকে ক্লিনার, আরও ব্যাখ্যাযোগ্য বৈশিষ্ট্যগুলিতে বিচ্ছিন্ন করুন
   • এনক্রিপ্ট মডেল ওজন
4. 'ইন্ডাকশন হেডস' কি?
   • ট্রান্সফরমারের জন্য হার্ডওয়্যার এক্সিলারেটর
   • আউটপুট স্তর যা পাঠ্য তৈরি করে
   • ক্ষতি ফাংশন এক ধরনের
   • অ্যাটেনশন হেডস যা কপি করে এবং বারবার টোকেন প্যাটার্ন চালিয়ে যায়, ইন-প্রেক্ষাপট শেখার সমর্থন করে
5. গবেষকরা কীভাবে নিশ্চিত করেন যে একটি আবিষ্কৃত সার্কিট সত্যই একটি অনুমানকৃত গণনা করে?
   • সুনির্দিষ্ট অ্যাক্টিভেশন অ্যাবলেট করা বা প্যাচ করার মতো কার্যকারণ হস্তক্ষেপের মাধ্যমে
   • মডেলের প্রশিক্ষণের সঠিকতা পরীক্ষা করে
   • পরামিতি সংখ্যা গণনা দ্বারা
   • অনুমানের বিলম্ব পরিমাপ করে
6. What is a cautious safety-related reason to study mechanistic interpretability?
   • It proves every hidden behavior can already be found
   • It may provide evidence about internal computations, while current methods are not a complete audit or direct steering guarantee
   • It guarantees a model will follow any requested correction
   • It replaces evaluations of model behavior in deployment
7. If a sparse autoencoder feature activates on examples described as “Golden Gate Bridge,” what does that observation establish?
   • The entire model’s computation is now explained
   • The feature is guaranteed to be a single neuron
   • A candidate feature correlates with those examples and needs further testing to establish its role
   • The feature causes every bridge-related output
8. Why test a candidate feature across varied prompts and examples?
   • Proof that the model has no other relevant circuits
   • A guarantee that the explanation generalizes to every prompt
   • A replacement for inspecting model behavior
   • To check whether the observed activation pattern generalizes beyond selected examples