অ্যাক্টিভেশন স্টিয়ারিং এবং রিপ্রেজেন্টেশন ইঞ্জিনিয়ারিং কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. মডেলের অপারেশনের কোন সময়ে অ্যাক্টিভেশন স্টিয়ারিং হস্তক্ষেপ করে?
   • অনুমান সময়ে, লুকানো সক্রিয়করণ সংশোধন করে
   • শুধুমাত্র প্রাক-প্রশিক্ষণের সময়
   • তথ্য সংগ্রহের সময়
   • আউটপুট টেক্সট প্রিন্ট করার পরেই
2. কিভাবে একটি স্টিয়ারিং ভেক্টর সাধারণত গণনা করা হয়?
   • এলোমেলোভাবে একটি ম্যাট্রিক্স আরম্ভ করে
   • বিপরীত ইতিবাচক এবং নেতিবাচক প্রম্পটগুলিতে সক্রিয়করণের মধ্যে গড় পার্থক্য হিসাবে
   • মডেল থেকে স্তর মুছে ফেলার মাধ্যমে
   • প্রম্পটে টোকেন গণনা করে
3. অ্যাক্টিভেশন স্টিয়ারিং কেন কাজ করে তা কোন হাইপোথিসিসের অন্তর্নিহিত?
   • ধারণা যে মডেলগুলি প্লেইন টেক্সট হিসাবে ডেটা সঞ্চয় করে
   • বিশ্বাস যে সমস্ত নিউরন অভিন্ন
   • রৈখিক উপস্থাপনা অনুমান, যে অনেক বৈশিষ্ট্য মোটামুটি রৈখিক দিকনির্দেশ
   • দাবি যে মডেল ধারণা প্রতিনিধিত্ব করতে পারে না
4. স্টিয়ারিং ভেক্টরের স্কেলিং সহগ কী নিয়ন্ত্রণ করে?
   • মডেলের শব্দভান্ডারের আকার
   • মডেলে স্তরের সংখ্যা
   • প্রশিক্ষণ শেখার হার
   • আচরণটি কতটা দৃঢ়ভাবে নির্বাচিত দিকে ঠেলে দেওয়া হয়
5. খুব আক্রমণাত্মকভাবে একটি মডেল স্টিয়ারিং একটি পরিচিত ঝুঁকি কি?
   • আউটপুট সংগতি এবং ক্ষমতা অবনতি হতে পারে
   • মডেল নিজেই স্বয়ংক্রিয়ভাবে প্রশিক্ষণ
   • ফাইলের আকার অনিয়ন্ত্রিতভাবে বৃদ্ধি পায়
   • এটি স্থায়ীভাবে ওজন পুনর্লিখন করে
6. ক্ল্যাম্প করার জন্য ব্যাখ্যাযোগ্য বৈশিষ্ট্যগুলি খুঁজে পেতে প্রায়শই স্টিয়ারিংয়ের সাথে কোন কৌশলটি যুক্ত করা হয়?
   • JPEG কম্প্রেশন
   • বিক্ষিপ্ত অটোএনকোডার যা বৈশিষ্ট্যগুলিতে সক্রিয়করণগুলিকে পচিয়ে দেয়
   • ডোমেইন নাম নিবন্ধন
   • ডিস্ক ডিফ্র্যাগমেন্টেশন
7. How does activation steering differ from fine-tuning the model weights?
   • It retrains the model on a new labeled dataset
   • It changes the tokenizer vocabulary
   • It adds a vector to hidden activations during inference without updating the base weights
   • It replaces the attention layers with a classifier
8. A steering vector works on the prompts used to compute it but not on a different topic. Which limitation does this illustrate?
   • The vector must be an optimizer state
   • Steering always requires fine-tuning
   • A residual stream contains no features
   • The direction found from one prompt set may not generalize to other contexts