মডেল মার্জিং কুইজ

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

1. মডেল মার্জিং প্রাথমিকভাবে কি একত্রিত হয়?
   • একাধিক মডেলের ওজন (প্যারামিটার)
   • একাধিক মডেলের প্রশিক্ষণ ডেটাসেট
   • অনুমান সময়ে একাধিক মডেলের আউটপুট পূর্বাভাস
   • প্রশিক্ষণের জন্য ব্যবহৃত হার্ডওয়্যার এক্সিলারেটর
2. একটি 'টাস্ক ভেক্টর' সর্বোত্তমভাবে বর্ণনা করা হয়েছে:
   • একটি মডেল সম্পাদন করতে পারে এমন কাজের তালিকা
   • একটি সূক্ষ্ম সুর করা মডেলের ওজন এবং এর বেস মডেলের ওজনের মধ্যে পার্থক্য
   • একটি কাজের জন্য ইনপুট টোকেনের একটি ভেক্টর
   • একটি একক প্রশিক্ষণ ধাপের সময় গ্রেডিয়েন্ট গণনা করা হয়
3. In the described weight-space merging methods, what can be avoided?
   • Evaluation of the merged checkpoint
   • Compatibility requirements between model weights
   • Additional gradient training and access to the original training data
   • Testing the result on intended tasks
4. How do TIES-Merging and DARE differ in addressing parameter interference?
   • Both use the same sign-voting method and differ only in scale
   • DARE uses prompt engineering while TIES retrains on joint data
   • Both average model outputs instead of changing weights
   • They use different techniques: TIES resolves sign conflicts, while DARE drops and rescales task-vector entries
5. দুটি মডেল সফলভাবে একত্রিত হওয়ার জন্য একটি মূল শর্ত হল যে তারা:
   • একই আর্কিটেকচার শেয়ার করুন এবং সাধারণত একটি সাধারণ বেস মডেল থেকে নেমে আসে
   • অভিন্ন তথ্য প্রশিক্ষিত ছিল
   • ঠিক একই সংখ্যক প্রশিক্ষণের ধাপ রয়েছে
   • শুধুমাত্র একই টোকেনাইজার শব্দভান্ডার ব্যবহার করুন
6. In task arithmetic, what do coefficients control when combining task vectors?
   • Which tokenizer each checkpoint must use
   • How strongly each parameter-change vector contributes to the merged checkpoint
   • How many training examples are generated
   • Whether an evaluation set is required
7. What are the three main stages named by TIES-Merging?
   • Tokenize text, infer emotions, and export audio
   • Quantize weights, shard GPUs, and route network packets
   • Trim small changes, elect a sign direction, then merge aligned parameter updates
   • Train a reward model, collect labels, and run PPO
8. Why should teams evaluate each task after a model merge?
   • Merging guarantees every benchmark improves
   • Evaluation is needed only to calculate the file size
   • A merged model cannot be run without retraining
   • Combining weight updates can create interference or reduce performance on a task