Κουίζ συγχώνευσης μοντέλων

Οι απαντήσεις και οι εξηγήσεις εμφανίζονται καθώς κάνετε το κουίζ.

1. Τι συνδυάζει πρωτίστως η συγχώνευση μοντέλων;
   • Τα βάρη (παράμετροι) πολλαπλών μοντέλων
   • Τα σύνολα δεδομένων εκπαίδευσης πολλαπλών μοντέλων
   • Οι προβλέψεις εξόδου πολλαπλών μοντέλων σε χρόνο συμπερασμάτων
   • Οι επιταχυντές υλικού που χρησιμοποιούνται για την εκπαίδευση
2. Ένα «διάνυσμα εργασιών» περιγράφεται καλύτερα ως:
   • Η λίστα των εργασιών που μπορεί να εκτελέσει ένα μοντέλο
   • Η διαφορά μεταξύ των βαρών ενός καλοκουρδισμένου μοντέλου και των βαρών του βασικού μοντέλου
   • Ένα διάνυσμα διακριτικών εισόδου για μια εργασία
   • Η κλίση που υπολογίζεται κατά τη διάρκεια ενός μόνο βήματος εκπαίδευσης
3. In the described weight-space merging methods, what can be avoided?
   • Evaluation of the merged checkpoint
   • Compatibility requirements between model weights
   • Additional gradient training and access to the original training data
   • Testing the result on intended tasks
4. How do TIES-Merging and DARE differ in addressing parameter interference?
   • Both use the same sign-voting method and differ only in scale
   • DARE uses prompt engineering while TIES retrains on joint data
   • Both average model outputs instead of changing weights
   • They use different techniques: TIES resolves sign conflicts, while DARE drops and rescales task-vector entries
5. Βασική προϋπόθεση για την επιτυχή συγχώνευση δύο μοντέλων είναι να:
   • Μοιραστείτε την ίδια αρχιτεκτονική και συνήθως κατεβείτε από ένα κοινό βασικό μοντέλο
   • Εκπαιδεύτηκαν σε πανομοιότυπα δεδομένα
   • Έχετε ακριβώς τον ίδιο αριθμό βημάτων εκπαίδευσης
   • Χρησιμοποιήστε μόνο το ίδιο μέγεθος λεξιλογίου tokenizer
6. In task arithmetic, what do coefficients control when combining task vectors?
   • Which tokenizer each checkpoint must use
   • How strongly each parameter-change vector contributes to the merged checkpoint
   • How many training examples are generated
   • Whether an evaluation set is required
7. What are the three main stages named by TIES-Merging?
   • Tokenize text, infer emotions, and export audio
   • Quantize weights, shard GPUs, and route network packets
   • Trim small changes, elect a sign direction, then merge aligned parameter updates
   • Train a reward model, collect labels, and run PPO
8. Why should teams evaluate each task after a model merge?
   • Merging guarantees every benchmark improves
   • Evaluation is needed only to calculate the file size
   • A merged model cannot be run without retraining
   • Combining weight updates can create interference or reduce performance on a task