Тест, свързан с ръководство · Среден Ниво

Тест за сливане на модели

Разгледайте как могат да се комбинират съвместими контролни точки на модели и вектори на задачи, какви методи за сливане се променят и защо всеки резултат се нуждае от оценка.

Свързани ръководни пътекиОбединяване на модели
Въпрос 1 на 8

Какво основно съчетава сливането на модели?

Визуализирайте всеки въпрос8 въпроси

Отговорите и обясненията се появяват, докато отговаряте на теста.

  1. Какво основно съчетава сливането на модели?
    • Теглата (параметрите) на множество модели
    • Наборите от данни за обучение на множество модели
    • Изходните прогнози на множество модели по време на извод
    • Хардуерните ускорители, използвани за обучение
  2. „Векторът на задачите“ се описва най-добре като:
    • Списъкът със задачи, които моделът може да изпълнява
    • Разликата между теглата на фино настроен модел и теглата на основния му модел
    • Вектор от входни токени за задача
    • Градиентът, изчислен по време на една стъпка на обучение
  3. In the described weight-space merging methods, what can be avoided?
    • Evaluation of the merged checkpoint
    • Compatibility requirements between model weights
    • Additional gradient training and access to the original training data
    • Testing the result on intended tasks
  4. How do TIES-Merging and DARE differ in addressing parameter interference?
    • Both use the same sign-voting method and differ only in scale
    • DARE uses prompt engineering while TIES retrains on joint data
    • Both average model outputs instead of changing weights
    • They use different techniques: TIES resolves sign conflicts, while DARE drops and rescales task-vector entries
  5. Ключова предпоставка за успешното сливане на два модела е те:
    • Споделят една и съща архитектура и обикновено произхождат от общ базов модел
    • Бяха обучени на идентични данни
    • Имайте точно същия брой тренировъчни стъпки
    • Използвайте само същия размер на речника на токенизатора
  6. In task arithmetic, what do coefficients control when combining task vectors?
    • Which tokenizer each checkpoint must use
    • How strongly each parameter-change vector contributes to the merged checkpoint
    • How many training examples are generated
    • Whether an evaluation set is required
  7. What are the three main stages named by TIES-Merging?
    • Tokenize text, infer emotions, and export audio
    • Quantize weights, shard GPUs, and route network packets
    • Trim small changes, elect a sign direction, then merge aligned parameter updates
    • Train a reward model, collect labels, and run PPO
  8. Why should teams evaluate each task after a model merge?
    • Merging guarantees every benchmark improves
    • Evaluation is needed only to calculate the file size
    • A merged model cannot be run without retraining
    • Combining weight updates can create interference or reduce performance on a task