Вікторина, пов’язана з посібником · Середній Рівень

Тест на об’єднання моделей

Дізнайтеся, як сумісні контрольні точки моделі та вектори завдань можна поєднувати, які методи об’єднання змінюються та чому кожен результат потребує оцінки.

Пов'язані напрямні шляхиЗлиття моделей
Питання 1 з 8

Що в основному поєднує модельне злиття?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Що в основному поєднує модельне злиття?
    • Ваги (параметри) кількох моделей
    • Навчальні набори даних кількох моделей
    • Вихідні прогнози кількох моделей під час висновку
    • Апаратні прискорювачі, які використовуються для навчання
  2. «Вектор завдання» найкраще описується як:
    • Перелік завдань, які може виконувати модель
    • Різниця між вагами точно налаштованої моделі та вагами базової моделі
    • Вектор вхідних токенів для завдання
    • Градієнт, обчислений під час одного кроку навчання
  3. In the described weight-space merging methods, what can be avoided?
    • Evaluation of the merged checkpoint
    • Compatibility requirements between model weights
    • Additional gradient training and access to the original training data
    • Testing the result on intended tasks
  4. How do TIES-Merging and DARE differ in addressing parameter interference?
    • Both use the same sign-voting method and differ only in scale
    • DARE uses prompt engineering while TIES retrains on joint data
    • Both average model outputs instead of changing weights
    • They use different techniques: TIES resolves sign conflicts, while DARE drops and rescales task-vector entries
  5. Ключовою передумовою для успішного об’єднання двох моделей є те, що вони:
    • Мають однакову архітектуру та зазвичай походять від загальної базової моделі
    • Навчалися на однакових даних
    • Майте рівно стільки ж тренувальних кроків
    • Використовуйте лише той самий розмір словника токенізера
  6. In task arithmetic, what do coefficients control when combining task vectors?
    • Which tokenizer each checkpoint must use
    • How strongly each parameter-change vector contributes to the merged checkpoint
    • How many training examples are generated
    • Whether an evaluation set is required
  7. What are the three main stages named by TIES-Merging?
    • Tokenize text, infer emotions, and export audio
    • Quantize weights, shard GPUs, and route network packets
    • Trim small changes, elect a sign direction, then merge aligned parameter updates
    • Train a reward model, collect labels, and run PPO
  8. Why should teams evaluate each task after a model merge?
    • Merging guarantees every benchmark improves
    • Evaluation is needed only to calculate the file size
    • A merged model cannot be run without retraining
    • Combining weight updates can create interference or reduce performance on a task