Rehber bağlantılı sınav · Orta Seviye

Model Birleştirme Sınavı

Uyumlu model kontrol noktalarının ve görev vektörlerinin nasıl birleştirilebileceğini, hangi birleştirme yöntemlerinin değiştiğini ve her sonucun neden değerlendirilmesi gerektiğini keşfedin.

İlgili kılavuz yollarıModel Birleştirme
Soru 1 arasında 8

Model birleştirme öncelikle neyi birleştirir?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. Model birleştirme öncelikle neyi birleştirir?
    • Birden fazla modelin ağırlıkları (parametreleri)
    • Birden fazla modelin eğitim veri kümeleri
    • Çıkarım anında birden fazla modelin çıktı tahminleri
    • Eğitim için kullanılan donanım hızlandırıcılar
  2. Bir 'görev vektörü' en iyi şekilde şu şekilde tanımlanır:
    • Bir modelin gerçekleştirebileceği görevlerin listesi
    • İnce ayarlanmış bir modelin ağırlıkları ile temel modelin ağırlıkları arasındaki fark
    • Bir görev için giriş belirteçlerinin vektörü
    • Tek bir eğitim adımı sırasında hesaplanan gradyan
  3. In the described weight-space merging methods, what can be avoided?
    • Evaluation of the merged checkpoint
    • Compatibility requirements between model weights
    • Additional gradient training and access to the original training data
    • Testing the result on intended tasks
  4. How do TIES-Merging and DARE differ in addressing parameter interference?
    • Both use the same sign-voting method and differ only in scale
    • DARE uses prompt engineering while TIES retrains on joint data
    • Both average model outputs instead of changing weights
    • They use different techniques: TIES resolves sign conflicts, while DARE drops and rescales task-vector entries
  5. İki modelin başarılı bir şekilde birleştirilmesinin temel ön koşulu şudur:
    • Aynı mimariyi paylaşır ve genellikle ortak bir temel modelden gelir
    • Aynı veriler üzerinde eğitildiler
    • Tam olarak aynı sayıda eğitim adımına sahip olun
    • Yalnızca aynı belirteç kelime boyutunu kullanın
  6. In task arithmetic, what do coefficients control when combining task vectors?
    • Which tokenizer each checkpoint must use
    • How strongly each parameter-change vector contributes to the merged checkpoint
    • How many training examples are generated
    • Whether an evaluation set is required
  7. What are the three main stages named by TIES-Merging?
    • Tokenize text, infer emotions, and export audio
    • Quantize weights, shard GPUs, and route network packets
    • Trim small changes, elect a sign direction, then merge aligned parameter updates
    • Train a reward model, collect labels, and run PPO
  8. Why should teams evaluate each task after a model merge?
    • Merging guarantees every benchmark improves
    • Evaluation is needed only to calculate the file size
    • A merged model cannot be run without retraining
    • Combining weight updates can create interference or reduce performance on a task