DalšíDalší průvodce
Sloučení evolučních modelů Sakana AI
Společnosti
Technický PRŮVODCE
Some model-merging methods combine compatible fine-tuned checkpoints using weight-space arithmetic without additional gradient training or access to original training data.
Poslechněte si tento návodAI-vyprávěný · ~2 min
Results depend on architecture, tokenizer, base checkpoint, merge recipe, and evaluation; merging does not guarantee that capabilities combine cleanly.
Model merging combines parameters from trained models, often by averaging weights or manipulating task vectors—the difference between a fine-tuned checkpoint and its base model. Methods such as task arithmetic, TIES, and DARE can produce a merged checkpoint without rerunning gradient training or using the original training set. Many methods assume matching architectures, parameter layouts, and compatible base models. TIES trims small changes, resolves sign conflicts, and merges aligned updates; DARE randomly drops and rescales task-vector entries before merging. These procedures can reduce some forms of interference, but they do not guarantee a stronger model: task performance can degrade, and merge coefficients or checkpoint compatibility require testing. Evaluate the exact merged artifact on each intended task and retain provenance and licenses for all inputs.
Sloučením kódově vyladěného modelu s modelem vyladěným pro chat, takže jeden LLM jak píše kód, tak přirozeně konverzuje, aniž by se musel přeškolovat.
Evoluční slučovací experimenty, které kombinovaly japonský jazykový model s anglickým matematickým modelem, aby vytvořily silný japonský matematický řešitel.
Odečtením vektoru úkolu „toxicity“ od vah modelu za účelem snížení škodlivých výstupů bez shromažďování nových údajů o bezpečnosti.
Sloučení několika adaptérů LoRA vyškolených na různé styly psaní do jednoho modelu, který dokáže flexibilně přepínat tón.
Očekávejte, že se sloučení stane standardní součástí modelových „dodavatelských řetězců“. Huby již hostují tisíce slučitelných kontrolních bodů a nástroje jako mergekit umožňují sdílení receptů. Výzkum se posouvá směrem k automatizovanému vyhledávání sloučení (evoluční algoritmy vybírající poměry prolnutí vrstev), slučování napříč mírně odlišnými architekturami a slučování komponent Mixture-of-Experts za běhu. Vzhledem k tomu, že se množí otevřená dolaďování, slučování nabízí téměř bezplatný způsob skládání funkcí, ačkoli licencování a původ sloučených modelů bude vyžadovat jasnější standardy.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Some model-merging methods combine compatible fine-tuned checkpoints using weight-space arithmetic without additional gradient training or access to original training data. Results depend on architecture, tokenizer, base checkpoint, merge recipe, and evaluation; merging does not guarantee that capabilities combine cleanly.
Slučování modelů funguje přímo na naučených vahách/parametrech modelů, spojuje je do jedné sady, spíše než kombinuje data nebo výstupy za běhu.
Some merging methods combine compatible fine-tuned checkpoints with weight-space arithmetic, without additional gradient training or the original training data.
TIES trims small changes and resolves sign conflicts before merging aligned updates. DARE randomly drops task-vector entries and rescales those retained; it does not use TIES’s sign-consensus step.
Task arithmetic combines model deltas relative to a base checkpoint using selected coefficients; the resulting model still needs evaluation.
The TIES paper describes Trim, Elect Sign, and Merge as steps for reducing interference among task vectors.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Sloučení evolučních modelů Sakana AI
Společnosti