VolgendeVolgende gids
Samenvoeging van evolutionair modellen van Sakana AI
Bedrijven
Technische GIDS
Sommige model-samenvoegingsmethoden combineren compatibele fijn-afgestelde checkpoints met behulp van gewichtsruimte-aritmetiek zonder extra gradiënttraining of toegang tot de oorspronkelijke trainingsgegevens.
Luister naar deze gidsAI-verteld · ~2 min
Resultaten zijn afhankelijk van architectuur, tokenizer, basis-checkpoint, samenvoegingsrecept en evaluatie; samenvoegen garandeert niet dat de mogelijkheden netjes combineren.
Model-samenvoeging combineert parameters van getrainde modellen, vaak door gewichten te middelen of taakvectoren te manipuleren—het verschil tussen een fijn-afgestelde checkpoint en zijn basismodel. Methoden zoals taak-aritmetiek, TIES en DARE kunnen een samengevoegd checkpoint produceren zonder gradiënttraining opnieuw uit te voeren of het oorspronkelijke trainingsset te gebruiken. Veel methoden gaan ervan uit dat de architecturen, parameterindelingen en basismodellen overeenkomen. TIES knipt kleine veranderingen, lost tekensconflicten op en voegt uitgelijnde updates samen; DARE laat willekeurig taakvectorinvoer vallen en schaalt deze opnieuw voordat het samenvoegt. Deze procedures kunnen sommige vormen van interferentie verminderen, maar garanderen geen sterker model: taakprestaties kunnen verslechteren, en samenvoegingscoëfficiënten of checkpointcompatibiliteit vereisen testen. Evalueer het exacte samengevoegde artefact op elke bedoelde taak en behoud de herkomst en licenties voor alle invoer.
Een op codering afgestemd model combineren met een op chat afgestemd model, zodat één LLM zowel code schrijft als op natuurlijke wijze converseert, zonder ook maar één keer opnieuw te hoeven trainen.
Evolutionaire samenvoegingsexperimenten waarbij een Japans taalmodel werd gecombineerd met een Engels wiskundig model om een sterke Japanse wiskundeoplosser te produceren.
Het aftrekken van een 'toxiciteits'-taakvector van de gewichten van een model om de schadelijke output te verminderen zonder nieuwe veiligheidsgegevens te verzamelen.
Het samenvoegen van verschillende LoRA-adapters die zijn getraind in verschillende schrijfstijlen in één model dat flexibel van toon kan wisselen.
Verwacht dat samenvoegen een standaardonderdeel wordt van het model 'supply chain'. Hubs bieden al duizenden samenvoegbare controlepunten, en tools als mergekit maken recepten deelbaar. Onderzoek beweegt zich in de richting van geautomatiseerd zoeken naar samenvoegingen (evolutionaire algoritmen die laaggewijze overvloeiverhoudingen kiezen), samenvoegen over enigszins verschillende architecturen en on-the-fly Mixture-of-Experts-componenten samenvoegen. Naarmate de open finetuning toeneemt, biedt het samenvoegen een vrijwel vrije manier om capaciteiten samen te stellen, hoewel voor de licentieverlening en de herkomst van samengevoegde modellen duidelijkere normen nodig zullen zijn.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Sommige model-samenvoegingsmethoden combineren compatibele fijn-afgestelde checkpoints met behulp van gewichtsruimte-aritmetiek zonder extra gradiënttraining of toegang tot de oorspronkelijke trainingsgegevens. Resultaten zijn afhankelijk van architectuur, tokenizer, basis-checkpoint, samenvoegingsrecept en evaluatie; samenvoegen garandeert niet dat de mogelijkheden netjes combineren.
Het samenvoegen van modellen werkt rechtstreeks op de geleerde gewichten/parameters van modellen, waardoor ze in één set worden samengevoegd, in plaats van gegevens of runtime-uitvoer te combineren.
Sommige samenvoegingsmethoden combineren compatibele fijn-afgestelde checkpoints met gewichtsruimte-aritmetiek, zonder extra gradiënttraining of de oorspronkelijke trainingsgegevens.
TIES knipt kleine veranderingen en lost tekensconflicten op voordat het uitgelijnde updates samenvoegt. DARE laat willekeurig taakvectorinvoer vallen en schaalt de overgebleven; het gebruikt niet de tekens-consensusstap van TIES.
Taak-aritmetiek combineert modeldeltas ten opzichte van een basis-checkpoint met geselecteerde coëfficiënten; het resulterende model moet nog geëvalueerd worden.
Het TIES-onderzoek beschrijft Trim, Elect Sign en Merge als stappen om interferentie tussen taakvectoren te verminderen.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Samenvoeging van evolutionair modellen van Sakana AI
Bedrijven