Aggregering av blandinger av agenter
Mixture-of-Agents (MoA) er en teknikk der flere språkmodeller lager utkast til svar og deretter en aggregatormodell smelter sammen sine beste ideer til en forbedret respons.
Oversikt
It lets a team of open models rival or beat a single top-tier model.
Dypdykk
Introdusert i et papir fra Together AI fra 2024, organiserer Mixture-of-Agents flere LLM-er i lag. I det første laget svarer flere «forslagsstiller»-modeller uavhengig av hverandre på spørsmålet. Utgangene deres blir deretter sammenkoblet og overlevert til neste lag, hvor modellene igjen svarer, nå betinget av alle de tidligere utkastene. Etter en eller flere slike runder, syntetiserer en endelig 'aggregator'-modell alt til ett enkelt svar. Kjerneinnsikten, som forfatterne kaller "samarbeidsevnen til LLM-er", er at modeller gir bedre svar når de vises svar fra kolleger, til og med ufullkomne. På AlpacaEval 2.0-benchmark overgikk et MoA bygget utelukkende fra åpen kildekode-modeller GPT-4 Omnis poengsum, noe som demonstrerer at nøye sammenslåing av forskjellige, billigere modeller kan slå et enkelt grensesystem.
Teknisk innsikt
MoA skiller seg fra stemmegivning med simpelt flertall: i stedet for å velge ett svar, leser aggregatoren alle kandidatsvarene som kontekst og genererer en ny syntese, blander styrker og filtreringsfeil. Mangfold blant forslagsstillere hjelper, så det er verdifullt å blande ulike modellfamilier. Strukturen er lagdelt, som et dypt nettverk der hvert lags 'nevroner' er hele LLM-anrop. Avveiningen er ventetid og kostnad: hvert lag multipliserer antall slutningsanrop, slik at MoA bruker mer beregning for å løfte kvalitet.
Strategisk innvirkning
Speed and scale
Språkarbeidsflyter kan bevege seg raskere uten å ofre konsistens.
Access and reach
Det utvider tilgangen på tvers av språk og kommunikasjonsstiler.
Tydeligere avgjørelser
Lag kan bruke mer tid på dømmekraft mens automatisering håndterer repetisjon.
Future of Mixture-of-Agents Aggregation
Forvent at aggregering i MoA-stil sprer seg etter hvert som slutninger blir billigere og orkestreringsrammer modnes. Forskningsretninger inkluderer å lære hvilke forslagsstillere å stole på per spørring (ruting), redusere latensstraffen ved å kjøre forslagsstillere parallelt og beskjære svake tidlig, og kombinere MoA med verktøybrukende agenter slik at aggregatoren ikke bare smelter sammen tekst, men handlinger og hentet bevis. Etter hvert som åpne modeller sprer seg, blir det å sette dem intelligent sammen en stadig mer praktisk vei til grensenivåkvalitet uten en eneste gigantisk modell.
Real-World Implementering
Kombinere tre forskjellige åpne chat-modeller som forslagsstillere, og deretter bruke en sterk aggregator for å produsere ett polert kundestøttesvar.
Øke poengsummene for instruksjonsfølging på benchmarks i AlpacaEval-stil ved å bruke bare åpen kildekode-modeller.
Sammenslåing av forskjellige kodeforslag fra flere modeller til en enkelt, mer robust funksjonsimplementering.
Kjører en pipeline med åpen vekt som nærmer seg grensekvalitet for en personvernsensitiv distribusjon der data ikke kan forlate bedriftens servere.
Risikoer og rekkverk
Hallusinerte fakta kan stille inn rapporter, støttestrømmer eller forskningsresultater.
Umiddelbar følsomhet kan skape inkonsistente resultater på tvers av lignende forespørsler.
Sensitive tekstdata kan bli eksponert hvis tilgangskontrollene er svake.
Veikart for implementering
Definer utdataformat, tone og kvalitetsstandarder før utrulling.
Bakgrunnssvar med pålitelige kilder når nøyaktighet er viktig.
Hold et sjekkpunkt for menneskelig vurdering for utganger med høy innsats.
Spor feilmønstre og tren opp meldinger eller arbeidsflyter regelmessig.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Neste guide
Blanding av dybder
Ofte stilte spørsmål
What is Mixture-of-Agents Aggregation?
Mixture-of-Agents (MoA) er en teknikk der flere språkmodeller lager utkast til svar og deretter en aggregatormodell smelter sammen sine beste ideer til en forbedret respons. Den lar et team med åpne modeller konkurrere med eller slå en enkelt toppmodell.
I Mixture-of-Agents, hva er rollen til aggregatormodellen?
Samleren leser alle kandidatsvar og genererer ett sammenslått svar av høyere kvalitet.
Hvilken nøkkelegenskap til LLM-er stoler MoA-papiret på?
Forfatterne observerer at modeller forbedrer svarene sine når de er betinget av andre modellers utkast, til og med ufullkomne.
Hvordan skiller MoA seg fra stemmegivning med simpelt flertall?
I motsetning til stemmegivning, velger ikke MoA bare ett eksisterende svar; det genererer en frisk respons som blander kandidatene.
Hvorfor er mangfold blant forslagsstillermodeller verdifullt i MoA?
Varierte forslagsstillere dekker mer terreng, og gir aggregatoren et rikere sett med ideer å smelte sammen og feil å filtrere.
Hva er den viktigste praktiske kostnaden for MoA-tilnærmingen?
Hvert lag legger til flere LLM-anrop, så MoA bytter ekstra data og tid for forbedret svarkvalitet.