Agregarea amestecului de agenți
Mixture-of-Agents (MoA) este o tehnică în care mai multe modele lingvistice redactează răspunsuri și apoi un model de agregare îmbină cele mai bune idei într-un singur răspuns îmbunătățit.
Prezentare generală
It lets a team of open models rival or beat a single top-tier model.
Scufundare în profunzime
Introdus într-o lucrare din 2024 de la Together AI, Mixture-of-Agents organizează mai multe LLM-uri în straturi. În primul strat, mai multe modele „propozitoare”, fiecare răspund independent la solicitare. Ieșirile lor sunt apoi concatenate și transmise la stratul următor, unde modelele răspund din nou, acum condiționate de toate schițele anterioare. După una sau mai multe astfel de runde, un model final de „agregator” sintetizează totul într-un singur răspuns. Perspectiva de bază, pe care autorii o numesc „colaborativitatea LLM”, este că modelele produc răspunsuri mai bune atunci când sunt prezentate răspunsurile colegilor, chiar și cele imperfecte. Pe criteriul de referință AlpacaEval 2.0, un MoA construit în întregime din modele open-source a depășit scorul GPT-4 Omni, demonstrând că agregarea atentă a modelelor diverse și mai ieftine poate depăși un singur sistem de frontieră.
Perspectivă tehnică
MoA diferă de votul cu majoritate simplă: în loc să aleagă un singur răspuns, agregatorul citește toate răspunsurile candidaților ca context și generează o nouă sinteză, combinând punctele forte și erorile de filtrare. Diversitatea dintre propuneri ajută, astfel încât amestecarea diferitelor familii de modele este valoroasă. Structura este stratificată, ca o rețea profundă în care „neuronii” fiecărui strat sunt apeluri întregi LLM. Compensația este latența și costul: fiecare strat înmulțește numărul de apeluri de inferență, astfel încât MoA cheltuiește mai mult calcul pentru a crește calitatea.
Impact strategic
Viteză și scară
Fluxurile de lucru lingvistice se pot deplasa mai rapid fără a sacrifica consistența.
Acces și acoperire
Extinde accesul în diferite limbi și stiluri de comunicare.
Decizii mai clare
Echipele pot petrece mai mult timp jucând în timp ce automatizarea se ocupă de repetiție.
Viitorul agregarii amestec-de-agenți
Așteptați-vă ca agregarea în stil MoA să se răspândească pe măsură ce inferența devine mai ieftină și cadrele de orchestrare se maturizează. Direcțiile de cercetare includ învățarea în care propuneri să aibă încredere per interogare (rutare), reducerea penalizării latenței prin rularea propunerilor în paralel și eliminarea devreme a celor slabi și combinarea MoA cu agenți care folosesc instrumente, astfel încât agregatorul să fuzioneze nu doar textul, ci și acțiunile și dovezile recuperate. Pe măsură ce modelele deschise proliferează, asamblarea lor inteligentă devine o cale din ce în ce mai practică către o calitate la nivel de frontieră fără un singur model gigant.
Implementare în lumea reală
Combinând trei modele de chat deschise diferite ca propuneri, apoi folosind un agregator puternic pentru a produce un răspuns de asistență pentru clienți.
Creșterea scorurilor de urmărire a instrucțiunilor pe benchmark-uri în stil AlpacaEval folosind numai modele open-source.
Fuzionarea diverselor sugestii de cod de la mai multe modele într-o singură implementare a funcției, mai robustă.
Rularea unui pipeline open-weights care se apropie de calitatea de frontieră pentru o implementare sensibilă la confidențialitate în care datele nu pot părăsi serverele unei companii.
Riscuri și balustrade
Faptele halucinate pot intra în liniște în rapoarte, fluxuri de sprijin sau rezultate ale cercetării.
Sensibilitatea promptă poate crea rezultate inconsecvente pentru solicitări similare.
Datele text sensibile pot fi expuse dacă controalele de acces sunt slabe.
Foaia de parcurs de implementare
Definiți formatul de ieșire, tonul și standardele de calitate înainte de lansare.
Răspunsurile la sol cu surse de încredere ori de câte ori acuratețea contează.
Păstrați un punct de control uman pentru rezultate cu mize mari.
Urmăriți tiparele de eșec și reantrenați în mod regulat solicitările sau fluxurile de lucru.
Continuați să explorați
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Următorul ghid
Amestec de Adâncimi
Întrebări frecvente
What is Mixture-of-Agents Aggregation?
Mixture-of-Agents (MoA) este o tehnică în care mai multe modele lingvistice redactează răspunsuri și apoi un model de agregare îmbină cele mai bune idei într-un singur răspuns îmbunătățit. Permite unei echipe de modele deschise să rivalizeze sau să învingă un singur model de top.
În Mixture-of-Agents, care este rolul modelului de agregare?
Agregatorul citește toate răspunsurile candidaților și generează un răspuns fuzionat, de calitate superioară.
Pe ce proprietăți cheie ale LLM se bazează lucrarea MdA?
Autorii observă că modelele își îmbunătățesc răspunsurile atunci când sunt condiționate de schițele altor modele, chiar și de cele imperfecte.
Cum diferă MdA de votul cu majoritate simplă?
Spre deosebire de vot, MA nu selectează doar un răspuns existent; generează un răspuns proaspăt care îmbină candidații.
De ce este valoroasă diversitatea dintre modelele propunerilor în MdA?
Propuneri diferiți acoperă mai mult teren, oferind agregatorului un set mai bogat de idei de fuzionat și erori de filtrat.
Care este principalul cost practic al abordării MoA?
Fiecare strat adaugă mai multe apeluri LLM, astfel încât MoA schimbă timp și calcul suplimentar pentru o calitate îmbunătățită a răspunsului.