GHID AI limbaj
Agregarea amestecului de agenți
Mixture-of-Agents (MoA) este o tehnică în care mai multe modele lingvistice redactează răspunsuri și apoi un model de agregare îmbină cele mai bune idei într-un singur răspuns îmbunătățit.
Ascultă acest ghidNarativ AI · ~2 min
Pe această pagină2 minute de lectură
Prezentare generală
It lets a team of open models rival or beat a single top-tier model.
Scufundare în profunzime
Introdus într-o lucrare din 2024 de la Together AI, Mixture-of-Agents organizează mai multe LLM-uri în straturi. În primul strat, mai multe modele „propozitoare”, fiecare răspund independent la solicitare. Ieșirile lor sunt apoi concatenate și transmise la stratul următor, unde modelele răspund din nou, acum condiționate de toate schițele anterioare. După una sau mai multe astfel de runde, un model final de „agregator” sintetizează totul într-un singur răspuns. Perspectiva de bază, pe care autorii o numesc „colaborativitatea LLM”, este că modelele produc răspunsuri mai bune atunci când sunt prezentate răspunsurile colegilor, chiar și cele imperfecte. Pe criteriul de referință AlpacaEval 2.0, un MoA construit în întregime din modele open-source a depășit scorul GPT-4 Omni, demonstrând că agregarea atentă a modelelor diverse și mai ieftine poate depăși un singur sistem de frontieră.
Implementare în lumea reală
Combinând trei modele de chat deschise diferite ca propuneri, apoi folosind un agregator puternic pentru a produce un răspuns de asistență pentru clienți.
Creșterea scorurilor de urmărire a instrucțiunilor pe benchmark-uri în stil AlpacaEval folosind numai modele open-source.
Fuzionarea diverselor sugestii de cod de la mai multe modele într-o singură implementare a funcției, mai robustă.
Rularea unui pipeline open-weights care se apropie de calitatea de frontieră pentru o implementare sensibilă la confidențialitate în care datele nu pot părăsi serverele unei companii.
Viitorul agregarii amestec-de-agenți
Așteptați-vă ca agregarea în stil MoA să se răspândească pe măsură ce inferența devine mai ieftină și cadrele de orchestrare se maturizează. Direcțiile de cercetare includ învățarea în care propuneri să aibă încredere per interogare (rutare), reducerea penalizării latenței prin rularea propunerilor în paralel și eliminarea devreme a celor slabi și combinarea MoA cu agenți care folosesc instrumente, astfel încât agregatorul să fuzioneze nu doar textul, ci și acțiunile și dovezile recuperate. Pe măsură ce modelele deschise proliferează, asamblarea lor inteligentă devine o cale din ce în ce mai practică către o calitate la nivel de frontieră fără un singur model gigant.
Punând-o în practică
De ce contează
- Viteză și scară. Fluxurile de lucru lingvistice se pot deplasa mai rapid fără a sacrifica consistența.
- Acces și acoperire. Extinde accesul în diferite limbi și stiluri de comunicare.
- Decizii mai clare. Echipele pot petrece mai mult timp jucând în timp ce automatizarea se ocupă de repetiție.
Atenție la
- Faptele halucinate pot intra în liniște în rapoarte, fluxuri de sprijin sau rezultate ale cercetării.
- Sensibilitatea promptă poate crea rezultate inconsecvente pentru solicitări similare.
- Datele text sensibile pot fi expuse dacă controalele de acces sunt slabe.
Următorii pași
- Definiți formatul de ieșire, tonul și standardele de calitate înainte de lansare.
- Răspunsurile la sol cu surse de încredere ori de câte ori acuratețea contează.
- Păstrați un punct de control uman pentru rezultate cu mize mari.
- Urmăriți tiparele de eșec și reantrenați în mod regulat solicitările sau fluxurile de lucru.
Continuați să explorați
Buletin gratuit
Primește briefingul zilnic AI
Trei povești AI verificate în fiecare dimineață de zi lucrătoare, scrise în engleză simplă. Gratuit pentru totdeauna, fără reclame.
Un e-mail în fiecare zi lucrătoare. Dezabonare cu un singur clic. Nu vindem niciodată și nu împărtășim adresa ta.
Testează-te
Take the Mixture-of-Agents Aggregation quiz
Feedback instantaneu la fiecare răspuns și un certificat partajabil cu un ID verificabil după ce parcurgi un curs.
Susține educația AI gratuită. AI Understanding este o organizație nonprofit 501(c)(3) — fără reclame, fără barieră de plată, pentru totdeauna. Fă o donație
Întrebări frecvente
What is Mixture-of-Agents Aggregation?
Mixture-of-Agents (MoA) este o tehnică în care mai multe modele lingvistice redactează răspunsuri și apoi un model de agregare îmbină cele mai bune idei într-un singur răspuns îmbunătățit. Permite unei echipe de modele deschise să rivalizeze sau să învingă un singur model de top.
În Mixture-of-Agents, care este rolul modelului de agregare?
Agregatorul citește toate răspunsurile candidaților și generează un răspuns fuzionat, de calitate superioară.
Pe ce proprietăți cheie ale LLM se bazează lucrarea MdA?
Autorii observă că modelele își îmbunătățesc răspunsurile atunci când sunt condiționate de schițele altor modele, chiar și de cele imperfecte.
Cum diferă MdA de votul cu majoritate simplă?
Spre deosebire de vot, MA nu selectează doar un răspuns existent; generează un răspuns proaspăt care îmbină candidații.
De ce este valoroasă diversitatea dintre modelele propunerilor în MdA?
Propuneri diferiți acoperă mai mult teren, oferind agregatorului un set mai bogat de idei de fuzionat și erori de filtrat.
Care este principalul cost practic al abordării MoA?
Fiecare strat adaugă mai multe apeluri LLM, astfel încât MoA schimbă timp și calcul suplimentar pentru o calitate îmbunătățită a răspunsului.
Continuați să învățați
Ghiduri conexe
Mai multe ghiduri alese pentru acest subiect