Aggregazione di miscele di agenti
La miscela di agenti (MoA) è una tecnica in cui diversi modelli linguistici elaborano risposte e quindi un modello aggregatore fonde le loro idee migliori in un'unica risposta migliorata.
Panoramica
It lets a team of open models rival or beat a single top-tier model.
Immersione profonda
Introdotto in un documento del 2024 di Together AI, Mixture-of-Agents organizza più LLM in livelli. Nel primo livello, diversi modelli "proponenti" rispondono ciascuno in modo indipendente alla richiesta. I loro risultati vengono quindi concatenati e passati al livello successivo, dove i modelli rispondono nuovamente, ora condizionati da tutte le bozze precedenti. Dopo uno o più di questi cicli, un modello "aggregatore" finale sintetizza tutto in un'unica risposta. L'intuizione fondamentale, che gli autori chiamano la "collaborazione dei LLM", è che i modelli producono risposte migliori quando vengono mostrate le risposte dei colleghi, anche quelle imperfette. Sul benchmark AlpacaEval 2.0, un MoA costruito interamente con modelli open source avrebbe superato il punteggio di GPT-4 Omni, dimostrando che un'attenta aggregazione di modelli diversi ed economici può battere un singolo sistema di frontiera.
Approfondimento tecnico
Il MoA differisce dal voto a maggioranza semplice: invece di scegliere una risposta, l'aggregatore legge tutte le risposte dei candidati come contesto e genera una nuova sintesi, mescolando i punti di forza e filtrando gli errori. La diversità tra i proponenti aiuta, quindi mescolare diverse famiglie di modelli è utile. La struttura è a strati, come una rete profonda in cui i "neuroni" di ogni strato sono intere chiamate LLM. Il compromesso è la latenza e i costi: ogni livello moltiplica il numero di chiamate di inferenza, quindi MoA spende più risorse di calcolo per migliorare la qualità.
Impatto strategico
Velocità e scala
I flussi di lavoro linguistici possono muoversi più velocemente senza sacrificare la coerenza.
Accedere e raggiungere
Espande l'accesso attraverso lingue e stili di comunicazione.
Decisioni più chiare
I team possono dedicare più tempo al giudizio mentre l'automazione gestisce la ripetizione.
Il futuro dell'aggregazione di miscele di agenti
Aspettatevi che l’aggregazione in stile MoA si diffonda man mano che l’inferenza diventa più economica e i framework di orchestrazione maturano. Le direzioni della ricerca includono l'apprendimento di quali proponenti fidarsi per query (routing), la riduzione della penalità di latenza eseguendo i proponenti in parallelo e l'eliminazione anticipata di quelli deboli e la combinazione del MoA con agenti che utilizzano strumenti in modo che l'aggregatore fondi non solo testo ma azioni e prove recuperate. Man mano che i modelli aperti proliferano, assemblarli in modo intelligente diventa un percorso sempre più pratico verso una qualità di frontiera senza un unico modello gigante.
Implementazione nel mondo reale
Combinando tre diversi modelli di chat aperta come proponenti, quindi utilizzando un forte aggregatore per produrre una risposta lucida all'assistenza clienti.
Aumento dei punteggi relativi al rispetto delle istruzioni sui benchmark in stile AlpacaEval utilizzando solo modelli open source.
Fusione di diversi suggerimenti di codice provenienti da diversi modelli in un'unica implementazione di funzioni più robusta.
Esecuzione di una pipeline a peso aperto che si avvicina alla qualità di frontiera per un'implementazione sensibile alla privacy in cui i dati non possono lasciare i server di un'azienda.
Rischi e guardrail
Fatti allucinati possono tranquillamente entrare nei rapporti, nei flussi di supporto o nei risultati della ricerca.
La sensibilità tempestiva può creare risultati incoerenti tra richieste simili.
I dati di testo sensibili potrebbero essere esposti se i controlli di accesso sono deboli.
Tabella di marcia per l'implementazione
Definisci il formato di output, il tono e gli standard di qualità prima dell'implementazione.
Risposte concrete con fonti attendibili ogni volta che la precisione è importante.
Mantenere un checkpoint di revisione umana per i risultati ad alto rischio.
Tieni traccia dei modelli di errore e riqualifica regolarmente le richieste o i flussi di lavoro.
Continua a esplorare
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Prossima guida
Miscela di profondità
Domande frequenti
What is Mixture-of-Agents Aggregation?
La miscela di agenti (MoA) è una tecnica in cui diversi modelli linguistici elaborano risposte e quindi un modello aggregatore fonde le loro idee migliori in un'unica risposta migliorata. Consente a un team di modelli aperti di rivaleggiare o battere un singolo modello di alto livello.
In Mixture-of-Agents, qual è il ruolo del modello aggregatore?
L'aggregatore legge tutte le risposte dei candidati e genera una risposta unica e di qualità superiore.
Su quale proprietà chiave dei LLM si basa il documento del MoA?
Gli autori osservano che i modelli migliorano le loro risposte se condizionati dalle bozze di altri modelli, anche imperfette.
In cosa differisce il MoA dal voto a maggioranza semplice?
A differenza del voto, il MdA non si limita a selezionare una risposta esistente; genera una nuova risposta che unisce i candidati.
Perché la diversità tra i modelli proponenti è preziosa nel MdA?
Propositori diversi coprono un terreno più vasto, offrendo all'aggregatore un insieme più ricco di idee da fondere e di errori da filtrare.
Qual è il principale costo pratico dell’approccio del MdA?
Ogni livello aggiunge più chiamate LLM, quindi MoA scambia ulteriore calcolo e tempo con una migliore qualità delle risposte.