Il prossimoProssima guida
Miscela di profondità
Intelligenza artificiale linguistica
GUIDA ALL'AI linguistica
La miscela di agenti (MoA) è una tecnica in cui diversi modelli linguistici elaborano risposte e quindi un modello aggregatore fonde le loro idee migliori in un'unica risposta migliorata.
Ascolta questa guidaNarrato dall'IA · ~2 min
It lets a team of open models rival or beat a single top-tier model.
Introdotto in un documento del 2024 di Together AI, Mixture-of-Agents organizza più LLM in livelli. Nel primo livello, diversi modelli "proponenti" rispondono ciascuno in modo indipendente alla richiesta. I loro risultati vengono quindi concatenati e passati al livello successivo, dove i modelli rispondono nuovamente, ora condizionati da tutte le bozze precedenti. Dopo uno o più di questi cicli, un modello "aggregatore" finale sintetizza tutto in un'unica risposta. L'intuizione fondamentale, che gli autori chiamano la "collaborazione dei LLM", è che i modelli producono risposte migliori quando vengono mostrate le risposte dei colleghi, anche quelle imperfette. Sul benchmark AlpacaEval 2.0, un MoA costruito interamente con modelli open source avrebbe superato il punteggio di GPT-4 Omni, dimostrando che un'attenta aggregazione di modelli diversi ed economici può battere un singolo sistema di frontiera.
Combinando tre diversi modelli di chat aperta come proponenti, quindi utilizzando un forte aggregatore per produrre una risposta lucida all'assistenza clienti.
Aumento dei punteggi relativi al rispetto delle istruzioni sui benchmark in stile AlpacaEval utilizzando solo modelli open source.
Fusione di diversi suggerimenti di codice provenienti da diversi modelli in un'unica implementazione di funzioni più robusta.
Esecuzione di una pipeline a peso aperto che si avvicina alla qualità di frontiera per un'implementazione sensibile alla privacy in cui i dati non possono lasciare i server di un'azienda.
Aspettatevi che l’aggregazione in stile MoA si diffonda man mano che l’inferenza diventa più economica e i framework di orchestrazione maturano. Le direzioni della ricerca includono l'apprendimento di quali proponenti fidarsi per query (routing), la riduzione della penalità di latenza eseguendo i proponenti in parallelo e l'eliminazione anticipata di quelli deboli e la combinazione del MoA con agenti che utilizzano strumenti in modo che l'aggregatore fondi non solo testo ma azioni e prove recuperate. Man mano che i modelli aperti proliferano, assemblarli in modo intelligente diventa un percorso sempre più pratico verso una qualità di frontiera senza un unico modello gigante.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
La miscela di agenti (MoA) è una tecnica in cui diversi modelli linguistici elaborano risposte e quindi un modello aggregatore fonde le loro idee migliori in un'unica risposta migliorata. Consente a un team di modelli aperti di rivaleggiare o battere un singolo modello di alto livello.
L'aggregatore legge tutte le risposte dei candidati e genera una risposta unica e di qualità superiore.
Gli autori osservano che i modelli migliorano le loro risposte se condizionati dalle bozze di altri modelli, anche imperfette.
A differenza del voto, il MdA non si limita a selezionare una risposta esistente; genera una nuova risposta che unisce i candidati.
Propositori diversi coprono un terreno più vasto, offrendo all'aggregatore un insieme più ricco di idee da fondere e di errori da filtrare.
Ogni livello aggiunge più chiamate LLM, quindi MoA scambia ulteriore calcolo e tempo con una migliore qualità delle risposte.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Miscela di profondità
Intelligenza artificiale linguistica