Taal AI-GIDS

Aggregatie van mengsels van agenten

Mixture-of-Agents (MoA) is een techniek waarbij verschillende taalmodellen antwoorden opstellen en vervolgens een aggregatormodel hun beste ideeën samenvoegt tot één verbeterd antwoord.

Luister naar deze gidsAI-verteld · ~2 min

Op deze pagina2 min lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van aggregatie van mengsels van agenten
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Het laat een team van open modellen concurreren of een enkel topmodel verslaan.

Diepe duik

Mixture-of-Agents, geïntroduceerd in een paper uit 2024 van Together AI, organiseert meerdere LLM's in lagen. In de eerste laag beantwoorden verschillende 'voorsteller'-modellen elk onafhankelijk de vraag. Hun outputs worden vervolgens samengevoegd en doorgegeven aan de volgende laag, waar modellen opnieuw reageren, nu afhankelijk van alle eerdere concepten. Na een of meer van dergelijke rondes synthetiseert een definitief 'aggregator'-model alles in één antwoord. Het kerninzicht, dat de auteurs de 'samenwerkingskracht van LLM's' noemen, is dat modellen betere reacties produceren als ze de antwoorden van collega's laten zien, zelfs als deze niet perfect zijn. Op de AlpacaEval 2.0-benchmark overtrof een MoA die volledig was opgebouwd uit open-sourcemodellen naar verluidt de score van GPT-4 Omni, wat aantoont dat een zorgvuldige aggregatie van diverse, goedkopere modellen een enkel grenssysteem kan verslaan.

Implementatie in de echte wereld

Door drie verschillende open chat-modellen te combineren als voorstellers en vervolgens een sterke aggregator te gebruiken om één gepolijst klantondersteuningsantwoord te produceren.

Verbetering van de scores voor het volgen van instructies op benchmarks in AlpacaEval-stijl met alleen open-sourcemodellen.

Het samenvoegen van diverse codesuggesties uit verschillende modellen tot één enkele, robuustere functie-implementatie.

Het runnen van een pijplijn met open gewichten die de grens van kwaliteit benadert voor een privacygevoelige implementatie waarbij gegevens de servers van een bedrijf niet kunnen verlaten.

De toekomst van aggregatie van mengsels van agenten

Verwacht dat aggregatie in MoA-stijl zich zal verspreiden naarmate inferentie goedkoper wordt en orkestratieframeworks volwassener worden. Onderzoeksrichtingen omvatten onder meer het leren welke indieners per zoekopdracht kunnen vertrouwen (routing), het verminderen van de latentiestraf door de indieners parallel te laten lopen en zwakke voorstellen vroegtijdig te snoeien, en het combineren van MoA met tool-gebruikende agenten, zodat de aggregator niet alleen tekst, maar ook acties en opgehaald bewijs samenvoegt. Naarmate open modellen zich steeds meer verspreiden, wordt het op intelligente wijze samenbrengen ervan een steeds praktischer pad naar kwaliteit op grensniveau zonder één enkel gigantisch model.

Het in de praktijk brengen

Waarom het ertoe doet

  • Snelheid en schaal. Taalworkflows kunnen sneller verlopen zonder dat dit ten koste gaat van de consistentie.
  • Toegang en bereik. Het breidt de toegang uit naar meerdere talen en communicatiestijlen.
  • Duidelijkere beslissingen. Teams kunnen meer tijd besteden aan beoordeling, terwijl automatisering de herhaling afhandelt.

Pas op voor

  • Gehallucineerde feiten kunnen stilletjes rapporten binnendringen, stromen ondersteunen of onderzoeksresultaten opleveren.
  • Gevoeligheid voor prompts kan inconsistente resultaten opleveren voor vergelijkbare verzoeken.
  • Gevoelige tekstgegevens kunnen openbaar worden gemaakt als de toegangscontroles zwak zijn.

Volgende stappen

  1. Definieer het uitvoerformaat, de toon en de kwaliteitsnormen vóór de implementatie.
  2. Grondreacties met vertrouwde bronnen wanneer nauwkeurigheid belangrijk is.
  3. Houd een menselijk controlepunt bij voor resultaten met een hoge inzet.
  4. Houd faalpatronen bij en train prompts of workflows regelmatig opnieuw.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the Mixture-of-Agents Aggregation quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is aggregatie van mengsels van agenten?

Mixture-of-Agents (MoA) is een techniek waarbij verschillende taalmodellen antwoorden opstellen en vervolgens een aggregatormodel hun beste ideeën samenvoegt tot één verbeterd antwoord. Het laat een team van open modellen concurreren of een enkel topmodel verslaan.

Wat is de rol van het aggregatormodel in Mixture-of-Agents?

De aggregator leest alle reacties van kandidaten en genereert één samengevoegd antwoord van hogere kwaliteit.

Op welke belangrijke eigenschap van LLM's is het MoA-papier gebaseerd?

De auteurs merken op dat modellen hun antwoorden verbeteren als ze afhankelijk zijn van de concepten van andere modellen, zelfs van imperfecte modellen.

Hoe verschilt MoA van stemming bij gewone meerderheid?

In tegenstelling tot stemmen selecteert MoA niet slechts één bestaand antwoord; het genereert een frisse reactie die de kandidaten bij elkaar brengt.

Waarom is diversiteit tussen de indienermodellen waardevol in MoA?

Gevarieerde indieners bestrijken meer terreinen, waardoor de aggregator een rijkere reeks ideeën krijgt om te combineren en fouten om te filteren.

Wat zijn de belangrijkste praktische kosten van de MoA-aanpak?

Elke laag voegt meer LLM-oproepen toe, zodat MoA extra rekenkracht en tijd inruilt voor een betere antwoordkwaliteit.