Szerkeverék aggregáció
A Mixture of-Agents (MoA) egy olyan technika, amelyben több nyelvi modell válaszokat vázol, majd egy aggregátor modell a legjobb ötleteiket egyetlen továbbfejlesztett válaszba olvasztja.
Áttekintés
It lets a team of open models rival or beat a single top-tier model.
Mély merülés
A Together AI 2024-es közleményében bemutatott Mixture of-Agents több LLM-et rétegekbe rendez. Az első rétegben több „javasló” modell egymástól függetlenül válaszol a promptra. Kimeneteiket ezután összefűzik, és átadják a következő rétegnek, ahol a modellek ismét válaszolnak, immár az összes korábbi piszkozatra támaszkodva. Egy vagy több ilyen kör után a végső „aggregátor” modell mindent egyetlen válaszba szintetizál. A szerzők „az LLM-ek együttműködési képességének” nevezett alapvető meglátás az, hogy a modellek jobb válaszokat adnak, ha a társak válaszait mutatják, még ha azok is tökéletlenek. Az AlpacaEval 2.0 benchmarkon a teljes egészében nyílt forráskódú modellekből épített MoA állítólag felülmúlta a GPT-4 Omni pontszámát, bizonyítva, hogy a különböző, olcsóbb modellek gondos összesítése egyetlen határrendszert is legyőzhet.
Technikai betekintés
A MoA különbözik az egyszerű többségi szavazástól: ahelyett, hogy egy választ választana, az aggregátor az összes jelölt választ kontextusként olvassa be, és új szintézist generál, keveri az erősségeket és a szűrési hibákat. A javaslattevők sokszínűsége segít, így a különböző modellcsaládok keverése értékes. A szerkezet réteges, mint egy mély hálózat, ahol az egyes rétegek „neuronjai” teljes LLM-hívások. A kompromisszum a késleltetés és a költség: minden réteg megsokszorozza a következtetési hívások számát, így a MoA több számítást költ a minőség javítására.
Stratégiai hatás
Sebesség és méretarány
A nyelvi munkafolyamatok gyorsabban haladhatnak a következetesség feláldozása nélkül.
Hozzáférés és elérés
Kibővíti a hozzáférést a nyelvek és a kommunikációs stílusok között.
Tisztább döntések
A csapatok több időt tölthetnek az ítélkezéssel, míg az automatizálás kezeli az ismétlést.
Az ágenskeverékek aggregációjának jövője
Várható, hogy a MoA-stílusú összesítés elterjed, ahogy a következtetések olcsóbbá válnak, és a hangszerelési keretrendszerek kiforrnak. A kutatási irányok közé tartozik a lekérdezésenkénti megbízás (útválasztás) megismerése, a késleltetési büntetés csökkentése a javaslattevők párhuzamos futtatásával és a gyengébbek korai levágása, valamint a MoA kombinálása az eszközt használó ágensekkel, hogy az aggregátor ne csak szöveget, hanem műveleteket és visszakeresett bizonyítékokat egyesítsen. Ahogy a nyílt modellek szaporodnak, intelligens összeállításuk egyre praktikusabb út a határ szintű minőséghez egyetlen óriási modell nélkül.
Valós megvalósítás
Három különböző nyílt csevegési modell kombinációja javaslattevőként, majd egy erős aggregátor használata egyetlen finomított ügyfélszolgálati válasz elkészítéséhez.
Az utasításkövetési pontszámok növelése AlpacaEval-stílusú benchmarkokon kizárólag nyílt forráskódú modellek használatával.
Több modellből származó változatos kódjavaslatok egyesítése egyetlen, robusztusabb funkciómegvalósításban.
Nyílt súlyozású folyamat futtatása, amely megközelíti a határminőséget egy adatvédelmi szempontból érzékeny telepítéshez, ahol az adatok nem hagyhatják el a vállalat szervereit.
Kockázatok és védőkorlátok
A hallucinált tények csendben bekerülhetnek a jelentésekbe, a támogatási folyamatokba vagy a kutatási eredményekbe.
Az azonnali érzékenység inkonzisztens eredményeket eredményezhet a hasonló kérések között.
Ha a hozzáférés-szabályozás gyenge, az érzékeny szöveges adatok megjelenhetnek.
Végrehajtási ütemterv
A kiadás előtt határozza meg a kimeneti formátumot, hangszínt és minőségi szabványokat.
Földelje a válaszokat megbízható forrásokból, amikor a pontosság számít.
Tartson emberi ellenőrzési pontot a nagy tétű kimenetekhez.
Kövesse nyomon a meghibásodási mintákat, és rendszeresen tanítsa át az utasításokat vagy a munkafolyamatokat.
Folytassa a felfedezést
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Következő útmutató
Mélységek keveréke
Gyakran ismételt kérdések
What is Mixture-of-Agents Aggregation?
A Mixture of-Agents (MoA) egy olyan technika, amelyben több nyelvi modell válaszokat vázol, majd egy aggregátor modell a legjobb ötleteiket egyetlen továbbfejlesztett válaszba olvasztja. Lehetővé teszi, hogy egy csapat nyitott modellel rivalizáljon vagy legyőzzen egyetlen csúcsmodellet.
Mi a szerepe az aggregátor modellnek a Mixture of-Agents-ben?
Az összesítő beolvassa az összes jelölt választ, és egyetlen összevont, jobb minőségű választ generál.
Az LLM-ek milyen kulcsfontosságú tulajdonságára támaszkodik a MoA dokumentum?
A szerzők megfigyelik, hogy a modellek javítják válaszaikat, ha más modellek vázlataira támaszkodnak, még ha azok is tökéletlenek.
Miben különbözik a MoA az egyszerű többségi szavazástól?
A szavazással ellentétben a MoA nem csak egy létező választ választ ki; új választ generál, amely egyesíti a jelölteket.
Miért értékes a javaslattevő modellek közötti sokszínűség a MoA-ban?
A változatos javaslattevők több területet fednek le, így az aggregátor gazdagabb ötleteket és kiszűrhető hibákat biztosít.
Mi a fő gyakorlati költsége a MoA megközelítésnek?
Minden réteg több LLM-hívást ad hozzá, így a MoA extra számítási időt és időt cserél a jobb válaszminőség érdekében.