LegközelebbKövetkező útmutató
Mélységek keveréke
Nyelvi AI
Nyelvi AI ÚTMUTATÓ
A Mixture of-Agents (MoA) egy olyan technika, amelyben több nyelvi modell válaszokat vázol, majd egy aggregátor modell a legjobb ötleteiket egyetlen továbbfejlesztett válaszba olvasztja.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
It lets a team of open models rival or beat a single top-tier model.
A Together AI 2024-es közleményében bemutatott Mixture of-Agents több LLM-et rétegekbe rendez. Az első rétegben több „javasló” modell egymástól függetlenül válaszol a promptra. Kimeneteiket ezután összefűzik, és átadják a következő rétegnek, ahol a modellek ismét válaszolnak, immár az összes korábbi piszkozatra támaszkodva. Egy vagy több ilyen kör után a végső „aggregátor” modell mindent egyetlen válaszba szintetizál. A szerzők „az LLM-ek együttműködési képességének” nevezett alapvető meglátás az, hogy a modellek jobb válaszokat adnak, ha a társak válaszait mutatják, még ha azok is tökéletlenek. Az AlpacaEval 2.0 benchmarkon a teljes egészében nyílt forráskódú modellekből épített MoA állítólag felülmúlta a GPT-4 Omni pontszámát, bizonyítva, hogy a különböző, olcsóbb modellek gondos összesítése egyetlen határrendszert is legyőzhet.
Három különböző nyílt csevegési modell kombinációja javaslattevőként, majd egy erős aggregátor használata egyetlen finomított ügyfélszolgálati válasz elkészítéséhez.
Az utasításkövetési pontszámok növelése AlpacaEval-stílusú benchmarkokon kizárólag nyílt forráskódú modellek használatával.
Több modellből származó változatos kódjavaslatok egyesítése egyetlen, robusztusabb funkciómegvalósításban.
Nyílt súlyozású folyamat futtatása, amely megközelíti a határminőséget egy adatvédelmi szempontból érzékeny telepítéshez, ahol az adatok nem hagyhatják el a vállalat szervereit.
Várható, hogy a MoA-stílusú összesítés elterjed, ahogy a következtetések olcsóbbá válnak, és a hangszerelési keretrendszerek kiforrnak. A kutatási irányok közé tartozik a lekérdezésenkénti megbízás (útválasztás) megismerése, a késleltetési büntetés csökkentése a javaslattevők párhuzamos futtatásával és a gyengébbek korai levágása, valamint a MoA kombinálása az eszközt használó ágensekkel, hogy az aggregátor ne csak szöveget, hanem műveleteket és visszakeresett bizonyítékokat egyesítsen. Ahogy a nyílt modellek szaporodnak, intelligens összeállításuk egyre praktikusabb út a határ szintű minőséghez egyetlen óriási modell nélkül.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A Mixture of-Agents (MoA) egy olyan technika, amelyben több nyelvi modell válaszokat vázol, majd egy aggregátor modell a legjobb ötleteiket egyetlen továbbfejlesztett válaszba olvasztja. Lehetővé teszi, hogy egy csapat nyitott modellel rivalizáljon vagy legyőzzen egyetlen csúcsmodellet.
Az összesítő beolvassa az összes jelölt választ, és egyetlen összevont, jobb minőségű választ generál.
A szerzők megfigyelik, hogy a modellek javítják válaszaikat, ha más modellek vázlataira támaszkodnak, még ha azok is tökéletlenek.
A szavazással ellentétben a MoA nem csak egy létező választ választ ki; új választ generál, amely egyesíti a jelölteket.
A változatos javaslattevők több területet fednek le, így az aggregátor gazdagabb ötleteket és kiszűrhető hibákat biztosít.
Minden réteg több LLM-hívást ad hozzá, így a MoA extra számítási időt és időt cserél a jobb válaszminőség érdekében.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Mélységek keveréke
Nyelvi AI