Агрегиране на смеси от агенти
Смесването на агенти (MoA) е техника, при която няколко езикови модела изготвят отговори и след това агрегаторният модел обединява най-добрите им идеи в един подобрен отговор.
Преглед
It lets a team of open models rival or beat a single top-tier model.
Дълбоко гмуркане
Въведен в документ от 2024 г. от Together AI, Mixture-of-Agents организира множество LLMs в слоеве. В първия слой няколко модела „предлагащи“ отговарят независимо на подканата. Техните резултати след това се свързват и предават на следващия слой, където моделите отново отговарят, вече обусловени от всички предишни чернови. След един или повече такива кръга окончателният модел на „агрегатор“ синтезира всичко в един отговор. Основното прозрение, което авторите наричат „сътрудничество на LLMs“, е, че моделите дават по-добри отговори, когато се показват отговорите на връстниците, дори и несъвършените. На бенчмарка AlpacaEval 2.0, MoA, изграден изцяло от модели с отворен код, според съобщенията надмина резултата на GPT-4 Omni, демонстрирайки, че внимателното агрегиране на различни, по-евтини модели може да победи една гранична система.
Техническа информация
MoA се различава от гласуването с обикновено мнозинство: вместо да избира един отговор, агрегаторът чете отговорите на всички кандидати като контекст и генерира нов синтез, смесвайки силните страни и грешките при филтриране. Разнообразието сред предлагащите помага, така че смесването на различни семейства модели е ценно. Структурата е слоеста, като дълбока мрежа, където „невроните“ на всеки слой са цели LLM извиквания. Компромисът е забавянето и разходите: всеки слой умножава броя на повикванията за извод, така че MoA изразходва повече изчисления, за да подобри качеството.
Стратегическо въздействие
Speed and scale
Езиковите работни процеси могат да се движат по-бързо, без да се жертва последователността.
Access and reach
Той разширява достъпа между езици и стилове на комуникация.
Clearer decisions
Екипите могат да отделят повече време за преценка, докато автоматизацията се справя с повторението.
Бъдещето на агрегирането на смеси от агенти
Очаквайте агрегирането в стил MoA да се разпространи, тъй като изводите стават по-евтини и структурите за оркестрация стават зрели. Изследователските насоки включват научаване на кои предложители да се доверят на заявка (маршрутизиране), намаляване на наказанието за забавяне чрез стартиране на предлагащи паралелно и ранно изрязване на слабите и комбиниране на MoA с агенти, използващи инструменти, така че агрегаторът да обединява не само текст, но действия и извлечени доказателства. Тъй като отворените модели се разпространяват, интелигентното им групиране става все по-практичен път към качество на гранично ниво без нито един гигантски модел.
Внедряване в реалния свят
Комбиниране на три различни модела на отворен чат като предложители, след което използване на силен агрегатор за получаване на един изчистен отговор от поддръжката на клиенти.
Повишаване на резултатите за следване на инструкции в бенчмаркове в стил AlpacaEval, като се използват само модели с отворен код.
Сливане на различни предложения за код от няколко модела в едно, по-стабилно изпълнение на функция.
Изпълнение на конвейер с отворени тегла, който се доближава до граничното качество за чувствително към поверителността внедряване, при което данните не могат да напуснат сървърите на компанията.
Рискове и предпазни огради
Халюцинираните факти могат тихо да влязат в отчети, потоци за поддръжка или резултати от изследвания.
Бързата чувствителност може да създаде противоречиви резултати при подобни заявки.
Чувствителните текстови данни могат да бъдат разкрити, ако контролите за достъп са слаби.
Пътна карта за изпълнение
Определете изходен формат, тон и стандарти за качество преди внедряване.
Наземни отговори с доверени източници винаги, когато точността има значение.
Поддържайте контролна точка за човешки преглед за изходи с високи залози.
Проследявайте моделите на неуспехи и редовно обучавайте подкани или работни потоци.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Смес от дълбочини
Frequently asked questions
What is Mixture-of-Agents Aggregation?
Смесването на агенти (MoA) е техника, при която няколко езикови модела изготвят отговори и след това агрегаторният модел обединява най-добрите им идеи в един подобрен отговор. Той позволява на екип от отворени модели да се съревновава или да победи един модел от най-високо ниво.
В Mixture-of-Agents каква е ролята на модела на агрегатора?
Агрегаторът чете отговорите на всички кандидати и генерира един комбиниран отговор с по-високо качество.
На кое ключово свойство на LLMs разчита документът на MoA?
Авторите отбелязват, че моделите подобряват своите отговори, когато са обусловени от чернови на други модели, дори несъвършени.
Как се различава MoA от гласуването с обикновено мнозинство?
За разлика от гласуването, MoA не просто избира един съществуващ отговор; генерира нов отговор, който смесва кандидатите.
Защо разнообразието сред предлагащите модели е ценно в MoA?
Разнообразните предложения обхващат повече полета, давайки на агрегатора по-богат набор от идеи за смесване и грешки за филтриране.
Каква е основната практическа цена на подхода MoA?
Всеки слой добавя повече LLM повиквания, така че MoA търгува с допълнително изчисление и време за подобрено качество на отговора.