Агрегация смеси агентов
«Смесь агентов» (MoA) — это метод, при котором несколько языковых моделей подготавливают ответы, а затем модель агрегатора объединяет их лучшие идеи в один улучшенный ответ.
Обзор
It lets a team of open models rival or beat a single top-tier model.
Глубокое погружение
Технология Mixture-of-Agents, представленная в статье Together AI в 2024 году, объединяет несколько LLM в слои. На первом уровне несколько моделей «предлагающих» независимо отвечают на подсказку. Их выходные данные затем объединяются и передаются на следующий уровень, где модели снова отвечают, теперь уже с учетом всех предыдущих черновиков. После одного или нескольких таких раундов окончательная модель «агрегатора» синтезирует все в единый ответ. Основная идея, которую авторы называют «сотрудничеством LLM», заключается в том, что модели дают лучшие ответы, когда им показывают ответы коллег, даже несовершенные. По сообщениям, в тесте AlpacaEval 2.0 MoA, полностью созданная на основе моделей с открытым исходным кодом, превзошла результат GPT-4 Omni, продемонстрировав, что тщательное агрегирование разнообразных и более дешевых моделей может превзойти одну передовую систему.
Техническая информация
MoA отличается от простого голосования большинством: вместо того, чтобы выбирать один ответ, агрегатор считывает все ответы кандидатов как контекст и генерирует новый синтез, смешивая сильные стороны и фильтруя ошибки. Разнообразие среди предлагающих помогает, поэтому полезно смешивать разные семейства моделей. Структура многоуровневая, как глубокая сеть, где «нейроны» каждого уровня представляют собой целые вызовы LLM. Компромиссом является задержка и стоимость: каждый уровень умножает количество вызовов вывода, поэтому MoA тратит больше вычислений для повышения качества.
Стратегическое воздействие
Скорость и масштаб
Языковые рабочие процессы могут развиваться быстрее, не жертвуя при этом согласованностью.
Доступ и охват
Это расширяет доступ к различным языкам и стилям общения.
Более четкие решения
Команды могут тратить больше времени на принятие решений, в то время как автоматизация занимается повторением.
Будущее агрегации смешанных агентов
Ожидайте, что агрегирование в стиле MoA будет распространяться по мере удешевления логического вывода и развития систем оркестрации. Направления исследований включают в себя изучение того, каким предлагающим доверять по каждому запросу (маршрутизации), снижение штрафа за задержку за счет параллельного запуска предлагающих и раннего исключения слабых, а также объединение MoA с агентами, использующими инструменты, чтобы агрегатор объединял не только текст, но и действия и полученные доказательства. По мере распространения открытых моделей их разумное объединение становится все более практичным путем к качеству передового уровня без единой гигантской модели.
Реальная реализация
Объединение трех разных моделей открытого чата в качестве предлагающих, а затем использование мощного агрегатора для создания одного безупречного ответа службы поддержки клиентов.
Повышение показателей выполнения инструкций в тестах в стиле AlpacaEval с использованием только моделей с открытым исходным кодом.
Объединение разнообразных предложений кода из нескольких моделей в единую, более надежную реализацию функции.
Запуск конвейера с открытым весом, который приближается к высочайшему качеству для развертывания, чувствительного к конфиденциальности, где данные не могут покинуть серверы компании.
Риски и ограничения
Галлюцинированные факты могут незаметно войти в отчеты, потоки поддержки или результаты исследований.
Незамедлительная чувствительность может привести к противоречивым результатам по схожим запросам.
Конфиденциальные текстовые данные могут быть раскрыты, если контроль доступа слабый.
Дорожная карта реализации
Перед развертыванием определите выходной формат, тон и стандарты качества.
Наземные ответы с помощью надежных источников, когда точность имеет значение.
Обеспечьте контрольную точку человеческого контроля для получения важных результатов.
Отслеживайте закономерности сбоев и регулярно обновляйте подсказки или рабочие процессы.
Продолжайте исследовать
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Следующее руководство
Смесь глубин
Часто задаваемые вопросы
What is Mixture-of-Agents Aggregation?
«Смесь агентов» (MoA) — это метод, при котором несколько языковых моделей подготавливают ответы, а затем модель агрегатора объединяет их лучшие идеи в один улучшенный ответ. Это позволяет команде открытых моделей конкурировать или побеждать одну модель высшего уровня.
Какова роль модели агрегатора в «Смеси агентов»?
Агрегатор считывает все ответы кандидатов и генерирует один объединенный ответ более высокого качества.
На какое ключевое свойство LLM опирается документ MoA?
Авторы отмечают, что модели улучшают свои ответы, когда они опираются на проекты других моделей, даже несовершенные.
Чем МСХ отличается от голосования простым большинством голосов?
В отличие от голосования, МСХ не просто выбирает один существующий ответ; он генерирует свежий ответ, который смешивает кандидатов.
Почему разнообразие моделей предлагающих ценно в МСХ?
Разнообразные предложения охватывают большую территорию, предоставляя агрегатору более богатый набор идей для объединения и ошибок для фильтрации.
Какова основная практическая стоимость подхода МСХ?
На каждом уровне добавляется больше вызовов LLM, поэтому MoA тратит дополнительные вычисления и время на улучшение качества ответов.