Обзор
«Смесь агентов» (MoA) — это метод, при котором несколько языковых моделей подготавливают ответы, а затем модель агрегатора объединяет их лучшие идеи в один улучшенный ответ. Это позволяет команде открытых моделей конкурировать или побеждать одну модель высшего уровня.
Агрегация смеси агентов — это часть стека языка и искусственного интеллекта, используемого для чтения, генерации, классификации и преобразования текста и речи в любом масштабе.
Глубокое погружение
Технология Mixture-of-Agents, представленная в статье Together AI в 2024 году, объединяет несколько LLM в слои. На первом уровне несколько моделей «предлагающих» независимо отвечают на подсказку. Их выходные данные затем объединяются и передаются на следующий уровень, где модели снова отвечают, теперь уже с учетом всех предыдущих черновиков. После одного или нескольких таких раундов окончательная модель «агрегатора» синтезирует все в единый ответ. Основная идея, которую авторы называют «сотрудничеством LLM», заключается в том, что модели дают лучшие ответы, когда им показывают ответы коллег, даже несовершенные. По сообщениям, в тесте AlpacaEval 2.0 MoA, полностью созданная на основе моделей с открытым исходным кодом, превзошла результат GPT-4 Omni, продемонстрировав, что тщательное агрегирование разнообразных и более дешевых моделей может превзойти одну передовую систему.
Техническая информация
MoA отличается от простого голосования большинством: вместо того, чтобы выбирать один ответ, агрегатор считывает все ответы кандидатов как контекст и генерирует новый синтез, смешивая сильные стороны и фильтруя ошибки. Разнообразие среди предлагающих помогает, поэтому полезно смешивать разные семейства моделей. Структура многоуровневая, как глубокая сеть, где «нейроны» каждого уровня представляют собой целые вызовы LLM. Компромиссом является задержка и стоимость: каждый уровень умножает количество вызовов вывода, поэтому MoA тратит больше вычислений для повышения качества.
Освоение агрегации смеси агентов
«Смесь агентов» (MoA) — это метод, при котором несколько языковых моделей подготавливают ответы, а затем модель агрегатора объединяет их лучшие идеи в один улучшенный ответ. Это позволяет команде открытых моделей конкурировать или побеждать одну модель высшего уровня. Агрегация смеси агентов — это часть стека языка и искусственного интеллекта, используемого для чтения, генерации, классификации и преобразования текста и речи в любом масштабе. Чтобы добиться глубокого понимания, рассматривайте агрегацию смеси агентов как операционную модель, а не как отдельную функцию: определите желаемые результаты, проясните предположения и отделите то, что система может делать надежно, от того, что все еще требует экспертной оценки.
На практике сильные команды, использующие агрегацию смешанных агентов, создают циклы подсказок, поиска и проверки как единую интегрированную коммуникационную систему. Они документируют явные критерии успеха, проводят тестирование на основе реалистичных данных и рабочих процессов, а также выполняют итерации на основе наблюдаемых моделей неудач, а не разовых побед в тестах. Именно здесь теоретическое понимание превращается в прочные возможности в отношении продукта, политики и операций.
Языковые рабочие процессы могут развиваться быстрее, не жертвуя при этом согласованностью. В то же время галлюцинированные факты могут незаметно войти в отчеты, потоки поддержки или результаты исследований. Самый устойчивый подход — сочетать скорость экспериментирования с дисциплиной управления: запускать пилотные проекты, собирать доказательства, публиковать журналы решений и постоянно обновлять меры безопасности по мере развития поведения модели, ожиданий пользователей и нормативных требований.
Стратегическое воздействие
Языковые рабочие процессы могут развиваться быстрее, не жертвуя при этом согласованностью.
Языковые рабочие процессы могут развиваться быстрее, не жертвуя при этом согласованностью. В высококачественных развертываниях это выражается в измеримых рабочих правилах, границах владения и повторяющихся ритуалах проверки, что позволяет командам повышать уверенность, а не увеличивать двусмысленность.
Это расширяет доступ к различным языкам и стилям общения.
Это расширяет доступ к различным языкам и стилям общения. В высококачественных развертываниях это выражается в измеримых рабочих правилах, границах владения и повторяющихся ритуалах проверки, что позволяет командам повышать уверенность, а не увеличивать двусмысленность.
Команды могут тратить больше времени на принятие решений, в то время как автоматизация занимается повторением.
Команды могут тратить больше времени на принятие решений, в то время как автоматизация занимается повторением. В высококачественных развертываниях это выражается в измеримых рабочих правилах, границах владения и повторяющихся ритуалах проверки, что позволяет командам повышать уверенность, а не увеличивать двусмысленность.
Реальная реализация
Объединение трех разных моделей открытого чата в качестве предлагающих, а затем использование мощного агрегатора для создания одного безупречного ответа службы поддержки клиентов.
Повышение показателей выполнения инструкций в тестах в стиле AlpacaEval с использованием только моделей с открытым исходным кодом.
Объединение разнообразных предложений кода из нескольких моделей в единую, более надежную реализацию функции.
Запуск конвейера с открытым весом, который приближается к высочайшему качеству для развертывания, чувствительного к конфиденциальности, где данные не могут покинуть серверы компании.
Шаблоны реализации
Агрегация смеси агентов на практике
Объединение трех разных моделей открытого чата в качестве предлагающих, а затем использование мощного агрегатора для создания одного безупречного ответа службы поддержки клиентов.
Объединение трех разных моделей открытого чата в качестве предлагающих, а затем использование мощного агрегатора для получения одного идеального ответа службы поддержки клиентов. Команды обычно добиваются лучших результатов, когда заранее определяют пороговые значения качества, сохраняют путь эскалации с участием людей для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Агрегация смеси агентов на практике
Повышение показателей выполнения инструкций в тестах в стиле AlpacaEval с использованием только моделей с открытым исходным кодом.
Повышение показателей выполнения инструкций в тестах в стиле AlpacaEval с использованием только моделей с открытым исходным кодом. Команды обычно добиваются лучших результатов, если заранее определяют пороговые значения качества, сохраняют возможность эскалации вручную для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Агрегация смеси агентов на практике
Объединение разнообразных предложений кода из нескольких моделей в единую, более надежную реализацию функции.
Объединение разнообразных предложений по коду из нескольких моделей в единую, более надежную реализацию функции. Команды обычно добиваются лучших результатов, если заранее определяют пороговые значения качества, сохраняют возможность человеческой эскалации для крайних случаев и отслеживают как рост производительности, так и затраты на ошибки с течением времени.
Агрегация смеси агентов на практике
Запуск конвейера с открытым весом, который приближается к высочайшему качеству для развертывания, чувствительного к конфиденциальности, где данные не могут покинуть серверы компании.
Запуск конвейера с открытыми весами, который приближается к высочайшему качеству для развертывания, чувствительного к конфиденциальности, где данные не могут покинуть серверы компании. Команды обычно получают лучшие результаты, когда заранее определяют пороговые значения качества, сохраняют путь эскалации с участием человека для крайних случаев и отслеживают как прирост производительности, так и затраты на ошибки с течением времени.
Риски и ограничения
Галлюцинированные факты могут незаметно войти в отчеты, потоки поддержки или результаты исследований.
Незамедлительная чувствительность может привести к противоречивым результатам по схожим запросам.
Конфиденциальные текстовые данные могут быть раскрыты, если контроль доступа слабый.
Дорожная карта реализации
Перед развертыванием определите выходной формат, тон и стандарты качества.
Перед развертыванием определите выходной формат, тон и стандарты качества. Относитесь к каждому шагу как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Наземные ответы с помощью надежных источников, когда точность имеет значение.
Наземные ответы с помощью надежных источников, когда точность имеет значение. Относитесь к каждому шагу как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Обеспечьте контрольную точку человеческого контроля для получения важных результатов.
Обеспечьте контрольную точку человеческого контроля для получения важных результатов. Относитесь к каждому шагу как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.
Отслеживайте закономерности сбоев и регулярно обновляйте подсказки или рабочие процессы.
Отслеживайте закономерности сбоев и регулярно обновляйте подсказки или рабочие процессы. Относитесь к каждому шагу как к доказательству: если критерии не выполняются, приостановите внедрение, ликвидируйте пробел и только затем расширяйте использование.