混合代理聚合
混合代理 (MoA) 是一种技术，其中多个语言模型起草答案，然后聚合器模型将它们的最佳想法融合到一个改进的响应中。
概述
It lets a team of open models rival or beat a single top-tier model.
深入探讨
Together AI 在 2024 年发表的一篇论文中介绍了 Mixture-of-Agents，它将多个 LLM 组织成多个层。在第一层中，几个“提议者”模型各自独立地回答提示。然后，它们的输出被连接并传递到下一层，模型再次响应，现在以所有先前的草稿为条件。经过一轮或多轮这样的回合后，最终的“聚合器”模型将所有内容综合为一个答案。作者称之为“法学硕士的协作性”的核心见解是，当向同行展示答案时，模型会产生更好的响应，即使是不完美的答案。据报道，在 AlpacaEval 2.0 基准测试中，完全由开源模型构建的 MoA 超过了 GPT-4 Omni 的分数，这表明多种、更便宜的模型的仔细聚合可以击败单一前沿系统。
技术洞察
MoA 与简单多数投票不同：聚合器不是选择一个答案，而是将所有候选答案作为上下文读取，并生成新的综合，融合优势并过滤错误。提议者之间的多样性会有所帮助，因此混合不同的模型系列很有价值。该结构是分层的，就像一个深层网络，其中每一层的“神经元”都是整个 LLM 调用。权衡是延迟和成本：每一层都会增加推理调用的数量，因此 MoA 需要花费更多的计算来提高质量。
战略影响
速度与规模
语言工作流程可以在不牺牲一致性的情况下更快地移动。
交通与覆盖范围
它扩展了跨语言和沟通方式的访问。
更清晰的判决
团队可以花更多时间进行判断，而自动化则可以处理重复。
混合代理聚合的未来
随着推理成本的降低和编排框架的成熟，预计 MoA 式聚合将会得到普及。研究方向包括了解每个查询（路由）信任哪些提议者，通过并行运行提议者并尽早修剪弱提议者来减少延迟损失，以及将 MoA 与使用工具的代理相结合，以便聚合器不仅融合文本，还融合操作和检索到的证据。随着开放模型的激增，智能地集成它们成为一种越来越实用的途径，无需使用单一的巨型模型即可达到前沿质量。
现实世界的实施
结合三种不同的开放聊天模型作为提议者，然后使用强大的聚合器生成一份精美的客户支持回复。
仅使用开源模型提高 AlpacaEval 式基准测试中的指令遵循分数。
将多个模型的不同代码建议融合到一个更强大的函数实现中。
运行开放权重管道，该管道接近隐私敏感部署的前沿质量，其中数据无法离开公司的服务器。
风险与防护栏
幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
及时的敏感性可能会在类似的请求中产生不一致的结果。
如果访问控制薄弱，敏感文本数据可能会暴露。
实施路线图
在推出之前定义输出格式、语气和质量标准。
当准确性很重要时，请使用可信来源进行地面响应。
为高风险输出保留人工审查检查点。
跟踪故障模式并定期重新训练提示或工作流程。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Mixture-of-Agents Aggregation?
混合代理 (MoA) 是一种技术，其中多个语言模型起草答案，然后聚合器模型将它们的最佳想法融合到一个改进的响应中。它让开放模型团队可以与单个顶级模型竞争或击败。
在混合代理中，聚合器模型的作用是什么？
聚合器读取所有候选答案并生成一个融合的、更高质量的答案。
MoA 论文依赖于法学硕士的哪些关键属性？
作者观察到，当以其他模型的草稿为条件时，模型会改进他们的答案，即使是不完美的草稿。
农业部与简单多数投票有何不同？
与投票不同的是，MoA 不仅仅选择一个现有的答案；而是选择一个现有的答案。它会产生一种新的反应，将候选人融合在一起。
为什么提议者模型的多样性在 MoA 中很有价值？
不同的提议者覆盖了更多的领域，为聚合器提供了更丰富的想法来融合和过滤错误。
MoA 方法的主要实际成本是多少？
每一层都会增加更多的 LLM 调用，因此 MoA 需要付出额外的计算和时间来提高答案质量。