エージェントの混合物の集約
Mixture-of-Agents (MoA) は、複数の言語モデルが回答を草案し、アグリゲーター モデルが最良のアイデアを 1 つの改善された回答に融合する手法です。
概要
It lets a team of open models rival or beat a single top-tier model.
ディープダイブ
Together AI の 2024 年の論文で導入された Mixture-of-Agents は、複数の LLM をレイヤーに編成します。最初の層では、いくつかの「提案者」モデルがそれぞれ独立してプロンプトに応答します。次に、それらの出力が連結されて次の層に渡され、そこでモデルが再び応答し、以前のすべてのドラフトに基づいて条件付けされます。 1 つ以上のこのようなラウンドの後、最終的な「アグリゲーター」モデルはすべてを 1 つの回答に合成します。著者らが「LLMの協調性」と呼んでいる核となる洞察は、たとえ不完全な回答であっても、同僚の回答を示されたときにモデルがより良い応答を生成するということである。 AlpacaEval 2.0 ベンチマークでは、完全にオープンソース モデルから構築された MoA が GPT-4 Omni のスコアを上回ったと報告されており、多様で安価なモデルを慎重に集約すれば単一のフロンティア システムに勝てることが実証されました。
技術的な洞察
MoA は単純な多数決とは異なります。アグリゲーターは 1 つの回答を選択するのではなく、すべての候補回答をコンテキストとして読み取り、新たな合成を生成し、強度をブレンドし、エラーをフィルタリングします。提案者間の多様性が役立つため、異なるモデル ファミリを混合することは価値があります。この構造は、各層の「ニューロン」が LLM 呼び出し全体である深いネットワークのように階層化されています。トレードオフはレイテンシーとコストです。各レイヤーにより推論呼び出しの数が増加するため、MoA は品質を向上させるためにより多くのコンピューティングを費やします。
戦略的影響
速度とスケール
言語ワークフローは、一貫性を犠牲にすることなく、より高速に移行できます。
アクセスと到達範囲
言語やコミュニケーション スタイルを超えてアクセスが拡張されます。
より明確な判決
自動化が繰り返しを処理する間、チームは判断により多くの時間を費やすことができます。
混合エージェント集約の将来
推論が安価になり、オーケストレーション フレームワークが成熟するにつれて、MoA スタイルの集約が普及すると予想されます。研究の方向性としては、クエリ（ルーティング）ごとにどのプロポーザーを信頼すべきかを学習すること、プロポーザーを並列実行して弱いプロポーザーを早期に切り捨てることでレイテンシーペナルティを軽減すること、アグリゲーターがテキストだけでなくアクションと取得した証拠を融合できるようにMoAとツールを使用するエージェントを組み合わせることが含まれます。オープン モデルが急増するにつれて、それらをインテリジェントにアンサンブルすることは、単一の巨大なモデルを使用せずにフロンティア レベルの品質を実現するための現実的な道となりつつあります。
現実世界の実装
提案者として 3 つの異なるオープン チャット モデルを組み合わせ、強力なアグリゲーターを使用して 1 つの洗練されたカスタマー サポートの返信を生成します。
オープンソース モデルのみを使用して、AlpacaEval スタイルのベンチマークで指示に従ってスコアを向上させます。
複数のモデルからの多様なコード提案を単一のより堅牢な関数実装に融合します。
データが企業のサーバーから流出できないプライバシーに配慮した展開向けに、フロンティア品質に近づくオープンウェイト パイプラインを実行します。
リスクとガードレール
幻覚のような事実が、レポート、サポート フロー、または研究結果に静かに組み込まれる可能性があります。
迅速な対応により、同様のリクエスト間で一貫性のない結果が生じる可能性があります。
アクセス制御が弱いと、機密テキスト データが漏洩する可能性があります。
実装ロードマップ
展開する前に、出力形式、トーン、品質基準を定義します。
正確さが重要な場合は常に、信頼できる情報源を使って地上対応を行ってください。
一か八かの成果物については人間によるレビュー チェックポイントを維持します。
失敗パターンを追跡し、プロンプトやワークフローを定期的に再トレーニングします。
探検を続けましょう
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
次のガイド
深みの混合
よくある質問
What is Mixture-of-Agents Aggregation?
Mixture-of-Agents (MoA) は、複数の言語モデルが回答を草案し、アグリゲーター モデルが最良のアイデアを 1 つの改善された回答に融合する手法です。これにより、オープン モデルのチームが単一の最上位モデルに匹敵したり、それに勝ったりすることができます。
エージェントの混合において、アグリゲーター モデルの役割は何ですか?
アグリゲーターはすべての候補応答を読み取り、融合された高品質な 1 つの応答を生成します。
MoA 文書は LLM のどの重要な特性に依存していますか?
著者らは、他のモデルの草稿（不完全なモデルであっても）に条件付けすると、モデルが答えを改善することを観察しています。
MoA は単純な多数決とどう違うのですか?
投票とは異なり、MoA は既存の回答を 1 つ選択するだけではありません。候補を組み合わせた新しい応答が生成されます。
MoA ではなぜ提案者モデル間の多様性が重要なのでしょうか?
さまざまな提案者がより多くの分野をカバーし、アグリゲーターに融合すべきより豊富なアイデアとフィルタリングすべきエラーのセットを提供します。
MoA アプローチの主な実際的なコストはどれくらいですか?
各レイヤーにより LLM 呼び出しが追加されるため、MoA は追加のコンピューティングと時間を引き換えに応答品質を向上させます。