テクニカルガイド
思考グラフによる推論
思考のグラフは、思考が分岐するだけでなく、自由に結合、ループ、接続できるネットワークとして推論をモデル化します。
このガイドを聴くAIによるナレーション · ~2 min
概要
This lets a model combine insights from different paths and refine them, going beyond the strictly tree-shaped structure of Tree-of-Thoughts.
ディープダイブ
Besta らによって提案されました。 2023 年、Graph-of-Thoughts (GoT) は推論プロセスを任意のグラフとして表します。ノードは思考 (部分解) であり、エッジはそれらの間の依存関係です。各思考が 1 つの親を持つツリーとは異なり、グラフではツリーではできない操作が可能になります。つまり、複数の思考が 1 つの組み合わせソリューションにマージされる集約と、思考がループバックして自身を改善する洗練です。これは、答えを再結合する必要があるサブ問題に分解される問題に強力です。ソートおよび設定タスクの場合、GoT はリストを分割し、部分を個別に解決し、ソートされた部分を集約できます。著者らは、マージにより中間結果がより有効に活用されるため、GoT はコストを削減しながら、Tree-of-Thoughts よりもソートの品質が向上したと報告しました。コントローラー、「操作のグラフ」スケジュール、およびスコアリング/ランキング モジュールが、どの変換を実行するかを調整します。
現実世界の実装
長いリストをチャンクに分割し、各チャンクを個別にソートしてから、ソートされたチャンクを 1 つの順序付けされた結果に集約することによってソートします。
ドキュメントの要約では、セクションの部分的な要約が生成され、一貫した全体にマージされます。
キーワードのカウントや交差などの集合演算。部分結果が集計ノードを介して結合されます。
生成されたソリューションを品質スコアの改善が止まるまで、改善ステップを通じてループバックすることで反復的に改善します。
思考グラフ推論の未来
思考のグラフは、単に分岐するのではなく、中間結果を柔軟に構成および再結合する推論システムを指します。考えられる方向性としては、操作スケジュールを手動で設計する代わりに、問題に対して適切なグラフ構造を自動的に発見すること、集計が効果を発揮する時期を学習すること、検索、ツール、外部メモリとグラフ推論を統合することが含まれます。推論時の推論が成熟するにつれて、構造をタスクに適応させる単一のコントローラーの下でツリー検索、グラフのマージ、リフレクションを融合するフレームワークが期待されます。
実践する
なぜそれが重要なのか
- 費用と予算. アーキテクチャの決定により、パフォーマンスと運用コストが何年にもわたって推進されます。
- より明確な判決. 技術教育は、チームが最新のスタックだけでなく、適切なスタックを選択するのに役立ちます。
- 品質管理. より良いエンジニアリングの選択により、本番環境での信頼性に関するインシデントが減少します。
気をつけてください
- 1 つのベンチマークを最適化すると、より広範なシステムの弱点が隠れる可能性があります。
- インフラストラクチャとメンテナンスのコストは過小評価されがちです。
- システムが複雑になるにつれて、セキュリティと可観測性のギャップが拡大する可能性があります。
次のステップ
- 実装前にレイテンシ、品質、コストの目標を定義します。
- 現実的な負荷とデータ条件でのベンチマーク。
- エラー、ドリフト、ユーザーへの影響を計測器で監視します。
- スケーリングの前に、ロールバックとインシデント対応のパスを準備します。
探検を続けましょう
よくある質問
What is Graph-of-Thoughts Reasoning?
思考のグラフは、思考が分岐するだけでなく、自由に結合、ループ、接続できるネットワークとして推論をモデル化します。これにより、モデルはさまざまなパスからの洞察を組み合わせて、厳密にツリー状の思考ツリー構造を超えて洗練することができます。
思考グラフと思考ツリーの決定的な構造の違いは何ですか?
ツリーでは各思考には 1 つの親がありますが、グラフでは集約 (マージ) と洗練 (自己ループ) が可能で、より豊富な接続が可能になります。
Graph-of-Thoughts では、「集計」操作は何を行うのでしょうか?
集約では、各ソース思考からの入力エッジを使用して、複数の思考ノードを 1 つのマージされた思考に結合します。
GoT グラフの「洗練」は何に対応しますか?
洗練は、改善されたバージョンを生成するためにそれ自体をループバックする思考としてモデル化されます。
Graph-of-Thought が長いリストの並べ替えなどのタスクに適しているのはなぜですか?
GoT はリストをチャンクに分解し、それぞれを解決し、集計によってソートされた部分をマージしますが、これは厳密なツリーでは表現できません。
思考のグラフの実行を調整するコンポーネントはどれですか?
GoT は、事前定義された操作のグラフを実行するコントローラーを使用し、スコアリングおよびランキング モジュールが最良の考えを選択します。