思考の木
Tree of Thoughts (ToT) は、言語モデルが 1 つの思考の流れに固執するのではなく、木の枝のように複数の推論パスを並行して探索できるようにする刺激的なフレームワークです。
概要
It matters because it dramatically improves performance on problems that require planning, search, or backtracking.
ディープダイブ
標準的な思考連鎖プロンプトでは、最初から最後まで一連の推論ステップをモデルに実行させます。これは多くのタスクでは機能しますが、初期の間違いが全体の答えを運命づける場合には失敗します。 2023 年にプリンストン大学と Google DeepMind の研究者によって導入された Tree of Thoughts は、推論をツリー上の探索として再構成します。各ステップで、モデルはいくつかの候補「思考」(中間ステップまたは部分的な解決策) を生成し、それぞれがどの程度有望であるかを評価し、行き止まりを放棄して最適な分岐をさらに探索します。これにより、モデルは先を読み、オプションを比較し、後戻りすることができ、一発で推測するというよりも意図的に問題を解決するように動作します。ゲーム オブ 24 のようなタスクでは、ToT は思考の連鎖によって成功率を数パーセントから約 74 パーセントまで引き上げました。
技術的な洞察
ToT は 3 つの要素を組み合わせています。複数の次のステップを提案する思考ジェネレーター、各部分パスが成功する可能性をスコアリングまたは投票する状態評価器、およびどの分岐を拡張または枝刈りするかを決定する検索アルゴリズム (通常は幅優先または深さ優先の検索) です。通常、モデル自体は、状態を「確かに」、「おそらく」、または「不可能」として評価するように求められて評価を実行します。重要なのは、これはモデルのプロンプトのラッパーであり、再トレーニングではないということです。
戦略的影響
速度とスケール
言語ワークフローは、一貫性を犠牲にすることなく、より高速に移行できます。
アクセスと到達範囲
言語やコミュニケーション スタイルを超えてアクセスが拡張されます。
より明確な判決
自動化が繰り返しを処理する間、チームは判断により多くの時間を費やすことができます。
Tree of Thoughtsの未来
ツリー形式の熟慮は、推論時に難しい問題に追加のコンピューティングを割り当てるエージェント システムと「推論」モデルに吸収されることが期待されます。 Graph of Thoughts のようなバリアントでは、パスが中間結果をマージして再利用できるようになり、学習された評価者が信頼性のためにプロンプトベースのスコアリングを置き換えることができます。より広範な傾向として、推論時間の検索を調整可能なノブとして扱う傾向があります。つまり、一か八かの質問には分岐の探索により多くのコンピューティングを費やし、簡単な質問にはあまり費やさず、プロンプトとプランニングの間の境界があいまいになります。
現実世界の実装
多くの候補の方程式を探索して枝刈りすることで、4 つの数字を算術で組み合わせて 24 にする必要がある 24 のゲーム パズルを解きます。
モデルがいくつかのプロットの方向性を草案し、一貫性を評価し、最も強力な方向性を開発するクリエイティブ ライティング タスク。
正しい答えに到達するために、欠陥のあるステップから後戻りすることが不可欠な数学的証明や複数ステップの文章題。
ミニ クロスワードのような制約パズルでは、モデルが部分的な塗りつぶしをテストし、手がかりに違反する分岐を放棄します。
リスクとガードレール
幻覚のような事実が、レポート、サポート フロー、または研究結果に静かに組み込まれる可能性があります。
迅速な対応により、同様のリクエスト間で一貫性のない結果が生じる可能性があります。
アクセス制御が弱いと、機密テキスト データが漏洩する可能性があります。
実装ロードマップ
展開する前に、出力形式、トーン、品質基準を定義します。
正確さが重要な場合は常に、信頼できる情報源を使って地上対応を行ってください。
一か八かの成果物については人間によるレビュー チェックポイントを維持します。
失敗パターンを追跡し、プロンプトやワークフローを定期的に再トレーニングします。
探検を続けましょう
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree of Thoughts quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
次のガイド
思考の木の推論
よくある質問
What is Tree of Thoughts?
Tree of Thoughts (ToT) は、言語モデルが 1 つの思考の流れに固執するのではなく、木の枝のように複数の推論パスを並行して探索できるようにする刺激的なフレームワークです。これは、計画、検索、またはバックトラッキングを必要とする問題のパフォーマンスを劇的に向上させるため、重要です。
Tree of Thoughts は、思考連鎖プロンプトと根本的にどのように異なりますか?
思考の連鎖が 1 つの直線的なパスをたどる場合、Tree of Thoughts はいくつかの候補の思考に分岐し、それらを評価し、行き止まりから後戻りします。
Tree of Thoughts システムを構成する 3 つのコンポーネントはどれですか?
ToT は、候補となる思考のジェネレーター、部分的な状態をスコアリングする評価器、および検索手順 (BFS や DFS など) を組み合わせて、どの分岐を展開するかを決定します。
Game of 24 ベンチマークで、Tree of Thoughts を使用した注目すべき結果は何ですか?
ToT は、思考連鎖と比較して Game of 24 の成功率を劇的に向上させ、検索とバックトラッキングの価値を実証しました。
Tree of Thoughts システムは通常、部分的な解決策をどのように評価しますか?
通常、モデル自体が評価器として機能し、各部分パスがどの程度有望かを判断して、検索で弱い分岐を枝刈りできるようにします。
既存のモデルに Tree of Thoughts を実装することについて正しいのはどれですか?
ToT は、プロンプトと検索ループを通じてモデルの既存の機能を調整します。基礎となる重みは変更されません。