テクニカルガイド
エージェント ループにおける内省
内省により、AI エージェントはタスクの途中で自身の出力とアクションを批評し、その批評に基づいて修正することができます。
このガイドを聴くAIによるナレーション · ~2 min
概要
It turns a one-shot guesser into a system that catches and fixes its own mistakes.
ディープダイブ
エージェント ループでは、言語モデルがアクション (ツールの呼び出し、コードの作成、応答) を実行し、結果を観察して、次に何をするかを決定します。自己反省により、モデルが続行する前に最近の作業を評価する意図的なステップが追加されます。 Reflexion (2023) のようなフレームワークはこれを具体化します。試行が失敗した後、エージェントは短い口頭での批判 (「空のリストのケースを処理するのを忘れた」) を書いてメモリに保存するため、次の試行はその教訓に基づいて行われます。 Self-Refine は同じモデルを使用してフィードバックを生成し、その回答を繰り返し書き直します。反映は、出力と目標の比較、エラー メッセージの確認、またはテストの実行によって行われます。その結果、コーディング、Web ナビゲーション、数学などの複数ステップのタスクでの信頼性が向上します。このタスクでは、単一のパスは失敗することがよくありますが、批評と再試行のループは成功します。
現実世界の実装
コーディング エージェントは、失敗した単体テストを実行し、トレースバックを読み取り、off-by-one エラーを記録したリフレクションを書き込み、次のループ反復で関数を書き直します。
間違ったリンクをクリックした Web ブラウジング エージェントは、リンク先のページを振り返り、目的との不一致を認識し、後戻りして別のリンクを試みます。
研究助手は回答の草案を作成し、裏付けのない主張について批判し、引用を追加したり不確実な記述を回避したりして回答を返す前に修正します。
数学的解決エージェントは、問題の制約に照らして最終的な答えをチェックし、単位の不一致に気づき、欠陥のある結果を送信するのではなく、計算をやり直します。
エージェント ループにおける内省の未来
リフレクションがプロンプト トリックではなく、組み込みのエージェント プリミティブになることを期待してください。モデルは、いつリフレクションが追加のトークンを支払う価値があるのか、いつコンピューティングを消費するのかを知るようにトレーニングされます。検証者モデルと実行フィードバックはますます自己批判の基盤となるため、エージェントは間違った答えが正しいという幻覚を感じなくなります。研究では、モデルが自信を持って悪い結果を肯定する故障モードもターゲットにしており、校正された証拠に基づいた反映とループの停止基準の学習を推進しています。
実践する
なぜそれが重要なのか
- 費用と予算. アーキテクチャの決定により、パフォーマンスと運用コストが何年にもわたって推進されます。
- より明確な判決. 技術教育は、チームが最新のスタックだけでなく、適切なスタックを選択するのに役立ちます。
- 品質管理. より良いエンジニアリングの選択により、本番環境での信頼性に関するインシデントが減少します。
気をつけてください
- 1 つのベンチマークを最適化すると、より広範なシステムの弱点が隠れる可能性があります。
- インフラストラクチャとメンテナンスのコストは過小評価されがちです。
- システムが複雑になるにつれて、セキュリティと可観測性のギャップが拡大する可能性があります。
次のステップ
- 実装前にレイテンシ、品質、コストの目標を定義します。
- 現実的な負荷とデータ条件でのベンチマーク。
- エラー、ドリフト、ユーザーへの影響を計測器で監視します。
- スケーリングの前に、ロールバックとインシデント対応のパスを準備します。
探検を続けましょう
よくある質問
What is Self-Reflection in Agent Loops?
内省により、AI エージェントはタスクの途中で自身の出力とアクションを批評し、その批評に基づいて修正することができます。一発で推測するシステムを、自らの間違いを見つけて修正するシステムに変えます。
内省は標準的なエージェント ループに何を追加しますか?
内省では、エージェントが最近の行動や出力を批評し、その批評を次の行動の指針とする評価ステップを挿入します。
リフレクション フレームワークでは、モデルの自己批判はどこに保存されますか?
反射は、口頭での自己批判をエピソード記憶バッファーに保持し、後の試行でそれらをコンテキストに送り込むため、学習は重みの更新を介するのではなく、コンテキスト内で行われます。
反射用のフィードバック信号はどれが最も信頼性が高い傾向がありますか?
テストの失敗や実行時エラーなどの根拠のある外部シグナルは、具体的で信頼できるフィードバックを提供しますが、純粋に自己生成された批判は間違っている可能性があります。
自己反省の既知の失敗モードとは何ですか?
根拠のあるフィードバックがないと、モデルが欠陥のある作業をレビューし、問題ないと誤って結論付けることがあるため、外部検証が重要です。
自己洗練アプローチは通常どのようにフィードバックを生成しますか?
Self-Refine では、単一のモデルがそのドラフトに関するフィードバックを生成し、そのフィードバックを使用して出力を繰り返し修正します。