テクニカルガイド
ツールフォーマーと独学でツールを使用する人
Toolformer は 2023 Meta AI メソッドであり、言語モデルが計算機、検索エンジン、翻訳機などの外部ツールをいつどのように呼び出すかを学習できるようになります。
このガイドを聴くAIによるナレーション · ~2 min
概要
人間がツール呼び出しにラベルを付ける代わりに、モデルは独自のトレーニング サンプルを生成してフィルタリングし、実際に役立つサンプルを微調整します。
ディープダイブ
Toolformer、Schick et al. Meta AI は、パラドックスに取り組みます。大規模なモデルは言語には優れていますが、算術演算、新鮮な事実、正確な検索は苦手です。トレーニング ループは自己監視型です。モデルには、API 呼び出しの構文を示す人間が作成したサンプルがいくつか与えられ、大規模なテキスト コーパスのさまざまな位置に候補呼び出し (特別なトークンでラップされた) を挿入するよう求められます。各候補呼び出しが実際に実行され、その結果が結合されます。キー フィルタリング ステップは、API 結果を取得することで、呼び出さない場合や呼び方が異なる場合よりも、今後の実際のテキストに対するモデルの混乱を軽減する場合にのみ、ツール呼び出しを保持します。次に、このフィルタリングされた自己生成データセットに基づいてモデルが微調整され、計算機、QA システム、検索エンジン、翻訳者、カレンダーの 5 つのツールの呼び出し方を学習します。
現実世界の実装
数値の答えを推測するのではなく、正確な算術を取得するために文の途中で電卓 API を呼び出します。
検索または QA システムにクエリを実行して、最新の情報やめったに見られない事実情報を取得します。
機械翻訳ツールを呼び出して、生成されたテキスト内の語句を別の言語でレンダリングします。
カレンダー/日付ツールを使用して、「来週の金曜日」などの相対参照を具体的な日付に解決します。
ツールフォーマーと独学でのツール使用の未来
Toolformer は、今日のツール使用エージェントと関数呼び出しエージェントをシードしました。フロンティアは、固定された少数のツールから、実行時に発見される数十、数百のツールに移行しており、モデルはどのツールを呼び出すか、呼び出しを連鎖し、障害を処理するかを推論します。強化学習とエージェント ループとの緊密な統合に加え、新しい API のオンザフライ学習が期待されるため、独習ツールの使用は特殊な微調整ではなく標準機能になります。
実践する
なぜそれが重要なのか
- 費用と予算. アーキテクチャの決定により、パフォーマンスと運用コストが何年にもわたって推進されます。
- より明確な判決. 技術教育は、チームが最新のスタックだけでなく、適切なスタックを選択するのに役立ちます。
- 品質管理. より良いエンジニアリングの選択により、本番環境での信頼性に関するインシデントが減少します。
気をつけてください
- 1 つのベンチマークを最適化すると、より広範なシステムの弱点が隠れる可能性があります。
- インフラストラクチャとメンテナンスのコストは過小評価されがちです。
- システムが複雑になるにつれて、セキュリティと可観測性のギャップが拡大する可能性があります。
次のステップ
- 実装前にレイテンシ、品質、コストの目標を定義します。
- 現実的な負荷とデータ条件でのベンチマーク。
- エラー、ドリフト、ユーザーへの影響を計測器で監視します。
- スケーリングの前に、ロールバックとインシデント対応のパスを準備します。
探検を続けましょう
よくある質問
Toolformer および独学でのツールの使用とは何ですか?
Toolformer は 2023 Meta AI メソッドであり、言語モデルが計算機、検索エンジン、翻訳機などの外部ツールをいつどのように呼び出すかを学習できるようになります。人間がツール呼び出しにラベルを付ける代わりに、モデルは独自のトレーニング サンプルを生成してフィルタリングし、実際に役立つサンプルを微調整します。
ツールの使用方法を学習するための Toolformer のアプローチの特徴は何ですか?
Toolformer は自己監視型です。モデルは API 呼び出しの候補を提案して実行し、正しい使用法について人による注釈を付けることなく、役立つものだけを保持します。
Toolformer は、候補 API 呼び出しを保持するかどうかを決定するためにどの基準を使用しますか?
呼び出しは、その結果を挿入することで、今後の実際のテキストに対するモデルの混乱/損失がしきい値を超えて低下し、それが本当に有用であったことを示す場合にのみ保持されます。
元の Toolformer はどのツールのセットの使い方を学習しましたか?
Toolformer は、計算機、質問応答システム、検索エンジン、機械翻訳機、カレンダーの 5 つの API を呼び出すようにトレーニングされました。
Toolformer のプロセス中にツール呼び出しはテキスト内でどのように表現されますか?
候補呼び出しとその返された結果は、特別なトークンを使用してテキストにインラインで挿入されるため、モデルは配置と引数を一緒に学習します。
大規模言語モデルのどのような根本的な弱点が Toolformer を動機づけたのでしょうか?
LLM は優れた言語スキルにもかかわらず、外部ツールが提供できる正確な計算、最新の事実、および正確な情報の検索に苦労しています。