工具形成者和自学工具的使用
Toolformer 是一种 2023 Meta AI 方法，可让语言模型自学何时以及如何调用计算器、搜索引擎和翻译器等外部工具。
概述
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
深入探讨
Toolformer，来自 Schick 等人。在 Meta AI，解决了一个悖论：大型模型擅长语言，但不擅长算术、新鲜事实和精确查找。训练循环是自我监督的。该模型给出了一些显示 API 调用语法的人工编写示例，然后提示在大型文本语料库的许多位置插入候选调用（用特殊标记包装）。每个候选调用都会实际执行，并且结果会被拼接进去。只有当 API 结果比不调用或以不同方式调用更能降低模型对即将到来的真实文本的困惑时，关键过滤步骤才会保留工具调用。然后，该模型在这个经过过滤的、自行生成的数据集上进行微调，学习调用五个工具：计算器、QA 系统、搜索引擎、翻译器和日历。
技术洞察
决定性的想法是自监督过滤目标。对于每个候选位置，Toolformer 都会比较插入 API 结果与不插入 API 结果时预测以下标记的损失。损失减少超过阈值的呼叫将被保留；无用或嘈杂的呼叫将被丢弃。这意味着不需要对“正确”工具使用进行人工注释，模型本身会决定哪些调用真正提供信息，并且它会共同学习放置和参数。
战略影响
成本与预算
多年来，架构决策决定着性能和运营成本。
更清晰的判决
技术教育帮助团队选择正确的堆栈，而不仅仅是最新的堆栈。
质量控制
更好的工程选择可以减少生产中的可靠性事故。
Toolformer 和自学工具使用的未来
Toolformer 为当今的工具使用和函数调用代理奠定了基础。前沿正在从固定的少数工具转向运行时发现的数十或数百个工具，模型会推理调用哪个工具、链接调用和处理故障。期望与强化学习和代理循环更紧密地集成，再加上新 API 的即时学习，以便自学工具的使用成为一种标准功能，而不是专门的微调。
现实世界的实施
在句子中间调用计算器 API 以获得精确的算术结果，而不是猜测数字答案。
查询搜索或 QA 系统以获取最新或很少见的事实信息。
调用机器翻译工具在生成的文本中呈现另一种语言的短语。
使用日历/日期工具将“下周五”等相对引用解析为具体日期。
风险与防护栏
优化一项基准测试可以隐藏更广泛的系统弱点。
基础设施和维护成本常常被低估。
随着系统变得更加复杂，安全性和可观察性差距可能会扩大。
实施路线图
在实施之前定义延迟、质量和成本目标。
在实际负载和数据条件下进行基准测试。
仪器监控错误、漂移和用户影响。
在扩展之前准备回滚和事件响应路径。
不断探索
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
常见问题
What is Toolformer and Self-Taught Tool Use?
Toolformer 是一种 2023 Meta AI 方法，可让语言模型自学何时以及如何调用计算器、搜索引擎和翻译器等外部工具。该模型不是人类标记工具调用，而是生成并过滤自己的训练示例，然后对真正有帮助的示例进行微调。
Toolformer 学习工具使用的方法有何独特之处？
Toolformer 是自我监督的：该模型提出候选 API 调用，执行它们，并仅保留有用的调用，无需人工注释正确用法。
Toolformer 使用哪个标准来决定是否保留候选 API 调用？
仅当插入其结果将模型对即将到来的真实文本的困惑/损失降低到阈值以上时，才会保留调用，表明它确实有用。
最初的 Toolformer 学会了使用哪组工具？
Toolformer 经过训练可以调用五个 API：计算器、问答系统、搜索引擎、机器翻译器和日历。
Toolformer 过程中工具调用如何在文本中表示？
候选调用及其返回的结果使用特殊标记内联插入到文本中，因此模型可以一起学习放置和参数。
大型语言模型的哪些潜在弱点促使 Toolformer 诞生？
尽管语言技能很强，但法学硕士在精确算术、最新事实和精确信息检索方面遇到了困难，而这些都是外部工具可以提供的。