概述
应用程序或提供者执行操作并返回结果。提出工具调用的模型与成功调用的模型不同，并且两者都与用户正在完成的整体任务不同。
主要要点
- 验证权威和论证形式。
- 针对副作用设计安全重试。
- 验证结果状态。
深入探讨
定义每个工具的用途、输入模式、输出形状和副作用。范围狭窄的操作比通用命令界面更容易验证。工具描述应解释何时该操作是适当的，而不授予模型权限超出用户的请求。验证应用程序代码中的输入和权限。格式良好的论证仍然可以识别出错误的账户、目的地或金额。对工具描述保密，并仅返回允许请求用户访问的信息。明确处理错误和不确定的结果。外部操作完成之前或之后可能会发生网络超时。尽可能使用操作标识符或回读检查，以便重试不会重复已完成的操作。执行后，提供准确的结果并验证预期状态。将网站或文档返回的文本视为不可信内容；它不能仅仅因为它是通过工具到达的而授权新的操作。测试取消、格式错误的响应、撤销访问和部分完成是完整工具使用循环的一部分。
04工作示例
重试而不重复工作
想象一下任务创建工具接受请求标识符 demo-17。任务创建后响应超时。
在创建另一个任务之前查找 demo-17。如果服务支持幂等性，请重复使用相同的标识符进行重试。
仅在确认结果任务及其内容后报告完成情况。
它显示了什么
这个构造的例子将不确定的传输与外部行为的实际结果分开。
现实世界的实施
在提出更新之前获取当前记录。
文件保存后返回操作标识符和验证结果。
付诸实践
为什么这很重要
- 速度与规模. 语言工作流程可以在不牺牲一致性的情况下更快地移动。
- 交通与覆盖范围. 它扩展了跨语言和沟通方式的访问。
- 更清晰的判决. 团队可以花更多时间进行判断，而自动化则可以处理重复。
留意
- 幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
- 及时的敏感性可能会在类似的请求中产生不一致的结果。
- 如果访问控制薄弱，敏感文本数据可能会暴露。
后续步骤
- 在推出之前定义输出格式、语气和质量标准。
- 当准确性很重要时，请使用可信来源进行地面响应。
- 为高风险输出保留人工审查检查点。
- 跟踪故障模式并定期重新训练提示或工作流程。
资料来源与延伸阅读
- Anthropic工具的使用原理
不断探索
常见问题
模型是否仅通过命名来执行函数？
否。应用程序或工具提供商执行操作。必须处理、授权和检查结构化请求。