技术指南

计划与解决提示

计划与解决 (PS) 提示告诉语言模型首先设计一个明确的计划,然后逐步执行它,修复简单的“让我们一步一步思考”提示留下的失败。

概述

计划与解决 (PS) 提示告诉语言模型首先设计一个明确的计划,然后逐步执行它,修复简单的“让我们一步一步思考”提示留下的失败。这是一个简单的提示调整,无需任何额外的培训即可有意义地增强多步骤推理。

计划和解决提示是一个技术构建块,会大规模影响模型质量、基础设施成本、延迟和可靠性。

深入探讨

Lei Wang 及其同事在 2023 年的 ACL 论文中介绍,计划与解决提示是针对零样本思维链中特定弱点的回应:模型经常跳过步骤、错误计算或误读问题。 PS 将单一指令“让我们一步一步思考”替换为由两部分组成的指令:“让我们首先了解问题并制定解决方案”。那么,我们就按照计划一步一步地解决问题吧。增强版 PS+ 添加了提取相关变量、计算中间结果和注意数字的提醒。在 GSM8K 和 SVAMP 等基准测试中,PS+ 通过少量的思考链缩小了大部分差距,同时不需要提示中的有效示例。

技术洞察

该机制纯粹是在提示中:通过在执行前询问计划,PS 会改变模型的自回归生成,因此它首先产生高级子目标,然后条件化随后的详细推理标记。这种分离减少了“遗漏步骤”和计算错误。 PS+ 通过明确命名变量和中间量来进一步引导注意力,充当自行生成的支架,而不是依赖于手写的示例。

Mastering Plan-and-Solve Prompting

计划与解决 (PS) 提示告诉语言模型首先设计一个明确的计划,然后逐步执行它,修复简单的“让我们一步一步思考”提示留下的失败。这是一个简单的提示调整,无需任何额外的培训即可有意义地增强多步骤推理。计划和解决提示是一个技术构建块,会大规模影响模型质量、基础设施成本、延迟和可靠性。为了建立深入的理解,请将计划和解决提示视为一种操作模型,而不是单一功能:定义期望的结果,澄清假设,并将系统可以可靠地执行的操作与仍需要专家判断的操作分开。

在实践中,强大的团队使用计划和解决提示来根据可靠性和成本优化架构、数据和基础设施选择。他们记录明确的成功标准,根据实际数据和工作流程进行测试,并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。

多年来,架构决策决定着性能和运营成本。与此同时,优化一个基准测试可以隐藏更广泛的系统弱点。最具弹性的方法是将实验速度与治理规则结合起来:运行试点、捕获证据、发布决策日志,并随着模型行为、用户期望和监管要求的发展不断更新保障措施。

战略影响

多年来,架构决策决定着性能和运营成本。

多年来,架构决策决定着性能和运营成本。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

技术教育帮助团队选择正确的堆栈,而不仅仅是最新的堆栈。

技术教育帮助团队选择正确的堆栈,而不仅仅是最新的堆栈。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

更好的工程选择可以减少生产中的可靠性事故。

更好的工程选择可以减少生产中的可靠性事故。在高质量部署中,这会转化为可衡量的操作规则、所有权边界和定期审查仪式,以便团队可以增强信心,而不是扩大模糊性。

The Future of Plan-and-Solve Prompting

计划和解决的思维现在已经融入到代理框架和“推理”模型中,这些模型本身就将计划与执行分开。预计规划提示将与工具使用、自我验证和树搜索方法合并,并成为训练有素模型中的内部默认行为,而不是手动提示。持久的教训是,在行动之前分解任务是一种廉价的、可广泛转移的可靠性增益。

现实世界的实施

解决多步骤小学数学应用题 (GSM8K),其中模型首先列出数量,然后按顺序计算它们。

在编写任何实现代码之前指导编码助理概述功能和边缘情况。

构建客户支持代理,首先确定用户的根本目标,然后按顺序解决解决步骤。

将复杂的数据分析请求分解为“规划查询”和“运行并组合结果”阶段。

实施模式

Plan-and-Solve Prompting in practice

解决多步骤小学数学应用题 (GSM8K),其中模型首先列出数量,然后按顺序计算它们。

解决多步骤小学数学应用题 (GSM8K),其中模型首先列出数量,然后按顺序计算它们。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

Plan-and-Solve Prompting in practice

在编写任何实现代码之前指导编码助理概述功能和边缘情况。

在编写任何实施代码之前指导编码助理概述功能和边缘情况当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会获得更好的结果。

Plan-and-Solve Prompting in practice

构建客户支持代理,首先确定用户的根本目标,然后按顺序解决解决步骤。

构建客户支持代理,首先确定用户的根本目标,然后对解决步骤进行排序。当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时,通常会得到更好的结果。

Plan-and-Solve Prompting in practice

将复杂的数据分析请求分解为“规划查询”和“运行并组合结果”阶段。

将复杂的数据分析请求分解为“规划查询”,然后是“运行并组合结果”阶段。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力提升和错误成本时,通常会获得更好的结果。

风险与防护栏

!

优化一项基准测试可以隐藏更广泛的系统弱点。

!

基础设施和维护成本常常被低估。

!

随着系统变得更加复杂,安全性和可观察性差距可能会扩大。

实施路线图

1

在实施之前定义延迟、质量和成本目标。

在实施之前定义延迟、质量和成本目标。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

2

在实际负载和数据条件下进行基准测试。

在实际负载和数据条件下进行基准测试。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

3

仪器监控错误、漂移和用户影响。

仪器监控错误、漂移和用户影响。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

4

在扩展之前准备回滚和事件响应路径。

在扩展之前准备回滚和事件响应路径。将每个步骤视为证据门:如果不满足标准,则暂停推出,缩小差距,然后再扩大使用。

不断探索