概述
自洽是一种解码策略，它从语言模型中采样许多不同的推理路径，然后选择大多数人都同意的答案。这很重要，因为单一的贪婪答案可能是错误的，而不同尝试的共识往往是正确的。
自一致性解码是语言人工智能堆栈的一部分，用于大规模读取、生成、分类和转换文本和语音。
深入探讨
由 Google 研究人员于 2022 年引入，自一致性取代了通常的“贪婪”解码，即模型通过采样和投票方法在每一步承诺单个最有可能的下一个标记。这一想法建立在思维链提示的基础上：模型被要求逐步推理，但它不是生成一条链，而是使用非零温度对许多不同的链进行采样。每条链可能采取不同的路线，但正确的推理往往会收敛于相同的最终答案，而错误则分散在不同的方向。然后系统对最终答案进行多数投票。这个简单的改变在算术和常识推理基准（例如 GSM8K）上产生了巨大的进步，通常无需任何重新训练即可实现两位数的精度提升。
技术洞察
该方法利用了这样的直觉：有许多有效的方法可以得出正确的答案，但有无数的方法会导致错误。通过对 40 个温度高于零的链进行采样，该模型会产生不同的推理。只有最终答案是通过边缘化式的多数投票来汇总的；推理文本被丢弃。准确性通常会随着样本的增加而提高，但回报会递减，用额外的推理计算来换取可靠性。它不需要标记数据或微调。
掌握自一致性解码
自洽是一种解码策略，它从语言模型中采样许多不同的推理路径，然后选择大多数人都同意的答案。这很重要，因为单一的贪婪答案可能是错误的，而不同尝试的共识往往是正确的。自一致性解码是语言人工智能堆栈的一部分，用于大规模读取、生成、分类和转换文本和语音。为了建立深入的理解，请将自一致性解码视为一种操作模型，而不是单个功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，强大的团队使用自一致性解码将提示、检索和审查循环设计为一个集成的通信系统。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
语言工作流程可以在不牺牲一致性的情况下更快地移动。与此同时，幻觉事实可以悄悄地进入报告、支持流程或研究成果。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
语言工作流程可以在不牺牲一致性的情况下更快地移动。
语言工作流程可以在不牺牲一致性的情况下更快地移动。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
它扩展了跨语言和沟通方式的访问。
它扩展了跨语言和沟通方式的访问。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
团队可以花更多时间进行判断，而自动化则可以处理重复。
团队可以花更多时间进行判断，而自动化则可以处理重复。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
通过对许多解决方案路径进行采样并对最终数字进行投票，提高小学数学应用题 (GSM8K) 的准确性。
提高多步骤常识性问题回答的可靠性，其中单个链可能会因一个推论而出错。
通过检查样本中哪个输出最一致，提高对代码生成答案的信心。
加强符号或逻辑推理任务，其中不同的推导应汇聚成一个正确的结论。
实施模式
自一致性解码实践
通过对许多解决方案路径进行采样并对最终数字进行投票，提高小学数学应用题 (GSM8K) 的准确性。
通过对许多解决方案路径进行采样并对最终数字进行投票来提高小学数学应用题 (GSM8K) 的准确性 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
自一致性解码实践
提高多步骤常识性问题回答的可靠性，其中单个链可能会因一个推论而出错。
提高多步骤常识性问题解答的可靠性，其中单个链可能会在一个推理上出错。当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会得到更好的结果。
自一致性解码实践
通过检查样本中哪个输出最一致，提高对代码生成答案的信心。
通过检查样本中哪个输出最一致，提高对代码生成答案的信心当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
自一致性解码实践
加强符号或逻辑推理任务，其中不同的推导应汇聚成一个正确的结论。
加强符号或逻辑推理任务，其中不同的推导应该收敛到一个正确的结论当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
风险与防护栏
幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
及时的敏感性可能会在类似的请求中产生不一致的结果。
如果访问控制薄弱，敏感文本数据可能会暴露。
实施路线图
在推出之前定义输出格式、语气和质量标准。
在推出之前定义输出格式、语气和质量标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
当准确性很重要时，请使用可信来源进行地面响应。
当准确性很重要时，请使用可信来源进行地面响应。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为高风险输出保留人工审查检查点。
为高风险输出保留人工审查检查点。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪故障模式并定期重新训练提示或工作流程。
跟踪故障模式并定期重新训练提示或工作流程。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。