概述
对比解码通过从大而强的语言模型的倾向中减去小而弱的语言模型的倾向来生成更高质量的文本。它放大了专家知道的和业余爱好者错过的东西，减少了重复和乏味的输出。
对比解码是语言人工智能堆栈的一部分，用于大规模读取、生成、分类和转换文本和语音。
深入探讨
当语言模型选择下一个单词时，它会生成其词汇表的概率。对比解码（由 Li 等人于 2022 年提出）在同一上下文中运行两个模型：一个大的“专家”和一个小的“业余”。它不相信专家的原始概率，而是根据专家的对数概率和业余爱好者的对数概率之间的差异对每个候选标记进行评分。专家青睐的代币，但业余爱好者却得不到提升；两个模特都喜欢的通用词（比如“the”或重复的短语）会被抑制，因为业余爱好者也喜欢它们。合理性过滤器首先丢弃专家认为不太可能的标记，因此对比永远不会促进无意义。与贪婪或核心采样相比，结果是更流畅、连贯、重复性更少的长文本，并且不需要额外的训练。
技术洞察
核心分数是 log p_expert(token) 减去系数乘以 log p_amateur(token)。因为业余爱好者共享专家的系统错误（偏爱高频标记、循环、简并重复），所以减去其对数概率可以消除这些共享的故障模式，同时保留真正的专家知识。自适应合理性约束仅使标记高于顶级专家概率的一小部分（α），从而防止对比放大罕见的、不连贯的单词。
掌握对比解码
对比解码通过从大而强的语言模型的倾向中减去小而弱的语言模型的倾向来生成更高质量的文本。它放大了专家知道的和业余爱好者错过的东西，减少了重复和乏味的输出。对比解码是语言人工智能堆栈的一部分，用于大规模读取、生成、分类和转换文本和语音。为了建立深入的理解，请将对比解码视为一种操作模型，而不是单个功能：定义期望的结果，澄清假设，并将系统可以可靠地完成的任务与仍需要专家判断的任务分开。
在实践中，使用对比解码的强大团队将提示、检索和审查循环设计为一个集成的通信系统。他们记录明确的成功标准，根据实际数据和工作流程进行测试，并根据观察到的失败模式而不是一次性基准测试胜利进行迭代。这就是理论理解转变为跨产品、政策和运营的持久能力的地方。
语言工作流程可以在不牺牲一致性的情况下更快地移动。与此同时，幻觉事实可以悄悄地进入报告、支持流程或研究成果。最具弹性的方法是将实验速度与治理规则结合起来：运行试点、捕获证据、发布决策日志，并随着模型行为、用户期望和监管要求的发展不断更新保障措施。
战略影响
语言工作流程可以在不牺牲一致性的情况下更快地移动。
语言工作流程可以在不牺牲一致性的情况下更快地移动。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
它扩展了跨语言和沟通方式的访问。
它扩展了跨语言和沟通方式的访问。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
团队可以花更多时间进行判断，而自动化则可以处理重复。
团队可以花更多时间进行判断，而自动化则可以处理重复。在高质量部署中，这会转化为可衡量的操作规则、所有权边界和定期审查仪式，以便团队可以增强信心，而不是扩大模糊性。
现实世界的实施
生成长的、非重复的故事或文章延续，其中核心采样陷入循环
将 65B 专家与 1.5B 业余爱好者配对，无需微调即可改进开放式生成
减少摘要和对话输出中的退化重复
作为 DoLa 式自我对比的基础，以降低事实幻觉
实施模式
对比解码实践
生成长的、非重复的故事或文章延续，其中核心采样陷入循环。
生成长的、非重复性的故事或文章延续，其中核心采样陷入循环当团队预先定义质量阈值、为边缘情况保留人工升级路径并跟踪一段时间内的生产力增益和错误成本时，通常会得到更好的结果。
对比解码实践
将 65B 专家与 1.5B 业余爱好者配对，无需微调即可改进开放式生成。
将 65B 专家与 1.5B 业余爱好者配对，无需微调即可改进开放式生成 当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
对比解码实践
减少摘要和对话输出中的退化重复。
减少摘要和对话输出中的退化重复当团队预先定义质量阈值、为边缘情况保留人工升级路径并随着时间的推移跟踪生产力增益和错误成本时，通常会得到更好的结果。
对比解码实践
作为多拉式自我对比的基础，以降低事实幻觉。
作为 DoLa 式自我对比的基础，以降低事实幻觉 团队在预先定义质量阈值、为边缘情况保留人性化升级路径、并随着时间的推移跟踪生产力增益和错误成本时，通常会获得更好的结果。
风险与防护栏
幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
及时的敏感性可能会在类似的请求中产生不一致的结果。
如果访问控制薄弱，敏感文本数据可能会暴露。
实施路线图
在推出之前定义输出格式、语气和质量标准。
在推出之前定义输出格式、语气和质量标准。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
当准确性很重要时，请使用可信来源进行地面响应。
当准确性很重要时，请使用可信来源进行地面响应。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
为高风险输出保留人工审查检查点。
为高风险输出保留人工审查检查点。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。
跟踪故障模式并定期重新训练提示或工作流程。
跟踪故障模式并定期重新训练提示或工作流程。将每个步骤视为证据门：如果不满足标准，则暂停推出，缩小差距，然后再扩大使用。