概述
这使得整合变得更容易,但结构有效性并不能建立事实的正确性。有效的对象仍然可能包含发明的值或不适当的决定。
主要要点
- 定义缺失值和版本控制规则。
- 处理不完整或拒绝的输出。
- 模式验证后检查事实关系。
深入探讨
在生成输出之前指定字段、类型、允许的值和缺失值行为。日期字符串、数字金额和源标识符列表需要不同的验证。定义是否接受其他字段以及缺失值是否与显式空值不同。提供商执行结构的方式各不相同。有些限制生成针对受支持的模式;其他人则依赖事后的提示和验证。检查支持的架构功能,并仍然在应用程序边界处理拒绝、截断、超时和格式错误的响应。验证形状后的含义。提取的总数应与文件和任何适用的算术一致。引用的来源标识符必须引用实际提供的来源。模式通常不能仅通过类型检查来决定这些关系。保留具有存储输出的架构版本,并在更改之前定义兼容性规则。下游系统应拒绝或明确适应不兼容的版本。当所需的证据不存在时,避免默默地用捏造的默认值替换。
04工作示例
捕获有效但不正确的对象
使用小计为 50、税费为 5、总计为 55 的发明收据。模型返回包含总计:550 的有效对象。
该值通过了数字类型检查,但无法与源和小计加税关系进行比较。
将其标记为更正并保留支持文本,而不是接受模式有效性作为证据。
它显示了什么
该练习将结构验证与基于证据的验证区分开来。
现实世界的实施
提取具有明确缺失值和来源参考的发票字段。
根据受支持标签的有限列表验证分类输出。
付诸实践
为什么这很重要
- 速度与规模. 语言工作流程可以在不牺牲一致性的情况下更快地移动。
- 交通与覆盖范围. 它扩展了跨语言和沟通方式的访问。
- 更清晰的判决. 团队可以花更多时间进行判断,而自动化则可以处理重复。
留意
- 幻觉的事实可以悄悄地进入报告、支持流程或研究成果。
- 及时的敏感性可能会在类似的请求中产生不一致的结果。
- 如果访问控制薄弱,敏感文本数据可能会暴露。
后续步骤
- 在推出之前定义输出格式、语气和质量标准。
- 当准确性很重要时,请使用可信来源进行地面响应。
- 为高风险输出保留人工审查检查点。
- 跟踪故障模式并定期重新训练提示或工作流程。
资料来源与延伸阅读
- JSON SchemaJSON 架构对象参考
不断探索
常见问题
有保证的 JSON 是否意味着有保证的正确答案?
不。JSON 有效性涉及语法和结构。这些值仍然需要根据任务和证据进行验证。