概述
它可以支持测试、模拟或模型开发。它的价值取决于它保留的属性，并且合成并不会自动使其变得准确、具有代表性或私密性。
主要要点
- 将生成的属性与预期用途相匹配。
- 保持来源和真实/合成的区别。
- 分别评估隐私和实用性。
深入探讨
从目的开始。接口测试记录需要有效的形状和边缘情况；训练数据集可能需要有意义的关系和罕见的条件。适合检查表格的数据集不一定适合估计人口统计数据。记录数据的生成方式以及影响数据的真实信息。基于规则的生成、模拟、统计采样和生成模型会产生不同类型的错误。使生成的记录与数据沿袭中观察到的记录区分开来。评估特定下游任务的效用。在适当的情况下比较独立的真实世界测试集的结果，并检查子组覆盖范围。即使整体分布看起来合理，综合记录也可以放大生成器的假设或忽略不常见的情况。单独评估隐私。生成器可以从其源数据中复制信息，并且删除明显的标识符并不是普遍的隐私保证。差异隐私是一种形式框架，但其保证取决于实际的机制和参数。独立审查有关隐私和实用性的主张，而不是假设其中一个暗示另一个。
04工作示例
将测试实用程序与统计实用程序分开
创建 50 个虚构的支持票证，涵盖空消息、长消息、多种语言和重复的请求标识符。
使用它们来测试界面和工作流程行为。他们精心选择的分布并没有估计真实客户遇到每个问题的频率。
使用独立收集、适当管理的观察结果来进行人口索赔。
它显示了什么
这个构建的示例识别了有效的测试用途，而无需将生成的频率作为现实世界的证据。
现实世界的实施
生成明显虚构的记录来测试缺失的字段和边界值。
将合成增强策略与未更改的真实数据基线进行比较。
付诸实践
为什么这很重要
- 风险与安全. 灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
- 更清晰的判决. 公众和专业素养决定强有力的安全政策在政治上是否可行。
- 打破炒作. 清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
留意
- 将存在风险视为科幻小说，同时能力复合。
- 混淆了表面产品安全与高度自治下的对准。
- 只给非英语和非专业观众留下低质量的资源。
后续步骤
- 单独的产品危害、误用和失控/失调风险。
- 询问哪些证据会改变您对时间表和严重性的看法。
- 比起营销主张，更喜欢主要来源和具体评估。
- 确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
资料来源与延伸阅读
- NIST差异隐私保证评估指南
不断探索
常见问题
合成数据会自动匿名吗？
不会。某些生成方法可以揭示有关源记录的信息。隐私需要适当的威胁模型和切实的保证。