概述
保护隐私需要了解完整的数据流。隐藏名称或在本地使用模型并不能自动解决所有隐私风险。
主要要点
- 绘制所有处理和保留位置的地图。
- 尽量减少任务的信息。
- 验证对派生数据和原始数据的控制。
深入探讨
确定进入系统的内容以及可以从中推断出的内容。提示、文档、图像、录音、工具结果和使用日志都可能包含个人信息。记录哪些提供商和内部服务处理每个类别。仅收集任务需要的内容并设置保留策略。将临时上下文与保存的内存、分析、调试日志和培训使用分开。用户应该能够理解相关设置，而不必依赖助手对其自身行为的不受支持的陈述。对原始数据和派生数据应用访问控制。即使原始上传被删除，搜索索引、嵌入、缓存的响应和导出的报告也可以显示信息。通过实际应用测试删除和账户隔离。仔细评估技术隐私声明。去识别化和合成数据可能存在局限性，而差异隐私等正式方法则取决于其机制和参数。处理后续数据时，请利用适当的专业知识审查预期用途、威胁模型和适用的要求。
04工作示例
最小化支持示例
假设一个团队需要一个示例消息来测试分类。原件包括完整的地址、订单号和不相关的医疗详细信息。
使用明显虚构的占位符替换或删除测试不需要的字段。
将任何剩余的真实信息保留在记录的访问和保留控制下，而不是假设样本是匿名的。
它显示了什么
这种假设性的练习减少了不必要的暴露，而不声称简单的编辑就证明了匿名性。
现实世界的实施
在将文档发送给授权服务机构之前，请删除不相关的个人详细信息。
验证已删除的文档不再出现在用户的检索结果中。
付诸实践
为什么这很重要
- 风险与安全. 灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
- 更清晰的判决. 公众和专业素养决定强有力的安全政策在政治上是否可行。
- 打破炒作. 清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
留意
- 将存在风险视为科幻小说，同时能力复合。
- 混淆了表面产品安全与高度自治下的对准。
- 只给非英语和非专业观众留下低质量的资源。
后续步骤
- 单独的产品危害、误用和失控/失调风险。
- 询问哪些证据会改变您对时间表和严重性的看法。
- 比起营销主张，更喜欢主要来源和具体评估。
- 确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
资料来源与延伸阅读
不断探索
常见问题
设备上的模型是否自动私有？
本地处理可以减少一些传输，但隐私还取决于日志、存储、连接服务、权限以及输出的使用方式。