概述
好处和坏处不一定是平等分享的。评估需要考虑访问、权力、责任、围绕技术所做的选择以及技术性能。
主要要点
- 将受影响的非用户纳入分析中。
- 评估访问和挑战结果的能力。
- 衡量实际影响并修改系统。
深入探讨
确定受影响的人员，包括不直接使用该系统的人员。自动化服务可以改变获得帮助的方式、人们看到的信息或员工期望的工作。仅测量操作员的效率可能会忽略这些影响。考虑分配和参与。语言覆盖范围、残疾人无障碍、连通性、成本和挑战结果的能力可以决定谁受益。在定义问题和评估建议的解决方案时咨询受影响的社区。信息环境需要特别小心。生成的内容可以增加对解释的访问，同时也放大误导性材料。出处、更正和透明的证据可以帮助读者评估声明，而无需盲目信任平台。将治理视为一个持续的过程。跟踪实际结果、调查投诉并在用途或影响发生变化时修改系统。避免假设一种模型改进会自动产生广泛的社会成果。制度和政策选择决定了能力的部署方式以及谁承担其后果。
04工作示例
包括普通用户之外的人
想象一下，一项服务将重要的帮助转移到纯人工智能聊天界面。
测试连接不可靠、不常见问题和辅助技术的用户的体验。
衡量是否仍有工作人员或替代路线可用，以及未解决的案件是否得到有效的跟进。
它显示了什么
构建的示例将评估从平均交互速度扩展到访问和问责制。
现实世界的实施
评估跨语言和无障碍需求的公共信息服务。
发布更正程序和源链接以及生成的解释。
付诸实践
为什么这很重要
- 风险与安全. 灾难性和日常的人工智能危害都取决于谁了解风险以及谁能够采取行动。
- 更清晰的判决. 公众和专业素养决定强有力的安全政策在政治上是否可行。
- 打破炒作. 清晰的解释可以减少炒作、实验室公关和模糊道德剧场的影响。
留意
- 将存在风险视为科幻小说，同时能力复合。
- 混淆了表面产品安全与高度自治下的对准。
- 只给非英语和非专业观众留下低质量的资源。
后续步骤
- 单独的产品危害、误用和失控/失调风险。
- 询问哪些证据会改变您对时间表和严重性的看法。
- 比起营销主张，更喜欢主要来源和具体评估。
- 确定一条行动路径：职业、政策、资金或技能——而不仅仅是意识。
资料来源与延伸阅读
- UNESCO关于人工智能伦理的建议
不断探索
常见问题
同样的人工智能技术在任何地方都会产生同样的社会效应吗？
不会。机构、资源、语言、政策和部署选择可能会产生截然不同的结果。