引导式测验 · 硬等级

人工智能道德测验

测试影响人员、可操作的原则、问责制、有意义的人类权威、替代方案、持续审查和残余风险。

为什么伦理评价不能简化为一个模型分数？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

为什么伦理评价不能简化为一个模型分数？
- 分数从来没有用
- 这取决于目的、受影响人群、权衡和危害分布
- 道德仅涉及法律合规性
- 高分证明公平
服务对运营者方便，但对无法选择退出的人造成负担。伦理评估应询问哪些问题？
- 谁受益、承担额外工作并对设计有影响？
- 仅关注界面是否快速
- 模型是否开放权重
- 可以自动化多少功能
团队认为透明度重要。如何使这一原则可操作？
- 在产品描述中添加“透明”
- 公布模型的参数数量
- 让模型自行解释
- 指定用户需要哪些信息以及何时获得
为什么人类参与并非自动的伦理保障？
- 人类无法发现模型错误
- 人工审核总会使系统变慢
- 审核者需要相关权限和资源以影响结果
- 自动化总是更具伦理性
问责流程应识别哪些内容？
- 谁可以调查、纠正或停止不当结果
- 仅使用供应商的联系表单
- 模型的置信度得分
- 审核会议的次数
何时应重新审视伦理评估？
- 仅在采购前
- 在部署后使用、数据或反馈变化时
- 仅在模型架构更改时
- 批准后永不
一个更简单的非人工智能流程可以在减少负担的同时满足同样的需求。团队应该怎么做？
- 选择人工智能，因为它具有创新性
- 忽略人员配备和流程方面的选择
- 比较替代方案，而不是假设自动化程度越高越好
- 保留模型但删除用户反馈
审查报告应如何处理分歧和剩余风险？
- 从记录中删除分歧
- 将审查描述为安全保证
- 仅记录模型可以衡量的风险
- 记录两者，而不是声称审查证明不会发生任何伤害