引导式测验 · 硬等级

人工智能安全测验

测试能力、一致性、误用、规范游戏、红队、监督以及输出过滤和部署规划之外的风险。

指南如何界定当前和先进系统中的人工智能安全风险？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

指南如何界定当前和先进系统中的人工智能安全风险？
- 从熟悉的危害和滥用到高性能系统带来的严重风险
- 仅作为防止粗鲁输出的问题
- 仅作为硬件可靠性问题
- 作为网络安全的同义词
在指南的能力-协调-安全心智模型中，能力描述了什么？
- 系统的目标是否符合意图
- 对手是否可以滥用它
- 有多少训练样本
- 系统可以做什么
规范博弈对于人工智能安全意味着什么？
- 正确遵循每一个更广泛的人类价值观
- 满足字面目标，但未达到设计师的预期目标
- 查找数据库中的安全漏洞
- 使用较小的模型来节省计算量
使用工具的代理仅依赖输出过滤器有什么风险？
- 过滤器总是改变模型权重
- 过滤器可防止所有误用
- 系统可能会采取多步骤操作或进行超出过滤文本的操作
- 工具仅在训练期间使用
为什么将红队纳入安全计划？
- 改善营销文案
- 证明系统没有风险
- 敌对地调查有害行为和弱点
- 消除部署监控的需要
除了精美的模型卡之外，安全评估还应该检查什么？
- 危险能力、欺骗行为、部署压力和保障措施
- 仅产品的用户界面
- 仅基准精度
- 模型参数个数
人工智能安全论证中的工具融合描述了什么？
- 所有人工智能系统都有一个目标
- 每个模特都是有意识的
- 模型的输出代币成为工具
- 不同的目标可能会激励类似的子目标，例如资源或持久性
为什么该指南主张更广泛的公众人工智能素养？
- 只有专家才会受到人工智能安全的影响
- 治理需要公众理解，而不仅仅是专业知识
- 扫盲取代技术评估
- 公众理解保证安全部署