引导式测验 · 中等等级

即时注入攻击测验

通过工具遏制、层次结构培训、任务中断和多模式输入风险，审查指令信任边界和间接注入。

提示注入尝试可以利用哪种信任失效？

预览每个问题8 问题

当您参加测验时，就会出现答案和解释。

提示注入尝试可以利用哪种信任失效？
- 任务材料中的对抗性指令被视为权威命令并被遵循
- 要求每个模型加密其整个上下文
- 保证所有模型拥有管理员权限
- 要求每个模型始终服从每一次输入
间接提示注入与直接注入有何不同？
- 它仅适用于图像模型
- 它需要对服务器的物理访问
- 恶意指令存在于模型稍后读取的外部源中，而不是用户自己的消息中
- 这是开发商故意为之
所引用的间接注入分类法包含哪种可用性目标？
- 仅在每次攻击中窃取整个训练语料库
- 抑制有用回答或破坏搜索任务
- 仅更改GPU的物理内存大小
- 仅改进所有授权的搜索结果
最小权限工具权限如何限制成功注入的后果？
- 它们证明所有允许的操作在任何上下文中都是无害的
- 它们保证模型永不提出注入动作
- 它们消除了任何输出或动作验证的需要
- 它们限制工作流可用的操作和资源
指令层级研究旨在训练哪种行为？
- 按字母顺序排序所有检索到的单词
- 将每个网页视为比开发者更具权威性
- 在冲突的低优先级内容中优先遵循特权指令
- 使用图像密钥加密模型词汇表
为什么随着人工智能代理获得工具，即时注入变得更加危险？
- 受骗的代理现在可以采取实际行动，例如发送电子邮件、运行代码或泄露数据
- 代理使用工具运行速度更慢
- 工具使模型忘记其训练
- 工具使模型的困惑度加倍
为什么当应用接受多模态输入时，prompt-injection 评估应该覆盖图像？
- 图像保证所有指令都是可信的
- 图像只能包含一个数值标量
- 纯文本测试自动覆盖所有图像输入
- 对抗性指令可以嵌入图像通道
仅引用攻击指令不足以证明应用已被破坏吗？
- 每个引用的字符串必然改变系统权限
- 文本可能是合法的分析材料，且永远不会被执行为指令
- 攻击者必须先修改所有原始模型权重
- 没有授权用户可以讨论安全攻击