引导式测验 · 中等 等级
会员推断攻击测验
使用影子模型、LiRA 校准、差分隐私边界、误报和攻击评估来研究训练成员推理。
问题 1 的 8
成员推理攻击试图确定什么？
预览每个问题8 问题
当您参加测验时，就会出现答案和解释。
- 成员推理攻击试图确定什么？
- 特定记录是否是训练集的一部分
- 模型的准确性
- 模型的架构
- 测试集的大小
- 过度拟合如何影响研究模型中的隶属推理暴露？
- 它证明了每一条训练记录都是可以明确识别的
- 它消除了评估攻击错误的必要性
- 它可以增加成员与可比非成员之间的行为差异
- 它使所有输出独立于训练数据
- 2017 年 Shokri 等人最初采用了什么技术？攻击靠什么？
- 渐变裁剪
- 影子模型
- 集束搜索
- 代币化
- 为什么即使不泄露记录内容，成员资格推断也会有害？
- 它会减慢模型速度
- 它改变了模型的权重
- 它删除训练数据
- 会员资格本身可以披露敏感事实，例如诊断
- 什么校准可以将所引用的 LiRA 方法与单一的朴素损失阈值区分开来？
- 保证每条记录具有相同的固有难度
- 仅增加生成温度
- 从内部和外部模型估计的逐个示例分数分布
- 要求目标揭示其整个训练数据集
- 一个正确指定的差分隐私保证能限制什么？
- 相邻数据集之间输出概率的变化
- 保证没有任何攻击能够做出任何正确的猜测
- 强制删除所有模型输出
- 仅训练文件夹中的原始文件数量
- 攻击错误地将 1,000 个实际非成员中的 10 个标记为成员。它在这些非成员上的误报率是多少？
- 10%
- 0.1%
- 100%
- 1%
- 为什么 LiRA 论文强调低误报率下的真阳性率？
- 根据定义，误报是不可能的
- 平均准确率可能会掩盖被自信标记的记录是否是可靠的成员身份证据
- 每个成员和非成员群体必须具有相同的大小
- 模型的训练准确率直接给出了攻击精度