引导式测验 · 中等 等级

自玩微调测验

探索围棋中的自我对弈和语言模型训练,将 AlphaGo Zero 与 AlphaZero 进行比较,并检查固定数据信号和合成数据风险。

相关引导路径自玩微调
问题 1 的 8

哪个著名的系统仅通过自我对弈而没有人类对局记录就达到了超人的围棋水平?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. 哪个著名的系统仅通过自我对弈而没有人类对局记录就达到了超人的围棋水平?
    • 阿尔法狗零式
    • 深蓝
    • 沃森
    • GPT-2
  2. 在SPIN中,模型必须击败的“对手”扮演什么角色?
    • 单独的人工训练奖励模型
    • 模型自己的先前检查点及其生成的响应
    • 随机文本生成器
    • 分词器
  3. 自对弈微调的主要数据效率优势是什么?
    • 每轮都需要一个全新的人类数据集
    • 它仅适用于无限数据
    • 它可以从固定数据集中提取更多收益,而无需新的人工标签
    • 它根本不需要模型
  4. 在SPIN的训练目标中,模型被推动做什么?
    • 更喜欢自己生成的答案而不是人类参考
    • 忽略所有人类数据
    • 记住测试集
    • 为人类参考响应分配比其先前输出更高的可能性
  5. AlphaZero 论文在其围棋实验之外,还演示了哪两种游戏?
    • 国际象棋和将棋
    • 扑克牌和桥牌
    • 跳棋和奥赛罗
    • 雅达利和星际争霸
  6. 当语言模型根据生成的数据进行递归训练时,研究人员报告了哪些风险?
    • 模型崩溃,失去多样性和原始分布的代表性
    • 保证每次迭代的单调改进
    • 自动防止分配班次
    • 经过验证的人类标签数量更多
  7. AlphaGo Zero 在自我对弈中使用什么搜索组件?
    • 人类游戏记录的最近邻查找
    • 语言模型分词器
    • 由政策和价值网络引导的蒙特卡罗树搜索
    • 固定的开局动作列表
  8. 为什么自动检查器在数学或代码任务的自玩中很有用?
    • 他们保证模型永远不会学习错误的策略
    • 它们取代了对任务规范的需求
    • 它们使所有生成的示例独立于模型
    • 他们可以验证生成的解决方案,而无需为每次尝试添加新的人工标签