引导式测验 · 中等 等级
布拉德利-特里奖励建模测验
了解 Bradley-Terry 如何将成对选择转化为分数、支持奖励建模以及与常见排名系统的关系。
问题 1 的 8
Bradley-Terry 模型将什么转换为数字分数?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- Bradley-Terry 模型将什么转换为数字分数?
- 成对比较哪个项目是首选
- 绝对 1 到 10 评级
- 原始像素值
- 时间序列测量
- 在 Bradley-Terry 中,A 击败 B 的概率是什么函数?
- 他们的分数的乘积
- 他们的分数之间的差异的逻辑
- 他们的代币数量比例
- 无论分数如何,固定 50%
- 为什么布拉德利-特里奖励只能在加性常数范围内识别?
- 因为分数之和必须为一
- 因为人类不会数数
- 因为损失仅取决于分数差异
- 因为 sigmoid 删除了所有信息
- 奖励模型中单个偏好比较的标准损失是多少?
- 针对 1 到 10 标签的均方误差
- 完整词汇表的交叉熵
- 令牌长度的绝对差
- 负对数乙状结肠(选择的奖励减去拒绝的奖励)
- 哪种方法通过直接在策略上优化 Bradley-Terry 目标来跳过单独的奖励模型?
- 直接偏好优化 (DPO)
- 近端策略优化 (PPO)
- 批量归一化
- 渐变裁剪
- 布拉德利-特里假设的主要限制是什么?
- 它需要 GPU 来计算
- 它假设一个一致的、可传递的排名,当偏好循环时,这个排名可能会被打破
- 它仅适用于图像
- 它不能处理超过三个项目
- Why can pairwise judgments be easier to collect than absolute quality scores?
- Pairwise choices never contain disagreement
- Absolute scores cannot be used for training
- A rater can compare two candidates directly without calibrating a numeric scale
- A pairwise label reveals every feature of the reward model
- Which familiar ranking system is mathematically related to Bradley-Terry-style pairwise scoring?
- PageRank for web pages
- TF-IDF for document terms
- A Fourier transform for audio
- Elo ratings