引导式测验 · 硬 等级
对比学习测验
练习对比正对、嵌入崩溃和温度尺度相似性,包括 MoCo 队列与推理缓存的不同之处。
问题 1 的 8
对比学习的核心目标是什么?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- 对比学习的核心目标是什么?
- 在嵌入空间中将相似(正)对拉在一起并将不同(负)对推开
- 预测图像的精确像素值
- 将每个输入分类到一组固定标签中的一个
- 最小化模型参数的数量
- 在 SimCLR 这样的自监督图像方法中,通常如何创建正对?
- 同一标记类别的两个不同图像
- 图像和从数据集中随机选择的图像
- 同一图像的两次随机增强(例如裁剪、颜色抖动)
- 与其分割掩模配对的图像
- 哪种损失函数与对比学习最相关?
- 均方误差
- 信息NCE
- 类标签上的交叉熵
- SVM 的铰链损失
- 为什么像 MoCo 这样的方法使用内存库或队列?
- 存储标签以进行监督微调
- 缓存最终预测以加快推理速度
- 压缩移动设备的模型
- 提供许多反例而不需要巨大的批量大小
- BYOL 和 SimSiam 在不使用明确否定的情况下特别防范什么问题?
- 过度拟合训练标签
- 优化器中的梯度爆炸
- 表示崩溃,所有嵌入变得相同
- 学习率消失
- CLIP 如何扩展对比思想?
- 它将图像与其文本标题在共享嵌入空间中对齐
- 它对比了同一音频剪辑的两个增强
- 它消除了对任何神经网络的需要
- 它使用强化学习而不是相似性
- A contrastive image encoder maps every photo to the same vector. Which failure does this illustrate?
- A useful separation of image categories
- An increase in the number of negative samples
- A perfect nearest-neighbor representation
- Representation collapse
- Why is MoCo’s training queue different from caching completed inference responses?
- It serves final chatbot responses without model execution
- It supplies encoded comparison examples for a contrastive training objective
- It replaces every positive image with a label
- It removes the need to update any encoder