引导式测验 · 硬 等级

对比学习测验

练习对比正对、嵌入崩溃和温度尺度相似性,包括 MoCo 队列与推理缓存的不同之处。

相关引导路径对比学习
问题 1 的 8

对比学习的核心目标是什么?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. 对比学习的核心目标是什么?
    • 在嵌入空间中将相似(正)对拉在一起并将不同(负)对推开
    • 预测图像的精确像素值
    • 将每个输入分类到一组固定标签中的一个
    • 最小化模型参数的数量
  2. 在 SimCLR 这样的自监督图像方法中,通常如何创建正对?
    • 同一标记类别的两个不同图像
    • 图像和从数据集中随机选择的图像
    • 同一图像的两次随机增强(例如裁剪、颜色抖动)
    • 与其分割掩模配对的图像
  3. 哪种损失函数与对比学习最相关?
    • 均方误差
    • 信息NCE
    • 类标签上的交叉熵
    • SVM 的铰链损失
  4. 为什么像 MoCo 这样的方法使用内存库或队列?
    • 存储标签以进行监督微调
    • 缓存最终预测以加快推理速度
    • 压缩移动设备的模型
    • 提供许多反例而不需要巨大的批量大小
  5. BYOL 和 SimSiam 在不使用明确否定的情况下特别防范什么问题?
    • 过度拟合训练标签
    • 优化器中的梯度爆炸
    • 表示崩溃,所有嵌入变得相同
    • 学习率消失
  6. CLIP 如何扩展对比思想?
    • 它将图像与其文本标题在共享嵌入空间中对齐
    • 它对比了同一音频剪辑的两个增强
    • 它消除了对任何神经网络的需要
    • 它使用强化学习而不是相似性
  7. A contrastive image encoder maps every photo to the same vector. Which failure does this illustrate?
    • A useful separation of image categories
    • An increase in the number of negative samples
    • A perfect nearest-neighbor representation
    • Representation collapse
  8. Why is MoCo’s training queue different from caching completed inference responses?
    • It serves final chatbot responses without model execution
    • It supplies encoded comparison examples for a contrastive training objective
    • It replaces every positive image with a label
    • It removes the need to update any encoder