引导式测验 · 硬 等级

InfoNCE 和 SimCLR 目标测验

检查 InfoNCE 正负物镜、SimCLR 的视图和投影头,以及温度和批量大小的作用。

相关引导路径信息和模拟目标
问题 1 的 8

InfoNCE 目标鼓励模型做什么?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. InfoNCE 目标鼓励模型做什么?
    • 使查询更类似于其真正的肯定而不是许多否定
    • 记住每张图像的精确像素值
    • 最小化模型参数的数量
    • 预测句子中的下一个单词
  2. 在 SimCLR 中,如何创建正对?
    • 通过将图像与其人类标签配对
    • 通过对同一图像应用两种不同的随机增强
    • 通过选择两个完全不同的图像
    • 通过旋转整个数据集
  3. 温度 τ 在 NT-Xent / InfoNCE 中起什么作用?
    • 它设置学习率
    • 自动控制批量大小
    • 它缩放相似度分数;较低的 τ 使分布变得尖锐并强调硬负例
    • 它决定编码器中的层数
  4. 预训练后 SimCLR 的投影头会发生什么变化?
    • 成为最终的分类器
    • 它被冻结并用作编码器
    • 为了推理而重复
    • 它被丢弃; head之前的表示用于下游任务
  5. 为什么 SimCLR 依赖大批量?
    • 在每个训练步骤中提供许多反例
    • 减少内存使用
    • 避免使用增强
    • 消除对温度参数的需要
  6. In SimCLR, which examples usually act as negatives for one anchor view?
    • The matching view of the same image
    • The other augmented views in the batch that come from different images
    • Only examples with the same class label
    • Views produced by a second encoder trained on labels
  7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
    • It replaces the image encoder
    • It supplies class labels during pretraining
    • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
    • It removes the need for data augmentation
  8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
    • Every negative should have a higher score than the positive
    • All scores must be identical
    • The positive is excluded from the objective
    • The positive should receive a higher score than the negatives