引导式测验 · 硬 等级
InfoNCE 和 SimCLR 目标测验
检查 InfoNCE 正负物镜、SimCLR 的视图和投影头,以及温度和批量大小的作用。
问题 1 的 8
InfoNCE 目标鼓励模型做什么?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- InfoNCE 目标鼓励模型做什么?
- 使查询更类似于其真正的肯定而不是许多否定
- 记住每张图像的精确像素值
- 最小化模型参数的数量
- 预测句子中的下一个单词
- 在 SimCLR 中,如何创建正对?
- 通过将图像与其人类标签配对
- 通过对同一图像应用两种不同的随机增强
- 通过选择两个完全不同的图像
- 通过旋转整个数据集
- 温度 τ 在 NT-Xent / InfoNCE 中起什么作用?
- 它设置学习率
- 自动控制批量大小
- 它缩放相似度分数;较低的 τ 使分布变得尖锐并强调硬负例
- 它决定编码器中的层数
- 预训练后 SimCLR 的投影头会发生什么变化?
- 成为最终的分类器
- 它被冻结并用作编码器
- 为了推理而重复
- 它被丢弃; head之前的表示用于下游任务
- 为什么 SimCLR 依赖大批量?
- 在每个训练步骤中提供许多反例
- 减少内存使用
- 避免使用增强
- 消除对温度参数的需要
- In SimCLR, which examples usually act as negatives for one anchor view?
- The matching view of the same image
- The other augmented views in the batch that come from different images
- Only examples with the same class label
- Views produced by a second encoder trained on labels
- Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
- It replaces the image encoder
- It supplies class labels during pretraining
- The learned projection helps the contrastive objective while the representation before the head can transfer downstream
- It removes the need for data augmentation
- For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
- Every negative should have a higher score than the positive
- All scores must be identical
- The positive is excluded from the objective
- The positive should receive a higher score than the negatives