引導式測驗 · 硬 等級
InfoNCE 和 SimCLR 目標測驗
檢查 InfoNCE 正負物鏡、SimCLR 的視圖和投影頭,以及溫度和批量大小的作用。
問題 1 的 8
InfoNCE 目標鼓勵模型做什麼?
預覽每個問題8 問題
當您參加測驗時,就會出現答案和解釋。
- InfoNCE 目標鼓勵模型做什麼?
- 使查詢更類似於其真正的肯定而不是許多否定
- 記住每張影像的精確像素值
- 最小化模型參數的數量
- 預測句子中的下一個單字
- 在 SimCLR 中,如何建立正對?
- 透過將圖像與其人類標籤配對
- 透過對同一影像應用兩種不同的隨機增強
- 透過選擇兩個完全不同的影像
- 透過旋轉整個資料集
- 溫度 τ 在 NT-Xent / InfoNCE 中扮演什麼角色?
- 它設定學習率
- 自動控制批量大小
- 它縮放相似度分數;較低的 τ 使分佈變得尖銳並強調硬負例
- 它決定編碼器中的層數
- 預訓練後 SimCLR 的投影頭會發生什麼變化?
- 成為最終的分類器
- 它被凍結並用作編碼器
- 為了推理而重複
- 它被丟棄; head之前的表示用於下游任務
- 為什麼 SimCLR 依賴大批量?
- 在每個訓練步驟中提供許多反例
- 減少記憶體使用
- 避免使用增強
- 消除對溫度參數的需要
- In SimCLR, which examples usually act as negatives for one anchor view?
- The matching view of the same image
- The other augmented views in the batch that come from different images
- Only examples with the same class label
- Views produced by a second encoder trained on labels
- Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
- It replaces the image encoder
- It supplies class labels during pretraining
- The learned projection helps the contrastive objective while the representation before the head can transfer downstream
- It removes the need for data augmentation
- For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
- Every negative should have a higher score than the positive
- All scores must be identical
- The positive is excluded from the objective
- The positive should receive a higher score than the negatives