引導式測驗 · 硬 等級

InfoNCE 和 SimCLR 目標測驗

檢查 InfoNCE 正負物鏡、SimCLR 的視圖和投影頭,以及溫度和批量大小的作用。

相關引導路徑資訊和模擬目標
問題 1 的 8

InfoNCE 目標鼓勵模型做什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. InfoNCE 目標鼓勵模型做什麼?
    • 使查詢更類似於其真正的肯定而不是許多否定
    • 記住每張影像的精確像素值
    • 最小化模型參數的數量
    • 預測句子中的下一個單字
  2. 在 SimCLR 中,如何建立正對?
    • 透過將圖像與其人類標籤配對
    • 透過對同一影像應用兩種不同的隨機增強
    • 透過選擇兩個完全不同的影像
    • 透過旋轉整個資料集
  3. 溫度 τ 在 NT-Xent / InfoNCE 中扮演什麼角色?
    • 它設定學習率
    • 自動控制批量大小
    • 它縮放相似度分數;較低的 τ 使分佈變得尖銳並強調硬負例
    • 它決定編碼器中的層數
  4. 預訓練後 SimCLR 的投影頭會發生什麼變化?
    • 成為最終的分類器
    • 它被凍結並用作編碼器
    • 為了推理而重複
    • 它被丟棄; head之前的表示用於下游任務
  5. 為什麼 SimCLR 依賴大批量?
    • 在每個訓練步驟中提供許多反例
    • 減少記憶體使用
    • 避免使用增強
    • 消除對溫度參數的需要
  6. In SimCLR, which examples usually act as negatives for one anchor view?
    • The matching view of the same image
    • The other augmented views in the batch that come from different images
    • Only examples with the same class label
    • Views produced by a second encoder trained on labels
  7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
    • It replaces the image encoder
    • It supplies class labels during pretraining
    • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
    • It removes the need for data augmentation
  8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
    • Every negative should have a higher score than the positive
    • All scores must be identical
    • The positive is excluded from the objective
    • The positive should receive a higher score than the negatives