引導式測驗 · 硬 等級

對比學習測驗

練習對比正對、嵌入崩潰和溫度尺度相似性,包括 MoCo 隊列與推理緩存的差異。

相關引導路徑對比學習
問題 1 的 8

對比學習的核心目標是什麼?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. 對比學習的核心目標是什麼?
    • 在嵌入空間中將相似(正)對拉在一起並將不同(負)對推開
    • 預測影像的精確像素值
    • 將每個輸入分類到一組固定標籤中的一個
    • 最小化模型參數的數量
  2. 在 SimCLR 這樣的自監督影像方法中,通常如何建立正對?
    • 同一標記類別的兩個不同影像
    • 圖像和從資料集中隨機選擇的圖像
    • 同一影像的兩次隨機增強(例如裁切、色彩抖動)
    • 與其分割遮罩配對的影像
  3. 哪一種損失函數與對比學習最相關?
    • 均方誤差
    • 資訊NCE
    • 類標籤上的交叉熵
    • SVM 的鉸鏈損失
  4. 為什麼像 MoCo 這樣的方法使用記憶體庫或佇列?
    • 儲存標籤以進行監督微調
    • 快取最終預測以加快推理速度
    • 壓縮移動設備的模型
    • 提供許多反例而不需要巨大的批量大小
  5. BYOL 和 SimSiam 在不使用明確否定的情況下特別防範什麼問題?
    • 過度擬合訓練標籤
    • 優化器中的梯度爆炸
    • 表示崩潰,所有嵌入變得相同
    • 學習率消失
  6. CLIP 如何擴展對比想法?
    • 它將圖像與其文字標題在共享嵌入空間中對齊
    • 它對比了同一音訊剪輯的兩個增強
    • 它消除了對任何神經網路的需要
    • 它使用強化學習而不是相似性
  7. 對比式影像編碼器將每張照片映射到相同的向量。這說明了哪種失敗?
    • 有用的圖像類別分隔
    • 負樣本數量增加
    • 完美的最近鄰表示
    • 表示崩潰
  8. 為什麼 MoCo 的訓練佇列與快取已完成的推論回應不同?
    • 它在不執行模型的情況下提供最終聊天機器人回應
    • 它提供編碼的比較範例以用於對比訓練目標
    • 它將每個正向影像替換為標籤
    • 它消除了更新任何編碼器的需求