InfoNCE および SimCLR の目的に関するクイズ

クイズに答えると、答えと解説が表示されます。

1. InfoNCE の目標はモデルに何を行うよう促しますか?
   • 多くのネガティブなクエリよりも真のポジティブに近いクエリを作成します。
   • 各画像の正確なピクセル値を記憶
   • モデルパラメータの数を最小限に抑える
   • 文内の次の単語を予測する
2. SimCLR では、ポジティブペアはどのように作成されますか?
   • 画像と人間のラベルを組み合わせることで
   • 同じ画像に 2 つの異なるランダムな拡張を適用することによって
   • 全く異なる2つの画像を選択することで
   • データセット全体を回転させることにより
3. NT-Xent / InfoNCE において温度 τ はどのような役割を果たしますか?
   • 学習率を設定します
   • バッチサイズを自動的に制御します
   • 類似性スコアをスケールします。 τが低いほど分布が鮮明になり、ハードネガティブが強調されます。
   • エンコーダー内のレイヤーの数を決定します
4. 事前トレーニング後、SimCLR の投影ヘッドはどうなりますか?
   • それが最終的な分類子になります
   • フリーズされ、エンコーダとして使用されます
   • 推論のために複製されます
   • それは破棄されます。ヘッドが下流タスクに使用される前の表現
5. SimCLR が大きなバッチ サイズに依存したのはなぜですか?
   • 各トレーニングステップ内で多くの否定的な例を提供する
   • メモリ使用量を減らすには
   • オーグメンテーションの使用を避けるには
   • 温度パラメータの必要性を排除するには
6. In SimCLR, which examples usually act as negatives for one anchor view?
   • The matching view of the same image
   • The other augmented views in the batch that come from different images
   • Only examples with the same class label
   • Views produced by a second encoder trained on labels
7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
   • It replaces the image encoder
   • It supplies class labels during pretraining
   • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
   • It removes the need for data augmentation
8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
   • Every negative should have a higher score than the positive
   • All scores must be identical
   • The positive is excluded from the objective
   • The positive should receive a higher score than the negatives