Útmutatóhoz kapcsolódó kvíz · Kemény Szint

InfoNCE és SimCLR célkitűzések kvíz

Checks the InfoNCE positive-versus-negative objective, SimCLR’s views and projection head, and the roles of temperature and batch size.

Kapcsolódó útmutató utakInfonce és Simclr célok
kérdés 1 -ból 8

Mire ösztönöz egy modellt az InfoNCE célkitűzése?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mire ösztönöz egy modellt az InfoNCE célkitűzése?
    • Tegye a lekérdezést inkább a valódi pozitívhoz, mint sok negatívhoz hasonlóvá
    • Jegyezze meg az egyes képek pontos pixelértékeit
    • Minimalizálja a modellparaméterek számát
    • Megjósolni a következő szót a mondatban
  2. SimCLR-ben hogyan jön létre a pozitív pár?
    • Úgy, hogy egy képet párosít az emberi címkéjével
    • Két különböző véletlenszerű kiegészítés alkalmazásával ugyanarra a képre
    • Két teljesen különböző kép kiválasztásával
    • A teljes adatkészlet elforgatásával
  3. Milyen szerepet játszik a τ hőmérséklet az NT-Xent / InfoNCE-ben?
    • Ez határozza meg a tanulási sebességet
    • Automatikusan szabályozza a tétel méretét
    • Méri a hasonlósági pontszámokat; Az alacsonyabb τ élesíti az eloszlást és kiemeli a kemény negatívokat
    • Ez határozza meg a kódoló rétegeinek számát
  4. Mi történik a SimCLR vetítőfejével az előképzés után?
    • Ez lesz a végső osztályozó
    • Le van fagyasztva és kódolóként használják
    • Következtetés céljából megkettőződik
    • Eldobják; a fej előtti ábrázolást a downstream feladatokhoz használják
  5. Miért támaszkodott a SimCLR a nagy tételméretekre?
    • Sok negatív példával szolgálni az egyes képzési lépéseken belül
    • A memóriahasználat csökkentése érdekében
    • A augmentációk használatának elkerülése érdekében
    • A hőmérsékleti paraméter szükségességének kiküszöbölésére
  6. In SimCLR, which examples usually act as negatives for one anchor view?
    • The matching view of the same image
    • The other augmented views in the batch that come from different images
    • Only examples with the same class label
    • Views produced by a second encoder trained on labels
  7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
    • It replaces the image encoder
    • It supplies class labels during pretraining
    • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
    • It removes the need for data augmentation
  8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
    • Every negative should have a higher score than the positive
    • All scores must be identical
    • The positive is excluded from the objective
    • The positive should receive a higher score than the negatives