Kvíz spojený s průvodcem · Těžko úroveň
Kvíz o cílech InfoNCE a SimCLR
Kontroluje pozitivní/negativní cíl InfoNCE, pohledy a projekční hlavu SimCLR a roli teploty a velikosti dávky.
Otázka 1 z 8
K čemu cíl InfoNCE motivuje modelku?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- K čemu cíl InfoNCE motivuje modelku?
- Udělejte dotaz podobný spíše jeho skutečným kladům než mnoha záporům
- Zapamatujte si přesné hodnoty pixelů každého obrázku
- Minimalizujte počet parametrů modelu
- Předpovězte další slovo ve větě
- Jak v SimCLR vzniká kladný pár?
- Spárováním obrázku s jeho lidským štítkem
- Aplikováním dvou různých náhodných augmentací na stejný obrázek
- Výběrem dvou zcela odlišných obrázků
- Otočením celé datové sady
- Jakou roli hraje teplota τ v NT-Xent / InfoNCE?
- Nastavuje rychlost učení
- Automaticky řídí velikost dávky
- Škáluje skóre podobnosti; nižší τ zostřuje rozložení a zdůrazňuje tvrdé negativy
- Určuje počet vrstev v kodéru
- Co se stane s projekční hlavou SimCLR po předtrénování?
- Stává se konečným klasifikátorem
- Je zmrazen a použit jako kodér
- Pro odvození je duplikován
- Je vyřazen; reprezentace před hlavou se používá pro následné úkoly
- Proč se SimCLR spoléhal na velké dávky?
- Poskytnout mnoho negativních příkladů v každém tréninkovém kroku
- Chcete-li snížit využití paměti
- Abyste se vyhnuli používání augmentací
- Aby se eliminovala potřeba parametru teploty
- In SimCLR, which examples usually act as negatives for one anchor view?
- The matching view of the same image
- The other augmented views in the batch that come from different images
- Only examples with the same class label
- Views produced by a second encoder trained on labels
- Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
- It replaces the image encoder
- It supplies class labels during pretraining
- The learned projection helps the contrastive objective while the representation before the head can transfer downstream
- It removes the need for data augmentation
- For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
- Every negative should have a higher score than the positive
- All scores must be identical
- The positive is excluded from the objective
- The positive should receive a higher score than the negatives