Kvíz spojený s průvodcem · Střední úroveň

Kvíz o odpadnutí a stochastické regulaci

Testujte náhodné masky, trénovací a inferenční režimy, obrácené škálování, limity koadaptace, výpadek MC a proměnné předpovědi.

Související vodicí cestyDropout A Stochastická Regularizace
Otázka 1 z 8

Co dělá výpadek během tréninku?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Co dělá výpadek během tréninku?
    • Trvale odstraní váhy
    • Náhodně nastaví zlomek výstupů neuronů na nulu při každém průchodu vpřed
    • Zdvojnásobuje rychlost učení
    • Přidá do sítě další vrstvy
  2. Proč odpadávání zlepšuje zobecnění?
    • Zvyšuje počet parametrů
    • Odstraňuje potřebu tréninkových dat
    • Zaručuje nulovou chybu při tréninku
    • Zabraňuje neuronům ve společné adaptaci a vynucuje si redundantní, robustní reprezentace
  3. Co se stane s odpadnutím v době testování (odvozování)?
    • Vypne se a použije se celá síť
    • Vypadne ještě více neuronů
    • Vymaže polovinu závaží
    • Náhodně provádí štítky
  4. Míra odpadnutí p = 0,5 ve vrstvě znamená zhruba co během tréninku?
    • Všechny neurony jsou odstraněny
    • Nejsou ovlivněny žádné neurony
    • Asi polovina neuronů je vynulována při každém průchodu
    • Vrstva je odstraněna
  5. Co je často označováno za aproximující?
    • Jediná lineární regrese
    • Rozhodovací strom
    • Fourierova transformace
    • Soubor mnoha ztenčených sítí, které sdílejí váhy
  6. K čemu se používá výpadek Monte Carlo?
    • Zrychlení načítání dat
    • Odhadování nejistoty modelu udržováním aktivního výpadku při odvození
    • Komprese sítě na menší váhu
    • Automatické označování tréninkových dat
  7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
    • The keep probability becomes exactly zero
    • Inference always averages new random masks
    • Surviving activations were already scaled during training
    • Every weight is divided by the number of layers
  8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
    • New random masks sample different subnetworks on each pass
    • The input changes its label by itself
    • The network has no trained weights
    • Batch size must be one