Kvíz spojený s průvodcem · Střední úroveň
Stochastický gradientní sestup s kvízem hybnosti
Otestujte akumulovanou rychlost, tlumení oscilací, efekty koeficientů, konzistentní gradienty, Adamovo spojení a chování při nulové hybnosti.
Otázka 1 z 8
Co kumuluje hybnost během tréninku?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Co kumuluje hybnost během tréninku?
- Celkový počet tréninkových epoch
- Průběžný (exponenciálně vážený) průměr minulých přechodů
- Velikost datové sady
- Historie přesnosti modelu
- Jaký problém v dlouhé, úzké rokli trpí obyčejný SGD, který hybnost pomáhá vyřešit?
- Číselně přetéká
- Přestane počítat přechody
- Automaticky zvyšuje rychlost učení
- Kličkuje po strmých stěnách a pomalu postupuje po podlaze
- Běžná výchozí hodnota pro koeficient hybnosti je:
- 0,9
- 0,0
- 0,5
- 2,0
- Která fyzikální analogie se nejčastěji používá k popisu hybnosti?
- Kyvadlo houpající se věčně
- Pružina cvakající zpět
- Těžký míč valící se z kopce
- Zamrzání vody
- O kolik zhruba zesiluje hybnost efektivní krok konzistentním směrem, když beta = 0,9?
- Asi 2x
- Asi 0,1krát
- Žádné zesílení
- Asi 10krát
- Který moderní optimalizátor zahrnuje odhad prvního okamžiku ve stylu hybnosti?
- Newtonova metoda
- Adame
- K-znamená
- Náhodné hledání
- In the update v = beta times v plus gradient, what happens when beta is zero?
- The old velocity is doubled
- Every gradient becomes zero
- The previous velocity is discarded and the current gradient determines the step
- The parameters stop depending on the learning rate
- Why can repeated gradients with opposing sideways directions produce less zig-zagging under momentum?
- Their opposing contributions can partially cancel in accumulated velocity
- All past gradients are stored as separate parameters
- The loss becomes convex automatically
- Momentum ignores the current gradient entirely