Kvíz spojený s průvodcem · Těžko úroveň
Kvíz o fenoménu dvojitého sestupu
Prohlédněte si dvojitý sestup blízko interpolace a jak se tento jev může lišit v závislosti na velikosti modelu, velikosti datové sady a délce tréninku.
Otázka 1 z 8
Kde obvykle vrcholí chyba testu v křivce dvojitého sestupu?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Kde obvykle vrcholí chyba testu v křivce dvojitého sestupu?
- Na prahu interpolace, kdy model vyhovuje všem tréninkovým datům
- Na samém začátku tréninku s několika parametry
- Až po miliardách parametrů
- Chyba testu nikdy vrcholí; padá monotónně
- Co se stane s chybou testu, když se model silně nadparametrizuje?
- Nadměrně se zvedá donekonečna
- Může se opět snížit, často pod klasické minimum
- Zůstává přesně plochý
- Stává se náhodným a nepředvídatelným
- In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
- Any neural network trained with gradient descent
- Any model that reaches zero training error
- A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
- A model trained without an optimization objective
- „Epochální“ dvojitý sestup odkazuje na efekt objevující se jako funkce čeho?
- Počet použitých GPU
- Pouze rozvrh výuky
- Velikost testovací sady
- Doba školení (počet epoch)
- Která klasická myšlenka zpochybňuje dvojitý sestup?
- Vychýlení-variance ve tvaru U
- Zpětná propagace
- Stochastický gradient klesání
- Řetězové pravidlo
- Kdo pomohl popularizovat a formalizovat křivku dvojitého sestupu v roce 2019?
- Newton a Leibniz
- Belkin, Hsu, Ma a Mandal
- Turing a Church
- Pouze anonymní soutěžící Kaggle
- Which model families did OpenAI report studying in its deep double-descent experiments?
- Only decision trees and linear regression
- Only recurrent speech recognizers
- Convolutional neural networks, ResNets, and transformers
- Only graphical game generators
- Besides model size and training duration, which axis can also show double-descent behavior?
- Font size in a report
- The number of words in a product name
- The screen resolution of a monitor
- Training dataset size