Kvíz spojený s průvodcem · Těžko úroveň

Kvíz o fenoménu dvojitého sestupu

Prohlédněte si dvojitý sestup blízko interpolace a jak se tento jev může lišit v závislosti na velikosti modelu, velikosti datové sady a délce tréninku.

Související vodicí cestyFenomén dvojitého sestupu
Otázka 1 z 8

Kde obvykle vrcholí chyba testu v křivce dvojitého sestupu?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Kde obvykle vrcholí chyba testu v křivce dvojitého sestupu?
    • Na prahu interpolace, kdy model vyhovuje všem tréninkovým datům
    • Na samém začátku tréninku s několika parametry
    • Až po miliardách parametrů
    • Chyba testu nikdy vrcholí; padá monotónně
  2. Co se stane s chybou testu, když se model silně nadparametrizuje?
    • Nadměrně se zvedá donekonečna
    • Může se opět snížit, často pod klasické minimum
    • Zůstává přesně plochý
    • Stává se náhodným a nepředvídatelným
  3. In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. „Epochální“ dvojitý sestup odkazuje na efekt objevující se jako funkce čeho?
    • Počet použitých GPU
    • Pouze rozvrh výuky
    • Velikost testovací sady
    • Doba školení (počet epoch)
  5. Která klasická myšlenka zpochybňuje dvojitý sestup?
    • Vychýlení-variance ve tvaru U
    • Zpětná propagace
    • Stochastický gradient klesání
    • Řetězové pravidlo
  6. Kdo pomohl popularizovat a formalizovat křivku dvojitého sestupu v roce 2019?
    • Newton a Leibniz
    • Belkin, Hsu, Ma a Mandal
    • Turing a Church
    • Pouze anonymní soutěžící Kaggle
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size