Quiz połączony z przewodnikiem · Ciężko Poziom

Quiz o zjawisku podwójnego spadku

Przejrzyj podwójne opadanie w pobliżu interpolacji i jak zjawisko to może się zmieniać w zależności od rozmiaru modelu, rozmiaru zbioru danych i czasu trwania uczenia.

Powiązane ścieżki prowadząceZjawisko podwójnego spadku
Pytanie 1 z 8

Gdzie błąd testowy zwykle osiąga szczyt na krzywej podwójnego opadania?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. Gdzie błąd testowy zwykle osiąga szczyt na krzywej podwójnego opadania?
    • Na progu interpolacji, gdzie model po prostu pasuje do wszystkich danych szkoleniowych
    • Na samym początku treningu z kilkoma parametrami
    • Dopiero po miliardach parametrów
    • Błąd testowy nigdy nie osiąga wartości szczytowych; spada monotonnie
  2. Co dzieje się z błędem testowym, gdy model staje się mocno przeparametryzowany?
    • Rośnie w nieskończoność z powodu nadmiernego dopasowania
    • Może ponownie spaść, często poniżej klasycznego minimum
    • Pozostaje dokładnie płaski
    • Staje się losowy i nieprzewidywalny
  3. In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
    • Any neural network trained with gradient descent
    • Any model that reaches zero training error
    • A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
    • A model trained without an optimization objective
  4. „Epokowe” podwójne pochodzenie odnosi się do efektu pojawiającego się jako funkcja czego?
    • Liczba używanych procesorów graficznych
    • Tylko harmonogram tempa uczenia się
    • Rozmiar zestawu testowego
    • Czas uczenia (liczba epok)
  5. Który klasyczny pomysł stanowi wyzwanie dla podwójnego zejścia?
    • Kompromis w kształcie litery U wariancji odchylenia
    • Propagacja wsteczna
    • Stochastyczne zejście gradientowe
    • Zasada łańcucha
  6. Kto pomógł spopularyzować i sformalizować krzywą podwójnego spadku w 2019 roku?
    • Newtona i Leibniza
    • Belkin, Hsu, Ma i Mandal
    • Turinga i Kościoła
    • Tylko anonimowi konkurenci Kaggle
  7. Which model families did OpenAI report studying in its deep double-descent experiments?
    • Only decision trees and linear regression
    • Only recurrent speech recognizers
    • Convolutional neural networks, ResNets, and transformers
    • Only graphical game generators
  8. Besides model size and training duration, which axis can also show double-descent behavior?
    • Font size in a report
    • The number of words in a product name
    • The screen resolution of a monitor
    • Training dataset size