Quiz połączony z przewodnikiem · Ciężko Poziom
Quiz o zjawisku podwójnego spadku
Przejrzyj podwójne opadanie w pobliżu interpolacji i jak zjawisko to może się zmieniać w zależności od rozmiaru modelu, rozmiaru zbioru danych i czasu trwania uczenia.
Pytanie 1 z 8
Gdzie błąd testowy zwykle osiąga szczyt na krzywej podwójnego opadania?
Podgląd każdego pytania8 pytania
Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.
- Gdzie błąd testowy zwykle osiąga szczyt na krzywej podwójnego opadania?
- Na progu interpolacji, gdzie model po prostu pasuje do wszystkich danych szkoleniowych
- Na samym początku treningu z kilkoma parametrami
- Dopiero po miliardach parametrów
- Błąd testowy nigdy nie osiąga wartości szczytowych; spada monotonnie
- Co dzieje się z błędem testowym, gdy model staje się mocno przeparametryzowany?
- Rośnie w nieskończoność z powodu nadmiernego dopasowania
- Może ponownie spaść, często poniżej klasycznego minimum
- Pozostaje dokładnie płaski
- Staje się losowy i nieprzewidywalny
- In which setting does the cited implicit-bias analysis characterize a minimum-norm solution?
- Any neural network trained with gradient descent
- Any model that reaches zero training error
- A single-hidden-layer linear network under stated gradient-flow and initialization assumptions
- A model trained without an optimization objective
- „Epokowe” podwójne pochodzenie odnosi się do efektu pojawiającego się jako funkcja czego?
- Liczba używanych procesorów graficznych
- Tylko harmonogram tempa uczenia się
- Rozmiar zestawu testowego
- Czas uczenia (liczba epok)
- Który klasyczny pomysł stanowi wyzwanie dla podwójnego zejścia?
- Kompromis w kształcie litery U wariancji odchylenia
- Propagacja wsteczna
- Stochastyczne zejście gradientowe
- Zasada łańcucha
- Kto pomógł spopularyzować i sformalizować krzywą podwójnego spadku w 2019 roku?
- Newtona i Leibniza
- Belkin, Hsu, Ma i Mandal
- Turinga i Kościoła
- Tylko anonimowi konkurenci Kaggle
- Which model families did OpenAI report studying in its deep double-descent experiments?
- Only decision trees and linear regression
- Only recurrent speech recognizers
- Convolutional neural networks, ResNets, and transformers
- Only graphical game generators
- Besides model size and training duration, which axis can also show double-descent behavior?
- Font size in a report
- The number of words in a product name
- The screen resolution of a monitor
- Training dataset size