Quiz dotyczący kompromisu w zakresie odchyleń i wariancji

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Model, który jest zbyt prosty, aby uchwycić podstawowy wzorzec w danych, cierpi przede wszystkim z powodu:
   • Wysoka wariancja
   • Wysoka stronniczość
   • Niski błąd nieredukowalny
   • Nadmierne dopasowanie
2. Który scenariusz jest klasyczną oznaką dużej wariancji (nadmiernego dopasowania)?
   • Błąd uczenia się i testu jest wysoki i podobny
   • Model ignoruje większość funkcji
   • Dodanie większej regularyzacji zwiększa błąd uczenia w kierunku błędu testowego
   • Błąd uczenia jest bardzo niski, ale błąd testu jest znacznie wyższy
3. In the classic bias-variance picture described in the guide, which tradeoff can accompany increased model flexibility?
   • Odchylenie maleje, a wariancja wzrasta
   • Obydwa rosną
   • Obydwa maleją
   • Odchylenie wzrasta, a wariancja maleje
4. Ogólnie rzecz biorąc, dodawanie regularyzacji L2 (grzbietu) do modelu:
   • Zmniejsza stronniczość kosztem większej wariancji
   • Eliminuje nieredukowalny błąd
   • Zmniejsza wariancję kosztem nieco większego błędu systematycznego
   • Nie ma wpływu na stronniczość ani wariancję
5. Nieredukowalny błąd w rozkładzie odchylenia-wariancji reprezentuje:
   • Błąd spowodowany wyborem złego algorytmu
   • Błąd wynikający z nieodłącznego szumu w danych, którego żaden model nie może usunąć
   • Błąd, który znika wraz z większą liczbą danych treningowych
   • Błąd spowodowany wyłącznie dużą wariancją
6. Zjawisko „podwójnego pochodzenia” obserwowane w procesie głębokiego uczenia się sugeruje, że:
   • Błąd testu może ponownie się zmniejszyć, gdy modele rozrosną się daleko poza punkt interpolacji danych uczących
   • Błąd testowy zawsze ma prosty kształt litery U
   • Wariancja nigdy nie ma znaczenia dla sieci neuronowych
   • W głębokich modelach odchylenie zawsze wynosi zero
7. In a squared-error decomposition, squared bias is 2, variance is 3, and irreducible noise is 1. What is the total expected error?
   • 14
   • 5
   • 3
   • 6
8. Why can averaging many de-correlated trees help in the random-forest example?
   • It removes all noise from the data-generating process
   • It guarantees zero test error
   • It can reduce the variance of the combined prediction
   • It converts every tree into a linear model