편향-분산 트레이드오프 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 데이터의 기본 패턴을 포착하기에는 너무 단순한 모델은 주로 다음과 같은 문제를 겪습니다.
   • 높은 분산
   • 높은 편견
   • 환원 불가능한 오류가 낮음
   • 과적합
2. 높은 분산(과적합)의 전형적인 징후는 무엇입니까?
   • 학습 오류와 테스트 오류가 모두 높고 유사합니다.
   • 모델은 대부분의 기능을 무시합니다.
   • 더 많은 정규화를 추가하면 테스트 오류에 대한 훈련 오류가 증가합니다.
   • 학습 오류는 매우 낮지만 테스트 오류는 훨씬 높습니다.
3. In the classic bias-variance picture described in the guide, which tradeoff can accompany increased model flexibility?
   • 편향은 감소하고 분산은 증가합니다.
   • 둘 다 증가
   • 둘 다 감소
   • 편향은 증가하고 분산은 감소합니다.
4. 일반적으로 모델에 L2(능선) 정규화 추가:
   • 더 많은 분산을 희생하여 편향을 줄입니다.
   • 축소할 수 없는 오류 제거
   • 약간 더 많은 편향을 희생하여 분산을 줄입니다.
   • 편향이나 분산에 영향을 미치지 않습니다.
5. 편향-분산 분해의 환원 불가능한 오류는 다음을 나타냅니다.
   • 잘못된 알고리즘 선택으로 인한 오류
   • 어떤 모델도 제거할 수 없는 데이터의 고유 노이즈로 인한 오류
   • 훈련 데이터가 많아지면 사라지는 오류
   • 높은 분산으로 인해 발생하는 오류
6. 딥러닝에서 관찰되는 '이중 하강' 현상은 다음과 같은 사실을 시사합니다.
   • 모델이 훈련 데이터를 보간하는 지점을 훨씬 넘어서 성장함에 따라 테스트 오류가 다시 줄어들 수 있습니다.
   • 테스트 오류는 항상 단순한 U자 모양을 따릅니다.
   • 신경망에서는 분산이 중요하지 않습니다.
   • 심층 모델에서는 편향이 항상 0입니다.
7. In a squared-error decomposition, squared bias is 2, variance is 3, and irreducible noise is 1. What is the total expected error?
   • 14
   • 5
   • 3
   • 6
8. Why can averaging many de-correlated trees help in the random-forest example?
   • It removes all noise from the data-generating process
   • It guarantees zero test error
   • It can reduce the variance of the combined prediction
   • It converts every tree into a linear model