드롭아웃 및 확률적 정규화 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. 훈련 중에 드롭아웃은 무엇을 합니까?
   • 가중치를 영구적으로 삭제합니다.
   • 각 순방향 전달에서 뉴런 출력의 일부를 0으로 무작위로 설정합니다.
   • 학습률을 두 배로 늘립니다.
   • 네트워크에 더 많은 레이어를 추가합니다.
2. 드롭아웃이 일반화를 향상시키는 이유는 무엇입니까?
   • 매개변수의 개수가 늘어납니다.
   • 훈련 데이터가 필요하지 않습니다.
   • 훈련 오류 제로를 보장합니다.
   • 뉴런이 공동 적응하는 것을 방지하고 중복되고 강력한 표현을 강제합니다.
3. 테스트(추론) 시 드롭아웃은 어떻게 되나요?
   • 꺼지고 전체 네트워크가 사용됩니다.
   • 더 많은 뉴런을 떨어뜨립니다.
   • 가중치의 절반을 삭제합니다.
   • 라벨을 무작위로 지정합니다.
4. 레이어에서 p = 0.5의 드롭아웃 비율은 훈련 중에 대략 무엇을 의미합니까?
   • 모든 뉴런이 제거됩니다.
   • 뉴런은 영향을 받지 않습니다.
   • 각 패스마다 뉴런의 약 절반이 0으로 설정됩니다.
   • 레이어가 삭제되었습니다.
5. 드롭아웃은 종종 근사치로 설명됩니까?
   • 단일 선형 회귀
   • 의사결정 트리
   • 푸리에 변환
   • 가중치를 공유하는 여러 개의 얇은 네트워크의 앙상블
6. 몬테카를로 드롭아웃은 어떤 용도로 사용되나요?
   • 데이터 로딩 속도 향상
   • 추론 시 드롭아웃을 활성 상태로 유지하여 모델 불확실성 추정
   • 더 적은 가중치로 네트워크 압축
   • 훈련 데이터에 자동으로 레이블 지정
7. With inverted dropout, why is no extra activation scaling normally needed at ordinary inference?
   • The keep probability becomes exactly zero
   • Inference always averages new random masks
   • Surviving activations were already scaled during training
   • Every weight is divided by the number of layers
8. The same input yields varying predictions because dropout remains active during evaluation. What explains the variation?
   • New random masks sample different subnetworks on each pass
   • The input changes its label by itself
   • The network has no trained weights
   • Batch size must be one