체중 감소 및 L2 정규화 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. L2 정규화는 손실 함수에 무엇을 추가합니까?
   • 네트워크의 레이어 수
   • 학습률에 대한 페널티
   • 학습 예시 수
   • 가중치의 제곱합에 비례하는 페널티
2. 체중 감량이 예방하는 데 도움이 되는 주요 문제는 무엇입니까?
   • 느린 데이터 로딩
   • 모델이 훈련 데이터의 노이즈를 기억하는 과적합
   • 하드웨어 오류
   • 잘못된 라벨
3. 무게 감소가 모델의 무게를 어느 방향으로 밀어내나요?
   • 무한을 향해
   • 가장 큰 무게를 향해
   • 0을 향해
   • 임의의 값을 향하여
4. AdamW가 도입된 이유는 무엇입니까?
   • 적응형 그래디언트 업데이트에서 가중치 감소를 분리하여 붕괴가 올바르게 작동하도록 하려면
   • 그라데이션을 완전히 제거하려면
   • 의도적으로 훈련 속도를 느리게 만들기 위해
   • 학습률이 필요하지 않게 하려면
5. 일반 확률적 경사하강법의 경우 L2 정규화와 가중치 감소는 어떤 관련이 있나요?
   • 그들은 언제나 반대야
   • 그들은 수학적으로 동일합니다
   • 가중치 감소로 인해 그라데이션이 비활성화됩니다.
   • L2는 모멘텀이 있는 SGD에서만 작동합니다.
6. L2 정규화에서 람다 계수는 무엇을 제어합니까?
   • 배치 크기
   • 시대의 수
   • 활성화 함수
   • 큰 무게에 대한 페널티의 강도
7. Why can adding an L2 term to Adam’s loss differ from applying decoupled weight decay?
   • Adaptive per-parameter gradient scaling can distort the coupled penalty
   • Adam cannot train with any regularization
   • The two methods use different training labels
   • Decoupled decay removes the data loss
8. In a simple decoupled update, what changes the fractional shrinkage of a weight?
   • Only the number of classes
   • Only the model’s input dimension
   • The learning rate and decay coefficient together
   • Only the validation-set size