선명도 인식 최소화 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. SAM은 어떤 종류의 최소값을 찾으려고 합니까?
   • 가중치 근처에서 손실이 낮게 유지되는 균일한 최소값
   • 가능한 가장 날카로운 최소값
   • 매개변수가 가장 많은 최소값
   • 한 단계로 도달할 수 있는 최소값
2. 표준 SAM 단계에는 몇 번의 전진-후진 패스가 필요합니까?
   • 절반 패스
   • 대략 2개 정도
   • 정확히 하나
   • 10개 이상
3. SAM에서 반경 하이퍼파라미터 rho는 무엇을 제어합니까?
   • 학습률 감소 속도
   • 훈련 시대의 수
   • 손실 급증으로부터 보호되는 가중치 주변의 크기
   • 탈락 확률
4. 각 반복에서 SAM의 두 단계 중 첫 번째 단계는 무엇입니까?
   • 모델 축소
   • 모든 이전 단계의 가중치를 평균화합니다.
   • 최적화 상태 재설정
   • 최악의 근처 지점을 향해 rho 크기의 상승 단계를 수행합니다.
5. SAM이 종종 라벨 노이즈에 대한 견고성을 향상시키는 이유는 무엇입니까?
   • 플랫 최소값은 손상된 레이블을 기억할 가능성이 적기 때문입니다.
   • 시끄러운 라벨을 자동으로 삭제하기 때문에
   • 더 많은 어휘를 사용하기 때문에
   • 배치 크기가 3배로 늘어나기 때문입니다.
6. 다음 중 SAM의 컴퓨팅 비용을 줄이기 위해 설계된 변형은 무엇입니까?
   • ReLU
   • ESAM(효율적인 SAM)
   • 배치표준
   • 아다그라드
7. In SAM’s second pass, which gradient is used to update the original model weights?
   • The gradient of a random label
   • The first pass gradient without evaluating the perturbed point
   • The gradient evaluated at the perturbed nearby weights
   • A gradient from a different model checkpoint
8. If SAM’s neighborhood radius rho is set to zero, what happens to its perturbation step?
   • The model parameters are all set to zero
   • The loss becomes independent of the weights
   • The optimizer takes an infinite step
   • There is no weight perturbation, so the neighborhood reduces to the current point