InfoNCE 및 SimCLR 목표 퀴즈

퀴즈를 풀면 정답과 설명이 나타납니다.

1. InfoNCE 목표는 모델이 무엇을 하도록 장려합니까?
   • 많은 부정문보다 참양성과 더 유사한 쿼리를 만듭니다.
   • 각 이미지의 정확한 픽셀 값을 기억하세요
   • 모델 매개변수 수 최소화
   • 문장의 다음 단어를 예측하세요
2. SimCLR에서 포지티브 쌍은 어떻게 생성됩니까?
   • 이미지를 인간 라벨과 결합하여
   • 동일한 이미지에 두 가지 다른 무작위 확대를 적용하여
   • 완전히 다른 두 개의 이미지를 선택하여
   • 전체 데이터 세트를 회전하여
3. NT-Xent/InfoNCE에서 온도 τ는 어떤 역할을 합니까?
   • 학습률을 설정합니다.
   • 배치 크기를 자동으로 제어합니다.
   • 유사성 점수를 조정합니다. τ가 낮을수록 분포가 선명해지고 하드 네거티브가 강조됩니다.
   • 인코더의 레이어 수를 결정합니다.
4. 사전 훈련 후 SimCLR의 프로젝션 헤드는 어떻게 되나요?
   • 최종 분류자가 됩니다
   • 고정되어 인코더로 사용됩니다.
   • 추론을 위해 중복됩니다.
   • 폐기됩니다. 다운스트림 작업에 헤드가 사용되기 전의 표현
5. SimCLR이 대규모 배치 크기에 의존한 이유는 무엇입니까?
   • 각 훈련 단계에서 많은 부정적인 예를 제공하기 위해
   • 메모리 사용량을 줄이려면
   • 증강 사용을 방지하려면
   • 온도 매개변수가 필요하지 않도록 하려면
6. In SimCLR, which examples usually act as negatives for one anchor view?
   • The matching view of the same image
   • The other augmented views in the batch that come from different images
   • Only examples with the same class label
   • Views produced by a second encoder trained on labels
7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
   • It replaces the image encoder
   • It supplies class labels during pretraining
   • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
   • It removes the need for data augmentation
8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
   • Every negative should have a higher score than the positive
   • All scores must be identical
   • The positive is excluded from the objective
   • The positive should receive a higher score than the negatives