Bài kiểm tra mục tiêu của InfoNCE và SimCLR

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Mục tiêu InfoNCE khuyến khích mô hình làm gì?
   • Tạo một truy vấn giống với kết quả tích cực thực sự của nó hơn là nhiều tiêu cực
   • Ghi nhớ giá trị pixel chính xác của từng hình ảnh
   • Giảm thiểu số lượng tham số mô hình
   • Dự đoán từ tiếp theo trong câu
2. Trong SimCLR, cặp dương được tạo như thế nào?
   • Bằng cách ghép một hình ảnh với nhãn con người của nó
   • Bằng cách áp dụng hai phép tăng ngẫu nhiên khác nhau cho cùng một hình ảnh
   • Bằng cách chọn hai hình ảnh hoàn toàn khác nhau
   • Bằng cách xoay toàn bộ tập dữ liệu
3. Nhiệt độ τ đóng vai trò gì trong NT-Xent/InfoNCE?
   • Nó thiết lập tốc độ học tập
   • Nó tự động kiểm soát kích thước lô
   • Nó chia tỷ lệ điểm tương đồng; τ thấp hơn làm sắc nét sự phân bố và nhấn mạnh những âm bản cứng rắn
   • Nó xác định số lớp trong bộ mã hóa
4. Điều gì xảy ra với đầu chiếu của SimCLR sau khi huấn luyện trước?
   • Nó trở thành bộ phân loại cuối cùng
   • Nó được đông lạnh và sử dụng làm bộ mã hóa
   • Nó được nhân đôi để suy luận
   • Nó bị loại bỏ; sự biểu diễn trước phần đầu được sử dụng cho các tác vụ xuôi dòng
5. Tại sao SimCLR dựa vào kích thước lô lớn?
   • Để cung cấp nhiều ví dụ tiêu cực trong mỗi bước đào tạo
   • Để giảm mức sử dụng bộ nhớ
   • Để tránh sử dụng các phép tăng cường
   • Để loại bỏ sự cần thiết của một tham số nhiệt độ
6. In SimCLR, which examples usually act as negatives for one anchor view?
   • The matching view of the same image
   • The other augmented views in the batch that come from different images
   • Only examples with the same class label
   • Views produced by a second encoder trained on labels
7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
   • It replaces the image encoder
   • It supplies class labels during pretraining
   • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
   • It removes the need for data augmentation
8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
   • Every negative should have a higher score than the positive
   • All scores must be identical
   • The positive is excluded from the objective
   • The positive should receive a higher score than the negatives