Cuestionario de objetivos de InfoNCE y SimCLR

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

1. ¿Qué anima a hacer el objetivo de InfoNCE a un modelo?
   • Hacer una consulta más parecida a su verdadero positivo que a muchos negativos
   • Memoriza los valores exactos de píxeles de cada imagen.
   • Minimizar el número de parámetros del modelo.
   • Predecir la siguiente palabra en una oración.
2. En SimCLR, ¿cómo se crea un par positivo?
   • Emparejando una imagen con su etiqueta humana
   • Aplicando dos aumentos aleatorios diferentes a la misma imagen
   • Eligiendo dos imágenes completamente diferentes
   • Rotando todo el conjunto de datos
3. ¿Qué papel juega la temperatura τ en NT-Xent / InfoNCE?
   • Establece la tasa de aprendizaje.
   • Controla el tamaño del lote automáticamente.
   • Escala las puntuaciones de similitud; τ más bajo agudiza la distribución y enfatiza los negativos duros
   • Determina el número de capas en el codificador.
4. ¿Qué sucede con el cabezal de proyección de SimCLR después del entrenamiento previo?
   • Se convierte en el clasificador final.
   • Está congelado y utilizado como codificador.
   • Está duplicado para inferencia.
   • Está descartado; la representación ante la cabeza se utiliza para tareas posteriores
5. ¿Por qué SimCLR dependió de lotes de gran tamaño?
   • Proporcionar muchos ejemplos negativos dentro de cada paso de capacitación.
   • Para reducir el uso de memoria
   • Para evitar el uso de aumentos
   • Para eliminar la necesidad de un parámetro de temperatura
6. In SimCLR, which examples usually act as negatives for one anchor view?
   • The matching view of the same image
   • The other augmented views in the batch that come from different images
   • Only examples with the same class label
   • Views produced by a second encoder trained on labels
7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
   • It replaces the image encoder
   • It supplies class labels during pretraining
   • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
   • It removes the need for data augmentation
8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
   • Every negative should have a higher score than the positive
   • All scores must be identical
   • The positive is excluded from the objective
   • The positive should receive a higher score than the negatives