Тест по целям InfoNCE и SimCLR

Ответы и пояснения появляются по мере прохождения теста.

1. Что цель InfoNCE побуждает делать модель?
   • Сделайте запрос более похожим на его истинно положительный результат, чем на множество отрицательных
   • Запоминайте точные значения пикселей каждого изображения.
   • Минимизируйте количество параметров модели
   • Предсказать следующее слово в предложении
2. Как в SimCLR создается положительная пара?
   • Сочетая изображение с его человеческим ярлыком
   • Применяя два разных случайных улучшения к одному и тому же изображению.
   • Выбрав два совершенно разных изображения
   • Путем вращения всего набора данных
3. Какую роль играет температура τ в NT-Xent/InfoNCE?
   • Он устанавливает скорость обучения
   • Он автоматически контролирует размер партии
   • Он масштабирует оценки сходства; более низкий τ усиливает распределение и подчеркивает резкие негативы
   • Он определяет количество слоев в кодере.
4. Что происходит с проекционной головой SimCLR после предварительной тренировки?
   • Он становится окончательным классификатором
   • Он замораживается и используется в качестве кодировщика.
   • Он дублируется для вывода
   • Оно отбрасывается; представление перед головой используется для последующих задач
5. Почему SimCLR полагался на большие размеры пакетов?
   • Приводить множество негативных примеров на каждом этапе обучения.
   • Чтобы уменьшить использование памяти
   • Чтобы избежать использования дополнений
   • Чтобы исключить необходимость в параметре температуры
6. In SimCLR, which examples usually act as negatives for one anchor view?
   • The matching view of the same image
   • The other augmented views in the batch that come from different images
   • Only examples with the same class label
   • Views produced by a second encoder trained on labels
7. Why does SimCLR use a nonlinear projection head before computing its contrastive loss?
   • It replaces the image encoder
   • It supplies class labels during pretraining
   • The learned projection helps the contrastive objective while the representation before the head can transfer downstream
   • It removes the need for data augmentation
8. For an InfoNCE anchor, what should happen to the positive similarity relative to sampled negatives?
   • Every negative should have a higher score than the positive
   • All scores must be identical
   • The positive is excluded from the objective
   • The positive should receive a higher score than the negatives