Тест на перекрестное внимание

Ответы и пояснения появляются по мере прохождения теста.

1. В чем ключевое различие между вниманием к себе и перекрестным вниманием?
   • При перекрестном внимании запросы поступают из одной последовательности, а ключи/значения — из другой.
   • Перекрестное внимание не использует softmax
   • Самообслуживание работает только с изображениями
   • Перекрестное внимание нельзя тренировать с помощью градиентного спуска.
2. Откуда в преобразователе кодер-декодер берутся запросы на перекрестное внимание?
   • Выходы энкодера
   • Текущее состояние декодера
   • Только необработанные входные внедрения
   • Отдельная случайная матрица
3. Почему две последовательности перекрестного внимания могут иметь разную длину и модальности?
   • Поскольку внимание требует ввода одинаковой длины
   • Потому что он полностью игнорирует одну из последовательностей
   • Поскольку запросы и ключи поступают из разных независимых источников.
   • Потому что сначала он дополняет все до фиксированного размера
4. Как Stable Diffusion использует перекрестное внимание?
   • Сжатие изображений в файлы меньшего размера
   • Для перевода текста между языками
   • Удаление шума из звука
   • Для настройки сгенерированных областей изображения в текстовой подсказке
5. Какую математическую операцию перекрестное внимание объединяет с вниманием к себе?
   • Масштабирование внимания к точечному произведению с помощью softmax
   • Свертка по пикселям
   • Регулярные обновления состояния
   • Жестко запрограммированные справочные таблицы
6. What gate does Flamingo use to control information flow through its cross-attention layers?
   • A hard threshold initialized to one
   • A tanh gate initialized to zero
   • A fixed residual weight of 0.5
   • A learned vocabulary lookup table
7. What input sequence structure does Flamingo’s paper say its visual-language model can handle?
   • Only one image followed by a fixed-length label
   • Only text tokens with no visual inputs
   • Visual and textual data interleaved in arbitrary sequences
   • Only video frames with no text
8. What is one purpose of cross-attention in Flamingo’s visual-language architecture?
   • It replaces all text tokens with pixels
   • It prevents any information from passing between modalities
   • It performs only image resizing
   • It lets language-model layers incorporate visual features from image/video inputs