Вікторина, пов’язана з посібником · Середній Рівень

Вікторина на перехресну увагу

Зрозумійте, як перехресна увага дозволяє одній послідовності або модальності запитувати представлення іншої послідовності або модальності в трансформаторних моделях.

Пов'язані напрямні шляхиПерехресна увага
Питання 1 з 8

Яка ключова різниця між самоувагою та перехресною увагою?

Перегляньте кожне запитання8 запитання

Відповіді та пояснення з’являються під час виконання тесту.

  1. Яка ключова різниця між самоувагою та перехресною увагою?
    • У перехресному зверненні уваги запити надходять з однієї послідовності, а ключі/значення з іншої
    • Перехресна увага не використовує softmax
    • Самоувага працює тільки на образах
    • Перехресну увагу не можна тренувати за допомогою градієнтного спуску
  2. У трансформаторі кодера-декодера, звідки беруться запити на перехресну увагу?
    • Виходи кодера
    • Поточний стан декодера
    • Лише необроблені введення
    • Окрема випадкова матриця
  3. Чому дві послідовності у перехресному зверненні уваги можуть мати різну довжину або модальність?
    • Тому що для уваги потрібні вхідні дані однакової довжини
    • Тому що він повністю ігнорує одну з послідовностей
    • Оскільки запити та ключі надходять із різних незалежних джерел
    • Тому що він спочатку додає все до фіксованого розміру
  4. Як Stable Diffusion використовує перехресну увагу?
    • Для стиснення зображень у менші файли
    • Для перекладу тексту між мовами
    • Щоб прибрати шум із звуку
    • Для того, щоб згенеровані області зображення відповідали текстовому запиту
  5. Яку математичну операцію перехресна увага поділяє з самоувагою?
    • Масштабована увага до скалярного продукту за допомогою softmax
    • Згортка над пікселями
    • Періодичні оновлення стану
    • Жорстко закодовані таблиці пошуку
  6. What gate does Flamingo use to control information flow through its cross-attention layers?
    • A hard threshold initialized to one
    • A tanh gate initialized to zero
    • A fixed residual weight of 0.5
    • A learned vocabulary lookup table
  7. What input sequence structure does Flamingo’s paper say its visual-language model can handle?
    • Only one image followed by a fixed-length label
    • Only text tokens with no visual inputs
    • Visual and textual data interleaved in arbitrary sequences
    • Only video frames with no text
  8. What is one purpose of cross-attention in Flamingo’s visual-language architecture?
    • It replaces all text tokens with pixels
    • It prevents any information from passing between modalities
    • It performs only image resizing
    • It lets language-model layers incorporate visual features from image/video inputs