Тест на уважність із згрупованими запитами

Відповіді та пояснення з’являються під час виконання тесту.

1. Що ділиться між групою заголовків запитів у груповому запиті Attention?
   • Голови ключів і значень
   • Лише вихідна проекція
   • Вхідні вкладення
   • Швидкість навчання
2. GQA найкраще описати як середину між якими двома крайнощами?
   • Згортка і увага
   • Повна увага кількох голов і увага кількох запитів
   • Точність FP32 і FP8
   • Моделі лише з кодувальником і лише з декодером
3. Яку частину висновків GQA здешевлює?
   • Токенізація підказки
   • Розрахунок втрат при навчанні
   • Кеш-пам'ять KV і її пропускна здатність під час генерації
   • Остаточний софтмакс над словником
4. Якщо модель має 32 головки запиту та 8 груп KV, кеш KV зменшується приблизно на який коефіцієнт?
   • Приблизно в 32 рази
   • Приблизно в 2 рази
   • Без скорочення
   • Приблизно в 4 рази
5. What quality/speed tradeoff did the GQA paper report in its experiments?
   • Quality close to MHA with inference speed closer to MQA
   • Lower quality and slower inference than both
   • Exactly the same latency and quality for every model
   • A result only on image classification
6. Як існуючі багатоголовкові моделі часто перетворюються на GQA?
   • Видалення всіх шарів уваги
   • Коротким кроком «підвищення» від існуючого КПП
   • Перейшовши на інший токенізер
   • Їх взагалі не можна конвертувати
7. Which task families did the GQA paper evaluate?
   • Image segmentation and object detection
   • Speech synthesis and speaker verification
   • Language modeling and machine translation
   • Molecular generation and toxicity prediction
8. How much of the original pretraining compute did the GQA paper report using for its uptraining recipe?
   • Близько 50%
   • About 100%
   • No additional training compute
   • близько 5%