Вікторина з конформерної архітектури

Відповіді та пояснення з’являються під час виконання тесту.

1. Які два механізми архітектура Conformer поєднує в одному блоці?
   • Згортка і самоувага
   • Повторення та об'єднання
   • Дерева рішень і кластеризація
   • Пошук по променях і токенізація
2. Чому поєднання згортання й уваги особливо корисне для мовлення?
   • Увага обробляє локальні деталі фонеми, тоді як згортка обробляє глобальний контекст
   • Конволюція вловлює локальні шаблони, тоді як самоувага вловлює довгостроковий контекст
   • Обидва мають значення лише для зображень, а не для звуку
   • Ні те, ні інше не допомагає; це виключно для швидкості
3. Що таке «макарон» або сендвіч-структура блоку Conformer?
   • Два шари уваги навколо однієї згортки
   • Лише один шар прямої подачі
   • Увага та згортка, загорнуті між двома модулями прямої подачі на півкроку
   • Згортка, складена поверх згортки
4. Яка організація представила Конформер і в якому році?
   • OpenAI у 2018 році
   • Meta у 2015 році
   • Microsoft у 2012 році
   • Google у 2020 році
5. Що зазвичай включає модуль згортки всередині конформера?
   • Поточкове перетворення, GLU, поглиблене перетворення, нормалізація та активація Swish
   • Лише один повністю з’єднаний шар
   • Рекурентна клітина LSTM
   • Класифікатор випадкового лісу
6. On LibriSpeech test-clean/test-other, what WER did the original Conformer paper report with an external language model?
   • 2.1% / 4.3%
   • 1.9% / 3.9%
   • 9.1% / 9.3%
   • 0.1% / 0.3%
7. What positional information does the Conformer paper add to attention?
   • A geographic GPS coordinate for every speech frame
   • A fixed class label for each utterance
   • Relative positional encoding
   • A separate video frame index
8. What word error rates did the Conformer paper report without an external language model on LibriSpeech test/test-other?
   • 20.1% / 40.3%
   • 0.1% / 0.3%
   • 12.1% / 14.3%
   • 2.1% / 4.3%