Вікторина «Послідовність моделей».

Відповіді та пояснення з’являються під час виконання тесту.

1. Які два основні компоненти моделі послідовності до послідовності?
   • Кодер і декодер
   • Токенізатор і класифікатор
   • Два однакових шифратора
   • Фільтр і ранжувальник
2. Яку ключову проблему вирішив механізм уваги в моделях seq2seq?
   • Повільна токенізація
   • Векторне вузьке місце фіксованої довжини для довгих вводів
   • Відсутність словникового запасу
   • Надмірні навчальні дані
3. Яку архітектуру використовувала оригінальна модель перекладу seq2seq 2014 року?
   • Згорткові мережі
   • Дерева рішень
   • Складені LSTM
   • Оголені передні шари
4. Як увага створює контекст для кожного кроку декодування?
   • Шляхом рівномірного усереднення всіх вхідних токенів
   • Повністю ігноруючи кодер
   • Копіюючи останній введений маркер
   • За зваженою сумою станів кодера з використанням балів вирівнювання
5. Чому вихідні дані seq2seq можуть відрізнятися за довжиною від вхідних?
   • Декодер генерує маркери, доки не видасть сигнал зупинки
   • Входи та виходи завжди мають однакову довжину
   • Кодер прокладає все
   • Довжина фіксується заздалегідь
6. Які сучасні моделі є популярними архітектурами seq2seq на основі Transformer?
   • ResNet і VGG
   • T5 і BART
   • K-середнє та PCA
   • Word2Vec і GloVe
7. In encoder-decoder attention, which representations are commonly used as keys and values?
   • Only the decoder’s future hidden states
   • The vocabulary file’s byte offsets
   • The encoder’s output representations
   • The optimizer’s learning-rate history
8. What does a bidirectional encoder provide to an attention-based decoder?
   • A fixed one-token output regardless of the input
   • A guarantee that output length equals input length
   • A causal mask over future target tokens
   • Contextual representations of source tokens that can use information from both directions