Тест за модели от последователност към последователност

Отговорите и обясненията се появяват, докато отговаряте на теста.

1. Кои са двата основни компонента на модела от последователност към последователност?
   • Енкодер и декодер
   • Токенизатор и класификатор
   • Два еднакви енкодера
   • Филтър и класатор
2. Какъв ключов проблем реши механизмът за внимание в моделите seq2seq?
   • Бавно токенизиране
   • Тесното място на вектора с фиксирана дължина за дълги входове
   • Липса на речник
   • Прекомерни данни за обучение
3. Каква архитектура използва оригиналният модел за превод seq2seq от 2014 г.?
   • Конволюционни мрежи
   • Дървета на решенията
   • Подредени LSTM
   • Голи слоеве за подаване напред
4. Как вниманието изгражда контекста за всяка стъпка на декодиране?
   • Чрез еднакво осредняване на всички входни токени
   • Чрез пълно игнориране на енкодера
   • Чрез копиране на последния въведен токен
   • Чрез претеглена сума от състояния на енкодера, използвайки резултати за подравняване
5. Защо изходите на seq2seq могат да се различават по дължина от входовете?
   • Декодерът генерира жетони, докато не издаде стоп сигнал
   • Входовете и изходите винаги са с еднаква дължина
   • Енкодерът допълва всичко
   • Дължината се определя предварително
6. Кои модерни модели са популярни базирани на Transformer seq2seq архитектури?
   • ResNet и VGG
   • T5 и BART
   • K-означава и PCA
   • Word2Vec и GloVe
7. In encoder-decoder attention, which representations are commonly used as keys and values?
   • Only the decoder’s future hidden states
   • The vocabulary file’s byte offsets
   • The encoder’s output representations
   • The optimizer’s learning-rate history
8. What does a bidirectional encoder provide to an attention-based decoder?
   • A fixed one-token output regardless of the input
   • A guarantee that output length equals input length
   • A causal mask over future target tokens
   • Contextual representations of source tokens that can use information from both directions