Quiz dotyczący modeli sekwencji do sekwencji

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

1. Jakie są dwa główne elementy modelu sekwencja po sekwencji?
   • Koder i dekoder
   • Tokenizator i klasyfikator
   • Dwa identyczne enkodery
   • Filtr i ranking
2. Jaki kluczowy problem rozwiązał mechanizm uwagi w modelach seq2seq?
   • Powolna tokenizacja
   • Wąskie gardło wektora o stałej długości dla długich danych wejściowych
   • Brak słownictwa
   • Nadmierne dane treningowe
3. Z jakiej architektury korzystał oryginalny model translacji seq2seq z 2014 roku?
   • Sieci splotowe
   • Drzewa decyzyjne
   • Ułożone LSTM
   • Nagie warstwy przekazujące do przodu
4. W jaki sposób uwaga buduje kontekst dla każdego etapu dekodowania?
   • Uśredniając jednakowo wszystkie tokeny wejściowe
   • Całkowicie ignorując koder
   • Kopiując ostatni token wejściowy
   • Przez ważoną sumę stanów kodera przy użyciu wyników wyrównania
5. Dlaczego wyjścia seq2seq mogą różnić się długością od wejść?
   • Dekoder generuje tokeny do momentu wyemitowania sygnału stopu
   • Wejścia i wyjścia mają zawsze tę samą długość
   • Enkoder przetwarza wszystko
   • Długość jest ustalana z góry
6. Które nowoczesne modele są popularne w architekturze seq2seq opartej na transformatorach?
   • ResNet i VGG
   • T5 i BART
   • K-średnie i PCA
   • Word2Vec i GloVe
7. In encoder-decoder attention, which representations are commonly used as keys and values?
   • Only the decoder’s future hidden states
   • The vocabulary file’s byte offsets
   • The encoder’s output representations
   • The optimizer’s learning-rate history
8. What does a bidirectional encoder provide to an attention-based decoder?
   • A fixed one-token output regardless of the input
   • A guarantee that output length equals input length
   • A causal mask over future target tokens
   • Contextual representations of source tokens that can use information from both directions