Kvíz spojený s průvodcem · Střední úroveň
Kvíz o modelech sekvencí k sekvencím
Zjistěte, jak modely kodér-dekodér mapují vstupní sekvence na různě dlouhé výstupy pomocí mechanismů pozornosti a křížové pozornosti.
Otázka 1 z 8
Jaké jsou dvě hlavní součásti modelu sekvence-posloupnosti?
Náhled každé otázky8 otázky
Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.
- Jaké jsou dvě hlavní součásti modelu sekvence-posloupnosti?
- Kodér a dekodér
- Tokenizér a klasifikátor
- Dva identické kodéry
- Filtr a žebříček
- Jaký klíčový problém vyřešil mechanismus pozornosti v modelech seq2seq?
- Pomalá tokenizace
- Vektorové úzké hrdlo s pevnou délkou pro dlouhé vstupy
- Nedostatek slovní zásoby
- Nadměrné tréninkové údaje
- Jakou architekturu používal původní model překladu seq2seq z roku 2014?
- Konvoluční sítě
- Rozhodovací stromy
- Naskládané LSTM
- Holé dopředné vrstvy
- Jak pozornost vytváří kontext pro každý krok dekódování?
- Rovnoměrným zprůměrováním všech vstupních tokenů
- Úplným ignorováním kodéru
- Zkopírováním posledního vstupního tokenu
- Váženým součtem stavů kodéru pomocí skóre zarovnání
- Proč se mohou výstupy seq2seq lišit délkou od vstupů?
- Dekodér generuje tokeny, dokud nevyšle signál stop
- Vstupy a výstupy jsou vždy stejně dlouhé
- Kodér vše podloží
- Délka je předem stanovena
- Které moderní modely jsou populární architektury seq2seq založené na transformátoru?
- ResNet a VGG
- T5 a BART
- K-means a PCA
- Word2Vec a GloVe
- In encoder-decoder attention, which representations are commonly used as keys and values?
- Only the decoder’s future hidden states
- The vocabulary file’s byte offsets
- The encoder’s output representations
- The optimizer’s learning-rate history
- What does a bidirectional encoder provide to an attention-based decoder?
- A fixed one-token output regardless of the input
- A guarantee that output length equals input length
- A causal mask over future target tokens
- Contextual representations of source tokens that can use information from both directions