Gids-gekoppelde quiz · Middelmatig Niveau
Sequentie-tot-reeksmodellen Quiz
Leer hoe encoder-decoder-modellen inputsequenties toewijzen aan outputs van verschillende lengte met behulp van attention- en cross-attention-mechanismen.
Vraag 1 van 8
Wat zijn de twee belangrijkste componenten van een sequentie-tot-sequentie-model?
Bekijk elke vraag8 vragen
Antwoorden en uitleg verschijnen terwijl je de quiz doet.
- Wat zijn de twee belangrijkste componenten van een sequentie-tot-sequentie-model?
- Een encoder en een decoder
- Een tokenizer en een classificator
- Twee identieke encoders
- Een filter en een rangorde
- Welk sleutelprobleem heeft het aandachtsmechanisme opgelost in seq2seq-modellen?
- Langzame tokenisatie
- Het vectorknelpunt met een vaste lengte voor lange invoer
- Gebrek aan een woordenschat
- Overmatige trainingsgegevens
- Welke architectuur werd gebruikt in het oorspronkelijke seq2seq-vertaalmodel uit 2014?
- Convolutionele netwerken
- Beslisbomen
- Gestapelde LSTM's
- Kale feed-forward-lagen
- Hoe bouwt aandacht de context op voor elke decodeerstap?
- Door alle invoertokens gelijk te middelen
- Door de encoder volledig te negeren
- Door het laatste invoertoken te kopiëren
- Door een gewogen som van encoderstatussen met behulp van uitlijningsscores
- Waarom kunnen seq2seq-uitgangen in lengte verschillen van ingangen?
- De decoder genereert tokens totdat hij een stopsignaal afgeeft
- Ingangen en uitgangen zijn altijd even lang
- De encoder vult alles op
- Lengte wordt vooraf vastgelegd
- Welke moderne modellen zijn populaire Transformer-gebaseerde seq2seq-architecturen?
- ResNet en VGG
- T5 en BART
- K-betekent en PCA
- Word2Vec en GloVe
- In encoder-decoder attention, which representations are commonly used as keys and values?
- Only the decoder’s future hidden states
- The vocabulary file’s byte offsets
- The encoder’s output representations
- The optimizer’s learning-rate history
- What does a bidirectional encoder provide to an attention-based decoder?
- A fixed one-token output regardless of the input
- A guarantee that output length equals input length
- A causal mask over future target tokens
- Contextual representations of source tokens that can use information from both directions