Quiz lié à un guide · Moyen Niveau
Quiz sur les modèles séquence à séquence
Découvrez comment les modèles d'encodeur-décodeur mappent les séquences d'entrée vers des sorties de différentes longueurs à l'aide de mécanismes d'attention et d'attention croisée.
Question 1 de 8
Quels sont les deux principaux composants d’un modèle séquence à séquence ?
Prévisualisez chaque question8 des questions
Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.
- Quels sont les deux principaux composants d’un modèle séquence à séquence ?
- Un encodeur et un décodeur
- Un tokenizer et un classificateur
- Deux encodeurs identiques
- Un filtre et un classement
- Quel problème clé le mécanisme d’attention a-t-il résolu dans les modèles seq2seq ?
- Tokenisation lente
- Le goulot d'étranglement vectoriel de longueur fixe pour les entrées longues
- Manque de vocabulaire
- Données d'entraînement excessives
- Quelle architecture le modèle de traduction seq2seq original de 2014 utilisait-il ?
- Réseaux convolutifs
- Arbres de décision
- LSTM empilés
- Couches à feed-forward nues
- Comment l’attention construit-elle le contexte de chaque étape de décodage ?
- En faisant la moyenne égale de tous les jetons d'entrée
- En ignorant complètement l'encodeur
- En copiant le dernier jeton d'entrée
- Par une somme pondérée des états du codeur à l'aide des scores d'alignement
- Pourquoi les sorties seq2seq peuvent-elles différer en longueur des entrées ?
- Le décodeur génère des jetons jusqu'à ce qu'il émette un signal d'arrêt
- Les entrées et sorties sont toujours de même longueur
- L'encodeur capte tout
- La longueur est fixée à l'avance
- Quels modèles modernes sont des architectures seq2seq basées sur Transformer populaires ?
- ResNet et VGG
- T5 et BART
- K-moyennes et PCA
- Word2Vec et GloVe
- In encoder-decoder attention, which representations are commonly used as keys and values?
- Only the decoder’s future hidden states
- The vocabulary file’s byte offsets
- The encoder’s output representations
- The optimizer’s learning-rate history
- What does a bidirectional encoder provide to an attention-based decoder?
- A fixed one-token output regardless of the input
- A guarantee that output length equals input length
- A causal mask over future target tokens
- Contextual representations of source tokens that can use information from both directions