Cuestionario vinculado a una guía · Medio Nivel
Prueba de modelos secuencia a secuencia
Descubra cómo los modelos codificadores-decodificadores asignan secuencias de entrada a salidas de diferentes longitudes utilizando mecanismos de atención y atención cruzada.
Pregunta 1 de 8
¿Cuáles son los dos componentes principales de un modelo secuencia a secuencia?
Vista previa de cada pregunta8 preguntas
Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.
- ¿Cuáles son los dos componentes principales de un modelo secuencia a secuencia?
- Un codificador y un decodificador.
- Un tokenizador y un clasificador.
- Dos codificadores idénticos
- Un filtro y un ranking
- ¿Qué problema clave resolvió el mecanismo de atención en los modelos seq2seq?
- Tokenización lenta
- El cuello de botella del vector de longitud fija para entradas largas
- Falta de vocabulario
- Exceso de datos de entrenamiento
- ¿Qué arquitectura utilizó el modelo de traducción seq2seq original de 2014?
- Redes convolucionales
- Árboles de decisión
- LSTM apilados
- Capas de alimentación directa desnudas
- ¿Cómo construye la atención el contexto para cada paso de decodificación?
- Promediando todos los tokens de entrada por igual
- Ignorando el codificador por completo
- Copiando el último token de entrada
- Mediante una suma ponderada de estados del codificador utilizando puntuaciones de alineación
- ¿Por qué las salidas de seq2seq pueden diferir en longitud de las entradas?
- El decodificador genera tokens hasta que emite una señal de parada
- Las entradas y salidas siempre tienen la misma longitud.
- El codificador lo rellena todo.
- La duración se fija de antemano.
- ¿Qué modelos modernos son arquitecturas seq2seq basadas en transformadores populares?
- ResNet y VGG
- T5 y BART
- K-medias y PCA
- Word2Vec y guante
- In encoder-decoder attention, which representations are commonly used as keys and values?
- Only the decoder’s future hidden states
- The vocabulary file’s byte offsets
- The encoder’s output representations
- The optimizer’s learning-rate history
- What does a bidirectional encoder provide to an attention-based decoder?
- A fixed one-token output regardless of the input
- A guarantee that output length equals input length
- A causal mask over future target tokens
- Contextual representations of source tokens that can use information from both directions