Cuestionario vinculado a una guía · Medio Nivel

Capas adaptadoras para la prueba de transferencia

Compruebe cómo los adaptadores de cuello de botella preservan un modelo base congelado, permiten tareas modulares o transferencia de dominio y comparan con LoRA.

Rutas de guía relacionadasCapas adaptadoras para transferencia
Pregunta 1 de 8

¿Qué sucede con las pesas originales previamente entrenadas cuando se entrena con adaptadores?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Qué sucede con las pesas originales previamente entrenadas cuando se entrena con adaptadores?
    • Se congelan mientras solo se entrenan los parámetros del adaptador.
    • estan borrados
    • Se reinicializan aleatoriamente
    • Tienen el doble de tamaño
  2. ¿Cuál es la estructura interna típica de un adaptador de cuello de botella?
    • Una sola capa enorme y densa
    • Una proyección hacia abajo, una no linealidad, luego una proyección hacia arriba, con una conexión residual
    • Sólo una cabeza de atención
    • Un filtro de imagen convolucional
  3. ¿Aproximadamente qué fracción de parámetros suelen entrenar los adaptadores?
    • 100%
    • exactamente el 50%
    • A menudo menos del 5%
    • Ninguno en absoluto
  4. ¿Por qué los adaptadores son convenientes para realizar muchas tareas?
    • Requieren una copia del modelo completo por separado por tarea.
    • No se pueden combinar
    • Borran el modelo base después de cada tarea
    • Mantienes un modelo base e intercambias pequeños adaptadores por tarea
  5. ¿A qué familia de técnicas pertenecen los adaptadores?
    • Ajuste fino eficiente en parámetros (PEFT)
    • Aumento de datos
    • Compresión de imágenes
    • Esquemas de tokenización
  6. ¿Qué ventaja ofrece LoRA sobre un adaptador insertado clásico en el momento de la inferencia?
    • No se puede entrenar
    • Sus pesos aprendidos se pueden fusionar en las matrices base, evitando latencia adicional por capa.
    • Requiere volver a entrenar todo el modelo.
    • Elimina la conexión residual de forma permanente.
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization