Cuestionario vinculado a una guía · duro Nivel

Prueba de habla autosupervisada de HuBERT

Compruebe cómo HuBERT crea objetivos derivados de clústeres para audio enmascarado, itera etiquetas y evalúa representaciones aprendidas en puntos de referencia de voz.

Rutas de guía relacionadasDiscurso autosupervisado de Hubert
Pregunta 1 de 8

¿Cómo genera HuBERT los objetivos que intenta predecir durante el entrenamiento?

Vista previa de cada pregunta8 preguntas

Las respuestas y explicaciones aparecen a medida que realiza el cuestionario.

  1. ¿Cómo genera HuBERT los objetivos que intenta predecir durante el entrenamiento?
    • K-significa sin conexión agrupación de funciones de audio en unidades ocultas
    • Transcripciones humanas
    • Etiquetas de ruido aleatorio
    • Contrastando con muestras de distractores
  2. ¿Qué modelo de texto conocido inspiró el esquema de entrenamiento de predicción enmascarada de HuBERT?
    • GPT-3
    • BERT
    • Resnet
    • Palabra2Vec
  3. ¿Cómo mejora HuBERT sus etiquetas objetivo en iteraciones sucesivas de capacitación?
    • Contrata más anotadores
    • Agrega más ruido crudo.
    • Se vuelve a agrupar utilizando las representaciones internas mejoradas del modelo.
    • Congela la primera agrupación para siempre.
  4. ¿Qué características suelen agruparse en la primera versión de HuBERT?
    • Palabras finales de la transcripción
    • Píxeles de imagen
    • Incorporaciones de ID de altavoz
    • Funciones acústicas simples de MFCC
  5. ¿Por qué HuBERT puede aprender una estructura útil incluso cuando su agrupación es imperfecta?
    • Solo necesita predecir los ID de los grupos en posiciones enmascaradas, lo que sigue siendo una tarea constante.
    • Ignora los grupos por completo.
    • Utiliza una agrupación de Oracle perfecta.
    • Memoriza el conjunto de prueba.
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet y COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light