Quiz lié à un guide · Difficile Niveau

Quiz vocal auto-supervisé HuBERT

Vérifiez comment HuBERT crée des cibles dérivées de clusters pour l'audio masqué, itère les étiquettes et évalue les représentations apprises sur des références vocales.

Chemins de guidage associésDiscours auto-supervisé d'Hubert
Question 1 de 8

Comment HuBERT génère-t-il les objectifs qu’il tente de prédire pendant l’entraînement ?

Prévisualisez chaque question8 des questions

Les réponses et les explications apparaissent au fur et à mesure que vous répondez au quiz.

  1. Comment HuBERT génère-t-il les objectifs qu’il tente de prédire pendant l’entraînement ?
    • K-means hors ligne, regroupement de fonctionnalités audio en unités cachées
    • Transcriptions humaines
    • Étiquettes de bruit aléatoires
    • Contraste avec les échantillons de distraction
  2. Quel modèle de texte bien connu a inspiré le programme de formation à la prédiction masquée de HuBERT ?
    • GPT-3
    • BERTE
    • ResNet
    • Mot2Vec
  3. Comment HuBERT améliore-t-il ses étiquettes cibles au fil des itérations de formation successives ?
    • Il embauche plus d'annotateurs
    • Cela ajoute plus de bruit brut
    • Il se regroupe à nouveau en utilisant les représentations internes améliorées du modèle.
    • Il gèle pour toujours le premier clustering
  4. Quelles fonctionnalités sont généralement regroupées dans la toute première itération de HuBERT ?
    • Mots de la transcription finale
    • Pixels de l'image
    • Intégrations d'identification de haut-parleur
    • Caractéristiques acoustiques simples du MFCC
  5. Pourquoi HuBERT peut-il apprendre une structure utile même lorsque son clustering est imparfait ?
    • Il lui suffit de prédire les ID de cluster aux positions masquées, ce qui reste une tâche cohérente
    • Il ignore complètement les clusters
    • Il utilise un clustering Oracle parfait
    • Il mémorise l'ensemble de test
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet et COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light