Quiz collegato alla guida · Difficile Livello

HuBERT Quiz vocale autosupervisionato

Scopri come HuBERT crea obiettivi derivati ​​​​da cluster per l'audio mascherato, ripete le etichette e valuta le rappresentazioni apprese sui benchmark vocali.

Domanda 1 di 8

In che modo HuBERT genera gli obiettivi che cerca di prevedere durante l'allenamento?

Anteprima di ogni domanda8 domande

Le risposte e le spiegazioni vengono visualizzate mentre rispondi al quiz.

  1. In che modo HuBERT genera gli obiettivi che cerca di prevedere durante l'allenamento?
    • Offline k-significa raggruppamento di funzionalità audio in unità nascoste
    • Trascrizioni umane
    • Etichette di rumore casuale
    • Contrasto con i campioni di distrattore
  2. Quale noto modello di testo ha ispirato il programma di formazione sulla previsione mascherata di HuBERT?
    • GPT-3
    • BERT
    • ResNet
    • Word2Vec
  3. In che modo HuBERT migliora le etichette target nel corso delle successive iterazioni di formazione?
    • Assume più annotatori
    • Aggiunge più rumore grezzo
    • Si raggruppa nuovamente utilizzando le rappresentazioni interne migliorate del modello
    • Congela per sempre il primo clustering
  4. Quali funzionalità sono tipicamente raggruppate nella primissima iterazione di HuBERT?
    • Parole finali della trascrizione
    • Pixel dell'immagine
    • Incorporamenti dell'ID dell'altoparlante
    • Semplici caratteristiche acustiche MFCC
  5. Perché HuBERT può apprendere una struttura utile anche quando il suo clustering è imperfetto?
    • Deve solo prevedere gli ID dei cluster nelle posizioni mascherate, il che rimane un compito coerente
    • Ignora completamente i cluster
    • Utilizza un perfetto clustering oracolare
    • Memorizza il set di test
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet e COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light