Kvíz spojený s průvodcem · Těžko úroveň

Samokontrolovaný řečový kvíz HuBERT

Zkontrolujte, jak HuBERT vytváří cíle odvozené od clusteru pro maskovaný zvuk, iteruje štítky a vyhodnocuje naučené reprezentace v testech řeči.

Související vodicí cestySamokontrolovaný projev Huberta
Otázka 1 z 8

Jak HuBERT generuje cíle, které se snaží předvídat během tréninku?

Náhled každé otázky8 otázky

Odpovědi a vysvětlení se zobrazují, jak budete v kvízu.

  1. Jak HuBERT generuje cíle, které se snaží předvídat během tréninku?
    • Offline k-znamená seskupení zvukových funkcí do skrytých jednotek
    • Lidské přepisy
    • Náhodné šumové štítky
    • Kontrastní proti vzorkům distraktoru
  2. Jaký známý textový model inspiroval HuBERTovo schéma školení s maskovanou predikcí?
    • GPT-3
    • BERT
    • ResNet
    • Word2Vec
  3. Jak HuBERT zlepšuje své cílové štítky během po sobě jdoucích iterací školení?
    • Najímá více anotátorů
    • Přidává více syrového šumu
    • Znovu seskupuje pomocí vlastních vylepšených interních reprezentací modelu
    • Zmrazí první shlukování navždy
  4. Jaké funkce jsou obvykle seskupeny v úplně první iteraci HuBERT?
    • Slova závěrečného přepisu
    • Obrazové pixely
    • Vložení ID reproduktoru
    • Jednoduché akustické vlastnosti MFCC
  5. Proč se může HuBERT naučit užitečnou strukturu, i když je její shlukování nedokonalé?
    • Potřebuje pouze předpovídat ID clusteru na maskovaných pozicích, což zůstává konzistentní úkol
    • Klastry zcela ignoruje
    • Využívá dokonalé shlukování orákula
    • Uloží si testovací sadu do paměti
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet a COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light