Quiz połączony z przewodnikiem · Ciężko Poziom

Samonadzorowany quiz mowy HuBERT

Sprawdź, jak HuBERT tworzy cele oparte na klastrach dla zamaskowanego dźwięku, iteruje etykiety i ocenia wyuczone reprezentacje w testach porównawczych mowy.

Powiązane ścieżki prowadząceHubert Samonadzorowana mowa
Pytanie 1 z 8

W jaki sposób HuBERT generuje cele, które stara się przewidzieć podczas treningu?

Podgląd każdego pytania8 pytania

Odpowiedzi i wyjaśnienia pojawiają się w miarę rozwiązywania quizu.

  1. W jaki sposób HuBERT generuje cele, które stara się przewidzieć podczas treningu?
    • Offline k-oznacza grupowanie funkcji audio w ukryte jednostki
    • Transkrypcje ludzkie
    • Etykiety losowego hałasu
    • Kontrast z próbkami rozpraszającymi
  2. Jaki dobrze znany model tekstu zainspirował schemat uczenia się zamaskowanego przewidywania HuBERTA?
    • GPT-3
    • BERT
    • ResNet
    • Word2Vec
  3. W jaki sposób HuBERT ulepsza swoje etykiety docelowe w kolejnych iteracjach szkoleniowych?
    • Zatrudnia więcej adnotatorów
    • Dodaje więcej surowego hałasu
    • Dokonuje ponownego skupienia przy użyciu ulepszonych wewnętrznych reprezentacji modelu
    • Zamraża pierwsze grupowanie na zawsze
  4. Jakie funkcje są zazwyczaj skupiane w pierwszej iteracji HuBERT?
    • Końcowe słowa transkrypcji
    • Piksele obrazu
    • Osadzanie identyfikatora głośnika
    • Proste funkcje akustyczne MFCC
  5. Dlaczego HuBERT może nauczyć się przydatnej struktury, nawet jeśli jej grupowanie jest niedoskonałe?
    • Wystarczy przewidzieć identyfikatory klastrów w pozycjach maskowanych, co pozostaje spójnym zadaniem
    • Całkowicie ignoruje klastry
    • Używa doskonałego grupowania Oracle
    • Zapamiętuje zestaw testowy
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet i COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light