Mit dem Guide verknüpftes Quiz · Schwer Ebene

HuBERT Selbstüberwachtes Sprachquiz

Sehen Sie sich an, wie HuBERT Cluster-abgeleitete Ziele für maskiertes Audio erstellt, Beschriftungen iteriert und gelernte Darstellungen anhand von Sprach-Benchmarks auswertet.

Verwandte FührungspfadeHubert Selbstüberwachte Rede
Frage 1 von 8

Wie generiert HuBERT die Ziele, die es während des Trainings vorherzusagen versucht?

Sehen Sie sich jede Frage in der Vorschau an8 Fragen

Während Sie am Quiz teilnehmen, werden Antworten und Erklärungen angezeigt.

  1. Wie generiert HuBERT die Ziele, die es während des Trainings vorherzusagen versucht?
    • Offline-K bedeutet die Gruppierung von Audiofunktionen in versteckten Einheiten
    • Menschliche Transkripte
    • Zufällige Geräuschbezeichnungen
    • Kontrast zu Distraktorproben
  2. Welches bekannte Textmodell hat HuBERTs Trainingsschema für maskierte Vorhersagen inspiriert?
    • GPT-3
    • BERT
    • ResNet
    • Word2Vec
  3. Wie verbessert HuBERT seine Zielbezeichnungen über aufeinanderfolgende Trainingsiterationen hinweg?
    • Es werden mehr Kommentatoren eingestellt
    • Es fügt mehr rohes Rauschen hinzu
    • Die Gruppierung erfolgt mithilfe der verbesserten internen Darstellungen des Modells neu
    • Es friert das erste Clustering für immer ein
  4. Welche Funktionen sind typischerweise in der allerersten Iteration von HuBERT geclustert?
    • Endgültige Transkriptwörter
    • Bildpixel
    • Einbettungen der Sprecher-ID
    • Einfache MFCC-Akustikfunktionen
  5. Warum kann HuBERT eine nützliche Struktur erlernen, auch wenn die Clusterbildung unvollständig ist?
    • Es müssen nur Cluster-IDs an maskierten Positionen vorhergesagt werden, was eine konsistente Aufgabe bleibt
    • Die Cluster werden vollständig ignoriert
    • Es verwendet ein perfektes Oracle-Clustering
    • Es speichert den Testsatz
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet und COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light