ガイド連動クイズ · ハード レベル

HuBERT 自主監修スピーチクイズ

HuBERT がどのようにマスクされたオーディオのクラスター派生ターゲットを作成し、ラベルを反復処理し、音声ベンチマークで学習した表現を評価するかを確認します。

質問 1 の 8

HuBERT はトレーニング中に予測しようとするターゲットをどのように生成しますか?

すべての質問をプレビューする8 質問

クイズに答えると、答えと解説が表示されます。

  1. HuBERT はトレーニング中に予測しようとするターゲットをどのように生成しますか?
    • オフラインでのオーディオ特徴の隠れユニットへの K 平均法クラスタリング
    • 人間の転写物
    • ランダムノイズラベル
    • ディストラクタのサンプルとの対比
  2. HuBERT のマスク予測トレーニング スキームに影響を与えた有名なテキスト モデルは何ですか?
    • GPT-3
    • バート
    • レスネット
    • Word2Vec
  3. HuBERT は、トレーニングを繰り返すたびにターゲット ラベルをどのように改善しますか?
    • より多くのアノテーターを雇用する
    • 生のノイズがさらに追加されます
    • モデル独自の改良された内部表現を使用して再クラスタリングします。
    • 最初のクラスタリングを永久にフリーズします
  4. HuBERT の最初のイテレーションでは通常どのような機能がクラスター化されますか?
    • 最終的なトランスクリプトの言葉
    • 画像のピクセル
    • スピーカー ID の埋め込み
    • シンプルなMFCC音響機能
  5. HuBERT は、クラスタリングが不完全であっても、なぜ有用な構造を学習できるのでしょうか?
    • マスクされた位置でクラスター ID を予測するだけでよいため、一貫したタスクが維持されます。
    • クラスターを完全に無視します
    • 完璧なオラクルクラスタリングを使用します
    • テストセットを記憶します
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet と COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light