引導式測驗 · 硬 等級

HuBERT 自我監督演講測驗

檢查 HuBERT 如何為屏蔽音訊建立源自叢集的目標、迭代標籤以及評估語音基準上學習到的表示。

相關引導路徑休伯特自我監督演講
問題 1 的 8

HuBERT 如何產生在訓練期間嘗試預測的目標?

預覽每個問題8 問題

當您參加測驗時,就會出現答案和解釋。

  1. HuBERT 如何產生在訓練期間嘗試預測的目標?
    • 將音訊特徵離線 k 均值聚類為隱藏單元
    • 人類轉錄本
    • 隨機噪音標籤
    • 與乾擾樣本對比
  2. 哪個著名的文本模型啟發了 HuBERT 的蒙面預測訓練方案?
    • GPT-3
    • 伯特
    • 殘差網絡
    • 詞向量
  3. HuBERT 如何在連續的訓練迭代中改進其目標標籤?
    • 它僱用了更多的註釋者
    • 它增加了更多的原始噪音
    • 它使用模型自身改進的內部表示重新聚類
    • 它永遠凍結第一個聚類
  4. HuBERT 的第一次迭代中通常聚集了哪些功能?
    • 最終文字記錄
    • 影像像素
    • 說話者 ID 嵌入
    • 簡單的 MFCC 聲學特徵
  5. 為什麼 HuBERT 即使在聚類不完善的情況下也能學到有用的結構?
    • 它只需要預測屏蔽位置處的簇 ID,這保持了一致的任務
    • 它完全忽略了集群
    • 它使用了完美的oracle集群
    • 它記住測試集
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet 和 COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light