引导式测验 · 硬 等级

HuBERT 自监督演讲测验

检查 HuBERT 如何为屏蔽音频创建源自集群的目标、迭代标签以及评估语音基准上学习到的表示。

相关引导路径休伯特自我监督演讲
问题 1 的 8

HuBERT 如何生成在训练期间尝试预测的目标?

预览每个问题8 问题

当您参加测验时,就会出现答案和解释。

  1. HuBERT 如何生成在训练期间尝试预测的目标?
    • 将音频特征离线 k 均值聚类为隐藏单元
    • 人类转录本
    • 随机噪声标签
    • 与干扰样本对比
  2. 哪个著名的文本模型启发了 HuBERT 的蒙面预测训练方案?
    • GPT-3
    • 伯特
    • 残差网络
    • 词向量
  3. HuBERT 如何在连续的训练迭代中改进其目标标签?
    • 它雇用了更多的注释者
    • 它增加了更多的原始噪音
    • 它使用模型自身改进的内部表示重新聚类
    • 它永远冻结第一个聚类
  4. HuBERT 的第一次迭代中通常聚集了哪些功能?
    • 最终文字记录
    • 图像像素
    • 说话人 ID 嵌入
    • 简单的 MFCC 声学特征
  5. 为什么 HuBERT 即使在聚类不完善的情况下也能学到有用的结构?
    • 它只需要预测屏蔽位置处的簇 ID,这保持了一致的任务
    • 它完全忽略了集群
    • 它使用了完美的oracle集群
    • 它记住测试集
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet 和 COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light