引导式测验 · 硬 等级
HuBERT 自监督演讲测验
检查 HuBERT 如何为屏蔽音频创建源自集群的目标、迭代标签以及评估语音基准上学习到的表示。
问题 1 的 8
HuBERT 如何生成在训练期间尝试预测的目标?
预览每个问题8 问题
当您参加测验时,就会出现答案和解释。
- HuBERT 如何生成在训练期间尝试预测的目标?
- 将音频特征离线 k 均值聚类为隐藏单元
- 人类转录本
- 随机噪声标签
- 与干扰样本对比
- 哪个著名的文本模型启发了 HuBERT 的蒙面预测训练方案?
- GPT-3
- 伯特
- 残差网络
- 词向量
- HuBERT 如何在连续的训练迭代中改进其目标标签?
- 它雇用了更多的注释者
- 它增加了更多的原始噪音
- 它使用模型自身改进的内部表示重新聚类
- 它永远冻结第一个聚类
- HuBERT 的第一次迭代中通常聚集了哪些功能?
- 最终文字记录
- 图像像素
- 说话人 ID 嵌入
- 简单的 MFCC 声学特征
- 为什么 HuBERT 即使在聚类不完善的情况下也能学到有用的结构?
- 它只需要预测屏蔽位置处的簇 ID,这保持了一致的任务
- 它完全忽略了集群
- 它使用了完美的oracle集群
- 它记住测试集
- Which pretraining challenge does HuBERT address by using offline cluster labels?
- Speech has no temporal structure
- There is no lexicon of sound units available during pretraining
- Every speaker uses the same pitch
- Audio contains no repeated patterns
- In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
- Exactly 50% on both sets
- No measurable change on either set
- Up to 19% on dev-other and 13% on test-other
- Up to 13% on dev-other and 19% on test-other
- Which benchmark sets did the original HuBERT paper use for speech-recognition results?
- ImageNet 和 COCO
- GLUE and SuperGLUE
- SQuAD and TriviaQA
- LibriSpeech and Libri-light