Questionário vinculado ao guia · Difícil Nível

Questionário de fala auto-supervisionada HuBERT

Verifique como o HuBERT cria alvos derivados de cluster para áudio mascarado, itera rótulos e avalia representações aprendidas em benchmarks de fala.

Caminhos de guia relacionadosDiscurso auto-supervisionado de Hubert
Pergunta 1 de 8

Como o HuBERT gera as metas que tenta prever durante o treinamento?

Visualize cada pergunta8 perguntas

As respostas e explicações aparecem conforme você responde ao teste.

  1. Como o HuBERT gera as metas que tenta prever durante o treinamento?
    • Agrupamento off-line k-means de recursos de áudio em unidades ocultas
    • Transcrições humanas
    • Rótulos de ruído aleatório
    • Contrastando com amostras de distração
  2. Que modelo de texto conhecido inspirou o esquema de treinamento de previsão mascarada de HuBERT?
    • GPT-3
    • BERTO
    • ResNet
    • Word2Vec
  3. Como o HuBERT melhora seus rótulos de destino em sucessivas iterações de treinamento?
    • Contrata mais anotadores
    • Adiciona mais ruído bruto
    • Ele reagrupa usando as representações internas aprimoradas do próprio modelo
    • Congela o primeiro cluster para sempre
  4. Quais recursos são normalmente agrupados na primeira iteração do HuBERT?
    • Palavras finais da transcrição
    • Pixels de imagem
    • Incorporações de ID de alto-falante
    • Recursos acústicos simples do MFCC
  5. Por que o HuBERT pode aprender uma estrutura útil mesmo quando seu agrupamento é imperfeito?
    • Ele só precisa prever IDs de cluster em posições mascaradas, o que continua sendo uma tarefa consistente
    • Ele ignora totalmente os clusters
    • Ele usa um cluster oracle perfeito
    • Ele memoriza o conjunto de testes
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet e COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light