Викторина, связанная с руководством · Жесткий Уровень

HuBERT Речевой тест с самоконтролем

Посмотрите, как HuBERT создает на основе кластера целевые объекты для замаскированного звука, выполняет итерацию меток и оценивает полученные представления в тестах речи.

Связанные направляющие путиРечь Хьюберта под самоконтролем
Вопрос 1 из 8

Как HuBERT генерирует цели, которые он пытается предсказать во время обучения?

Предварительный просмотр каждого вопроса8 вопросы

Ответы и пояснения появляются по мере прохождения теста.

  1. Как HuBERT генерирует цели, которые он пытается предсказать во время обучения?
    • Автономные k-средства группируют аудиофункции в скрытые блоки.
    • Человеческие транскрипты
    • Метки случайного шума
    • Контрастирование с образцами дистрактора
  2. Какая известная текстовая модель вдохновила HuBERT на создание схемы обучения прогнозированию по маске?
    • ГПТ-3
    • БЕРТ
    • РесНет
    • Word2Vec
  3. Как HuBERT улучшает свои целевые метки в ходе последовательных итераций обучения?
    • Он нанимает больше аннотаторов
    • Это добавляет больше сырого шума
    • Он выполняет повторную кластеризацию, используя собственные улучшенные внутренние представления модели.
    • Он навсегда замораживает первую кластеризацию
  4. Какие функции обычно группируются в самой первой итерации HuBERT?
    • Заключительные слова стенограммы
    • Пиксели изображения
    • Встраивание идентификатора динамика
    • Простые акустические характеристики MFCC
  5. Почему HuBERT может изучить полезную структуру, даже если ее кластеризация несовершенна?
    • Требуется только предсказать идентификаторы кластеров в замаскированных позициях, что остается последовательной задачей.
    • Он полностью игнорирует кластеры
    • Он использует идеальную кластеризацию Oracle
    • Он запоминает набор тестов
  6. Which pretraining challenge does HuBERT address by using offline cluster labels?
    • Speech has no temporal structure
    • There is no lexicon of sound units available during pretraining
    • Every speaker uses the same pitch
    • Audio contains no repeated patterns
  7. In the HuBERT paper, what relative WER reductions did the 1B-parameter model report on dev-other and test-other?
    • Exactly 50% on both sets
    • No measurable change on either set
    • Up to 19% on dev-other and 13% on test-other
    • Up to 13% on dev-other and 19% on test-other
  8. Which benchmark sets did the original HuBERT paper use for speech-recognition results?
    • ImageNet и COCO
    • GLUE and SuperGLUE
    • SQuAD and TriviaQA
    • LibriSpeech and Libri-light