Слухайте, відвідуйте та читайте заклинання
Listen, Attend and Spell (LAS) — це знакова нейронна мережа 2015 року, яка транскрибує мову безпосередньо в символи, без створеного вручну словника вимови чи окремої мовної моделі.
Огляд
It showed that a single end-to-end model could do speech recognition.
Глибоке занурення
Listen, Attend and Spell, представлений дослідниками Google Чаном, Джейтлі, Ле та Віньялсом у 2015 році, був одним із перших справжніх наскрізних засобів розпізнавання мовлення. Він має дві частини: «Слухач», пірамідальний двонаправлений LSTM, який кодує аудіо, скорочуючи часовий вимір, і «Спелер», декодер LSTM на основі уваги, який видає символи по одному. Механізм звернення уваги дозволяє Speller зосередитися на відповідному фрагменті аудіо для кожної вихідної літери. На відміну від старих конвеєрів HMM-DNN, LAS не потребує словника фонем, примусового вирівнювання та окремо навченої моделі мови; він вивчає орфографію, межі слів і акустику спільно з транскрибованим аудіо. Це безпосередньо надихнуло сучасні послідовні системи ASR на основі уваги.
Технічне розуміння
LAS поєднує кодер-декодер з увагою. Пірамідальний кодер LSTM удвічі зменшує часову роздільну здатність на кожному з трьох шарів, розрізаючи довгу акустичну послідовність на керовану довжину, щоб увага була доступна. На кожному кроці декодування Speller обчислює ваги уваги для всіх станів кодувальника, поєднує їх у вектор контексту та передбачає наступний символ. Навчання максимізує ймовірність правильної послідовності символів; трюк із запланованою вибіркою зменшує невідповідність поїзд/тест.
Стратегічний вплив
Доступ і охоплення
Це покращує доступність завдяки транскрипції, дикторському тексту та голосовому інтерфейсу.
Вартість і бюджет
Медіа-команди можуть доставляти якісний аудіо швидше за менші бюджети.
Швидкість і масштаб
Системи, орієнтовані на клієнта, можуть обробляти голосову взаємодію у більшому масштабі.
Майбутнє слухання, відвідування та написання
LAS тепер є історичним, але його ДНК проходить через кожну сучасну систему ASR. Його ідея кодера-декодера на основі уваги розвинулася в Transformer і Conformer розпізнавальні засоби, а також пов’язані підходи, такі як RNN-Transducer живлення на пристрої. Майбутні системи продовжать цю наскрізну траєкторію, поєднуючи розпізнавання з перекладом і розумінням в одній багатомовній моделі, і просуваючись до потокової транскрипції з низькою затримкою, яку LAS, будучи не потоковою, спочатку не могла забезпечити.
Реалізація в реальному світі
Транскрипція розмовної англійської мови безпосередньо в літери без словника вимови
Служить концептуальною основою для систем голосового диктування та субтитрів на основі уваги
Демонстрація наскрізного навчання для академічної курсової роботи з розпізнавання мовлення та тестів
Надихаючі моделі послідовності до послідовності, які пізніше використовувалися в конвеєрах перекладу мовлення
Ризики та огорожі
Ризик неправильного використання голосу та видавання себе за іншу особу зростає, якщо згоди немає.
Точність може впасти через акценти, діалекти чи шумне середовище.
Синтетичне аудіо можна прийняти за автентичне мовлення без чіткого маркування.
Дорожня карта впровадження
Отримайте чітку згоду на захоплення голосу, клонування та повторне використання.
Перевірте якість на різних динаміках і фонових умовах.
Визначте, коли людина повинна переглядати або затверджувати результати.
Позначайте синтетичне аудіо та зберігайте записи про походження для підзвітності.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Listen Attend and Spell quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Наступний посібник
Автоматичне тегування музики
Часті запитання
What is Listen Attend and Spell?
Listen, Attend and Spell (LAS) — це знакова нейронна мережа 2015 року, яка транскрибує мову безпосередньо в символи, без створеного вручну словника вимови чи окремої мовної моделі. Це показало, що єдина наскрізна модель може виконувати розпізнавання мови.
Які два основні компоненти моделі LAS?
LAS складається з кодера «Listener», який обробляє аудіо, і декодера «Speller», який орієнтується на увагу, і видає символи.
Що виводить Speller у LAS?
Speller — це декодер, який створює транскрипцію символ за символом, вивчаючи правопис безпосередньо.
Чому кодер LAS називають «пірамідальним»?
Кожен шар пірамідального BLSTM зменшує довжину послідовності вдвічі, скорочуючи довгу аудіопослідовність, щоб увага була можливою з точки зору обчислень.
Який старіший компонент НЕ потрібен LAS?
На відміну від класичних конвеєрів HMM-DNN, LAS навчається безпосередньо з пар аудіо-текст без словника фонем або примусового вирівнювання.
Який механізм дозволяє Speller зосередитися на відповідній частині аудіо для кожного символу?
Механізм уваги обчислює ваги для станів кодера, формуючи вектор контексту, який декодер використовує на кожному кроці.