ДаліНаступний посібник
Конформерна архітектура
Аудіо AI
Аудіо AI GUIDE
DeepSpeech — це модель наскрізного розпізнавання мовлення, представлена Baidu у 2014 році, яка відображає необроблені аудіофайли безпосередньо в тексті за допомогою рекурентної нейронної мережі, навченої з втратою CTC.
Послухайте цей посібникШІ-розказаний · ~2 min
It helped pioneer the shift away from complex, hand-engineered ASR pipelines toward learned, data-driven systems.
Класичні засоби розпізнавання мовлення з’єднали окремі акустичні моделі, словники вимови та мовні моделі з налаштованими вручну компонентами. DeepSpeech замінив більшу частину цього єдиною навченою нейронною мережею. Його архітектура використовує функції спектрограми або MFCC у коротких аудіокадрах і пропускає їх через кілька повністю пов’язаних рівнів, двонаправлений повторюваний рівень, який фіксує контекст із минулого та майбутнього, і вихідний рівень, що створює розподіл ймовірностей за символами на кожному кроці часу. Найважливіше те, що він використовує часову класифікацію Connectionist Temporal Classification (CTC), яка дозволяє мережі вивчати вирівнювання між звуком і текстом без потреби в мітках на рівні кадру. Пізніше Mozilla випустила популярну реалізацію з відкритим вихідним кодом (з новими версіями, які використовують потоковий дизайн на основі LSTM), зробивши підхід широко доступним.
Офлайн-розпізнавання голосових команд на пристрої для програм, орієнтованих на конфіденційність, за допомогою відкритого Mozilla DeepSpeech
Створення чернеток стенограм подкастів або лекцій, не покладаючись на хмарний сервіс
Викладання основ наскрізного ASR і втрат CTC на університетських курсах машинного навчання
Створення користувальницьких голосових інтерфейсів для IoT або вбудованих пристроїв, де потрібен легкий потоковий розпізнавач
Сам DeepSpeech був значною мірою витіснений архітектурами на основі концентрації уваги та трансформаторів (Conformer, Whisper, wav2vec 2.0), які захоплюють довший контекст і самостійно контролюють аудіо без міток. Але його ключові ідеї, наскрізне навчання та декодування CTC, залишаються основоположними та все ще з’являються в сучасних гібридних системах. Спадщина є концептуальною: вона довела, що єдина вивчена модель може конкурувати з інтенсивно сконструйованими конвеєрами, прокладаючи шлях для сучасних великих, багатомовних, самоконтрольованих моделей основи мовлення.
Безплатний розсилок
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
DeepSpeech — це модель наскрізного розпізнавання мовлення, представлена Baidu у 2014 році, яка відображає необроблені аудіофайли безпосередньо в тексті за допомогою рекурентної нейронної мережі, навченої з втратою CTC. Це допомогло піонером переходу від складних конвеєрів ASR, розроблених вручну, до навчених систем, керованих даними.
CTC вводить порожній символ і підсумовує всі дійсні вирівнювання, що згортаються до цільового тексту, усуваючи потребу в мітках для кожного кадру.
DeepSpeech замінив традиційний багатоступінчастий конвеєр на одну нейронну мережу, навчену впритул, що стало серйозною зміною в дизайні ASR.
Двонаправлений RNN обробляє послідовність в обох напрямках, тому кожен вихід отримує користь від навколишнього акустичного контексту, покращуючи точність.
Модель використовує аудіофункції на рівні кадру, такі як спектрограми або MFCC, і виводить ймовірності символів для кожного кроку часу.
Поєднання акустичного виведення із зовнішньою мовною моделлю під час декодування допомагає системі створювати більш правдоподібні слова та варіанти написання.
Продовжуйте вчитися
Інші посібники, вибрані для цієї теми
ДаліНаступний посібник
Конформерна архітектура
Аудіо AI