СледваСледващо ръководство
Конформерна архитектура
Аудио AI
Аудио AI РЪКОВОДСТВО
DeepSpeech е модел за разпознаване на реч от край до край, въведен от Baidu през 2014 г., който картографира необработените аудио характеристики директно към текста, използвайки повтаряща се невронна мрежа, обучена със загубата на CTC.
Чуйте това ръководствоAI-разказан · ~2 min
Той помогна за пионер в преминаването от сложни, ръчно проектирани ASR тръбопроводи към научени, управлявани от данни системи.
Класическите разпознаватели на реч съединяват отделни акустични модели, речници на произношението и езикови модели с ръчно настроени компоненти. DeepSpeech замени повечето от това с една невронна мрежа, обучена от край до край. Архитектурата му приема спектрограма или MFCC функции върху кратки аудио кадри и ги захранва през няколко напълно свързани слоя, двупосочен повтарящ се слой, който улавя контекст от миналото и бъдещето, и изходен слой, създаващ разпределение на вероятността върху символи на всяка времева стъпка. Най-важното е, че използва Connectionist Temporal Classification (CTC), което позволява на мрежата да научи подравнявания между аудио и текст, без да се нуждае от етикети на ниво рамка. По-късно Mozilla пусна популярна реализация с отворен код (с по-нови версии, използващи базиран на LSTM, стриймируем дизайн), правейки подхода широко достъпен.
Офлайн, разпознаване на гласови команди на устройството за приложения, фокусирани върху поверителността, използващи отворения DeepSpeech на Mozilla
Генериране на чернови на преписи на подкасти или лекции, без да разчитате на облачна услуга
Преподаване на основите на ASR и CTC загуба от край до край в университетски курсове за машинно обучение
Изграждане на персонализирани гласови интерфейси за IoT или вградени устройства, където е необходим лек разпознаващ поток
Самият DeepSpeech до голяма степен е заменен от архитектури, базирани на внимание и трансформатор (Conformer, Whisper, wav2vec 2.0), които улавят по-дълъг контекст и се самоконтролират върху немаркирано аудио. Но неговите основни идеи, обучение от край до край и CTC декодиране, остават основополагащи и все още се появяват в съвременните хибридни системи. Наследството е концептуално: то доказа, че един-единствен научен модел може да съперничи на тежко проектирани тръбопроводи, проправяйки пътя за днешните големи, многоезични, самоконтролирани модели на основата на речта.
Безплатен бюлетин
Три проверени AI истории всяка делнична сутрин, написани на достъпен език. Безплатно завинаги, без реклами.
Един имейл всеки делничен ден. Отписване с едно кликване. Никога не продаваме и не споделяме вашия имейл адрес.
Тествайте себе си
Незабавна обратна връзка за всеки отговор и сертификат за споделяне с подлежащ на проверка идентификационен номер, след като преминете курс.
Подкрепете безплатното AI образование. AI Understanding е 501(c)(3) с нестопанска цел — без реклами, без платен достъп, никога. Направете дарение
DeepSpeech е модел за разпознаване на реч от край до край, въведен от Baidu през 2014 г., който картографира необработените аудио характеристики директно към текста, използвайки повтаряща се невронна мрежа, обучена със загубата на CTC. Той помогна за пионер в преминаването от сложни, ръчно проектирани ASR тръбопроводи към научени, управлявани от данни системи.
CTC въвежда празен символ и сумира всички валидни подравнявания, свиващи се до целевия текст, премахвайки необходимостта от етикети за всеки кадър.
DeepSpeech замени традиционния многоетапен тръбопровод с една невронна мрежа, обучена от край до край, голяма промяна в дизайна на ASR.
Двупосочната RNN обработва последователността и в двете посоки, така че всеки изход се възползва от заобикалящия акустичен контекст, подобрявайки точността.
Моделът използва аудио функции на ниво рамка, като спектрограми или MFCC, и извежда символни вероятности за всяка времева стъпка.
Комбинирането на акустичния изход с външен езиков модел по време на декодиране помага на системата да произвежда по-правдоподобни думи и изписвания.
Продължавай да учиш
Още ръководства, избрани за тази тема
СледваСледващо ръководство
Конформерна архитектура
Аудио AI