Kiến trúc DeepSpeech
DeepSpeech là một mô hình nhận dạng giọng nói end-to-end được Baidu giới thiệu vào năm 2014, ánh xạ các đặc điểm âm thanh thô trực tiếp vào văn bản bằng cách sử dụng mạng thần kinh tái phát được đào tạo với mất CTC.
Tổng quan
Nó đã giúp tiên phong trong việc chuyển đổi từ các đường ống ASR phức tạp, được thiết kế thủ công sang các hệ thống dựa trên dữ liệu, có thể học được.
Lặn sâu
Trình nhận dạng giọng nói cổ điển kết hợp các mô hình âm thanh, từ điển phát âm và mô hình ngôn ngữ riêng biệt với các thành phần được điều chỉnh bằng tay. DeepSpeech đã thay thế hầu hết điều đó bằng một mạng lưới thần kinh duy nhất được đào tạo từ đầu đến cuối. Kiến trúc của nó sử dụng các tính năng quang phổ hoặc MFCC trên các khung âm thanh ngắn và cung cấp chúng qua một số lớp được kết nối đầy đủ, lớp lặp lại hai chiều giúp nắm bắt bối cảnh từ quá khứ và tương lai, đồng thời lớp đầu ra tạo ra phân bố xác suất cho các ký tự ở mỗi bước thời gian. Điều quan trọng là nó sử dụng Phân loại tạm thời kết nối (CTC), cho phép mạng tìm hiểu sự sắp xếp giữa âm thanh và văn bản mà không cần nhãn cấp khung. Mozilla sau đó đã phát hành một triển khai nguồn mở phổ biến (với các phiên bản mới hơn sử dụng thiết kế có thể phát trực tuyến, dựa trên LSTM), giúp phương pháp này có thể truy cập rộng rãi.
Hiểu biết kỹ thuật
Yếu tố quyết định chính là mất CTC. Lời nói và văn bản không được căn chỉnh theo từng khung hình, vì vậy CTC giới thiệu ký hiệu 'trống' và tổng hợp tất cả các cách sắp xếp có thể thu gọn thành bản ghi đích. Điều này cho phép mô hình xuất ra một ký tự trong mỗi bước thời gian và tìm hiểu vị trí âm thanh tự động ánh xạ tới các chữ cái. RNN hai chiều cung cấp cho mỗi dự đoán quyền truy cập vào bối cảnh âm thanh xung quanh và mô hình ngôn ngữ n-gram bên ngoài thường được thêm vào tại thời điểm giải mã để cải thiện chính tả và lựa chọn từ.
Tác động chiến lược
Truy cập và tiếp cận
Nó cải thiện khả năng tiếp cận thông qua phiên âm, tường thuật và giao diện giọng nói.
Chi phí và ngân sách
Các nhóm truyền thông có thể gửi âm thanh tinh tế nhanh hơn với ngân sách nhỏ hơn.
Tốc độ và tỷ lệ
Các hệ thống hướng tới khách hàng có thể xử lý các tương tác bằng giọng nói ở quy mô lớn hơn.
Tương lai của kiến trúc DeepSpeech
Bản thân DeepSpeech phần lớn đã được thay thế bởi các kiến trúc dựa trên sự chú ý và biến áp (Conformer, Whisper, wav2vec 2.0) giúp nắm bắt bối cảnh dài hơn và tự giám sát đối với âm thanh không được gắn nhãn. Nhưng những ý tưởng cốt lõi của nó, đào tạo từ đầu đến cuối và giải mã CTC, vẫn là nền tảng và vẫn xuất hiện bên trong các hệ thống hybrid hiện đại. Di sản này mang tính khái niệm: nó chứng minh rằng một mô hình học được duy nhất có thể sánh ngang với các quy trình được thiết kế kỹ lưỡng, mở đường cho các mô hình nền tảng giọng nói tự giám sát, đa ngôn ngữ, lớn hiện nay.
Triển khai trong thế giới thực
Nhận dạng lệnh thoại ngoại tuyến trên thiết bị cho các ứng dụng tập trung vào quyền riêng tư bằng cách sử dụng DeepSpeech mở của Mozilla
Tạo bản ghi nháp của podcast hoặc bài giảng mà không cần dựa vào dịch vụ đám mây
Giảng dạy các nguyên tắc cơ bản về mất ASR và CTC từ đầu đến cuối trong các khóa học máy ở trường đại học
Xây dựng giao diện giọng nói tùy chỉnh cho IoT hoặc các thiết bị nhúng cần có trình nhận dạng nhẹ, có thể phát trực tuyến
Rủi ro & lan can
Rủi ro lạm dụng giọng nói và mạo danh sẽ tăng lên khi thiếu sự đồng ý.
Độ chính xác có thể giảm đối với các giọng, phương ngữ hoặc môi trường ồn ào.
Âm thanh tổng hợp có thể bị nhầm lẫn với lời nói đích thực nếu không có nhãn rõ ràng.
Lộ trình thực hiện
Nhận được sự đồng ý rõ ràng để thu âm, sao chép và tái sử dụng giọng nói.
Kiểm tra chất lượng trên nhiều loa và điều kiện nền khác nhau.
Xác định khi nào con người phải xem xét hoặc phê duyệt kết quả đầu ra.
Dán nhãn âm thanh tổng hợp và lưu giữ hồ sơ xuất xứ để đảm bảo trách nhiệm giải trình.
Tiếp tục khám phá
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the DeepSpeech Architecture quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Hướng dẫn tiếp theo
Kiến trúc phù hợp
Câu hỏi thường gặp
Kiến trúc DeepSpeech là gì?
DeepSpeech là một mô hình nhận dạng giọng nói end-to-end được Baidu giới thiệu vào năm 2014, ánh xạ các đặc điểm âm thanh thô trực tiếp vào văn bản bằng cách sử dụng mạng thần kinh tái phát được đào tạo với mất CTC. Nó đã giúp tiên phong trong việc chuyển đổi từ các đường ống ASR phức tạp, được thiết kế thủ công sang các hệ thống dựa trên dữ liệu, có thể học được.
Chức năng mất dữ liệu nào cho phép DeepSpeech đào tạo mà không cần căn chỉnh mức khung hình giữa âm thanh và văn bản?
CTC giới thiệu một ký hiệu trống và tính tổng tất cả các sắp xếp hợp lệ thu gọn vào văn bản đích, loại bỏ nhu cầu về nhãn trên mỗi khung.
Triết lý kiến trúc chính mà DeepSpeech phổ biến là gì?
DeepSpeech đã thay thế quy trình nhiều giai đoạn truyền thống bằng một mạng lưới thần kinh được đào tạo từ đầu đến cuối, một sự thay đổi lớn trong thiết kế ASR.
Tại sao DeepSpeech sử dụng lớp lặp lại hai chiều?
RNN hai chiều xử lý chuỗi theo cả hai hướng, do đó, mỗi đầu ra đều được hưởng lợi từ bối cảnh âm thanh xung quanh, cải thiện độ chính xác.
DeepSpeech thường hoạt động trên những loại tính năng đầu vào nào?
Mô hình này sử dụng các tính năng âm thanh ở cấp độ khung hình như biểu đồ phổ hoặc MFCC và xuất ra xác suất ký tự cho mỗi bước thời gian.
Điều gì thường được thêm vào lúc giải mã để cải thiện khả năng lựa chọn từ và chính tả của DeepSpeech?
Việc kết hợp đầu ra âm thanh với mô hình ngôn ngữ bên ngoài trong quá trình giải mã giúp hệ thống tạo ra các từ và cách viết hợp lý hơn.