Tiếp theoHướng dẫn tiếp theo
Kiến trúc DeepSpeech
AI âm thanh
HƯỚNG DẪN AI âm thanh
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Nghe hướng dẫn nàyAI thuật lại · ~1 min
The Conformer paper proposes a convolution-augmented Transformer for automatic speech recognition. Its block combines multi-head self-attention, a convolution module and two half-step feed-forward modules in a Macaron-style structure. Relative positional encoding supports attention over sequence positions. The authors evaluate on LibriSpeech and report results under specific model sizes and decoding conditions.
Self-attention models global interactions across speech frames.
A convolution module captures local patterns in the encoded sequence.
Macaron-style blocks place feed-forward modules around attention and convolution sublayers.
The original paper reports LibriSpeech word error rates for models with and without an external language model.
Compare Conformer variants on the target audio conditions and compute budget. Report model size, decoding procedure and external language-model use. The original paper does not establish that Conformer is the dominant architecture across every production speech system.
Bản tin miễn phí
Ba câu chuyện AI đã được xác minh vào mỗi buổi sáng các ngày trong tuần, được viết bằng tiếng Anh đơn giản. Miễn phí mãi mãi, không có quảng cáo.
Một email mỗi ngày trong tuần. Hủy đăng ký trong một cú nhấp chuột. Chúng tôi không bao giờ bán hoặc chia sẻ địa chỉ của bạn.
Tự kiểm tra
Phản hồi tức thì về mọi câu trả lời và chứng chỉ có thể chia sẻ với ID có thể xác minh sau khi bạn vượt qua khóa học.
Hỗ trợ giáo dục AI miễn phí. AI Understanding là tổ chức phi lợi nhuận 501(c)(3) — không bao giờ có quảng cáo, không có tường phí. Hãy quyên góp
The Conformer is a speech-recognition encoder architecture combining self-attention for global context with convolution for local patterns in an audio sequence.
Conformer kết hợp tích chập (đối với các mẫu cục bộ) với sự tự chú ý (đối với bối cảnh chung) bên trong mỗi khối.
Các phép biến đổi vượt trội ở các tín hiệu cục bộ chi tiết để phân biệt các âm vị, trong khi sự tự chú ý làm mô hình sự phụ thuộc trong toàn bộ cách phát âm; Conformer được cả hai.
Conformer đặt các mô-đun tự chú ý và tích chập giữa hai mô-đun chuyển tiếp nguồn cấp dữ liệu, mỗi mô-đun được áp dụng phần dư có trọng số bằng một nửa.
Conformer được các nhà nghiên cứu Google giới thiệu vào năm 2020 và nhanh chóng trở thành bộ mã hóa nhận dạng giọng nói tiêu chuẩn.
Mô-đun tích chập xâu chuỗi tích chập theo chiều với một đơn vị tuyến tính có kiểm soát, tích chập theo chiều sâu, chuẩn hóa lô và kích hoạt Swish, kết thúc bằng một đối lưu theo điểm khác.
Tiếp tục học hỏi
Đã chọn thêm hướng dẫn cho chủ đề này
Tiếp theoHướng dẫn tiếp theo
Kiến trúc DeepSpeech
AI âm thanh