출석 및 철자 듣기
LAS(Listen, Attend and Spell)는 손으로 만든 발음 사전이나 별도의 언어 모델 없이 음성을 문자로 직접 변환하는 획기적인 2015년 신경망입니다.
개요
It showed that a single end-to-end model could do speech recognition.
심층 분석
Google 연구원인 Chan, Jaitly, Le, Vinyals가 2015년에 소개한 Listen, Attend and Spell은 최초의 진정한 엔드투엔드 음성 인식기 중 하나였습니다. 시간 차원을 축소하면서 오디오를 인코딩하는 피라미드형 양방향 LSTM인 '리스너'와 한 번에 문자를 하나씩 내보내는 주의 기반 LSTM 디코더인 '스펠러'의 두 부분으로 구성됩니다. 주의 메커니즘을 통해 맞춤법 검사기는 각 출력 문자에 대한 관련 오디오 조각에 집중할 수 있습니다. 이전 HMM-DNN 파이프라인과 달리 LAS에는 음소 사전, 강제 정렬 및 별도로 훈련된 언어 모델이 필요하지 않습니다. 전사된 오디오에서 철자, 단어 경계 및 음향을 공동으로 학습합니다. 이는 최신 시퀀스 간 및 주의 기반 ASR 시스템에 직접적으로 영감을 주었습니다.
기술적 통찰력
LAS는 인코더-디코더와 주의력을 결합합니다. 피라미드형 LSTM 인코더는 3개 레이어 각각의 시간 분해능을 절반으로 줄여 긴 음향 시퀀스를 관리 가능한 길이로 절단하여 주의를 끌기 쉽게 만듭니다. 모든 디코딩 단계에서 Speller는 모든 인코더 상태에 대한 주의 가중치를 계산하고 이를 컨텍스트 벡터에 혼합한 후 다음 문자를 예측합니다. 훈련은 올바른 문자 시퀀스의 확률을 최대화합니다. 예약된 샘플링 트릭은 열차/테스트 불일치를 줄입니다.
전략적 영향
접근 및 도달
전사, 내레이션, 음성 인터페이스를 통해 접근성을 향상시킵니다.
비용 및 예산
미디어 팀은 더 적은 예산으로 세련된 오디오를 더 빠르게 출시할 수 있습니다.
속도와 규모
고객 대면 시스템은 음성 상호 작용을 더 큰 규모로 처리할 수 있습니다.
듣기 출석 및 주문의 미래
LAS는 이제 역사적이지만 그 DNA는 모든 최신 ASR 시스템에 적용됩니다. 주의 기반 인코더-디코더 아이디어는 Transformer 및 Conformer 인식기로 발전했으며 RNN-Transducer와 같은 관련 접근 방식은 장치 내 받아쓰기에 전력을 공급합니다. 미래의 시스템은 단일 다국어 모델에서 인식과 번역 및 이해를 융합하고 비스트리밍인 LAS가 원래 제공할 수 없었던 스트리밍, 저지연 전사를 추진하면서 이러한 엔드투엔드 궤적을 이어갑니다.
실제 구현
발음 사전 없이 음성 영어를 문자로 직접 변환
주의 기반 음성 받아쓰기 및 캡션 시스템의 개념적 기반 역할을 합니다.
학술 음성 인식 과정 및 벤치마크를 위한 엔드투엔드 교육 시연
나중에 음성 번역 파이프라인에 사용되는 영감을 주는 시퀀스-시퀀스 모델
위험 및 가드레일
동의가 없으면 음성 오용 및 명의 도용 위험이 높아집니다.
악센트, 방언 또는 시끄러운 환경에서는 정확도가 떨어질 수 있습니다.
합성 오디오는 명확한 라벨링이 없으면 실제 음성으로 오인될 수 있습니다.
구현 로드맵
음성 캡처, 복제 및 재사용에 대한 명시적인 동의를 얻습니다.
다양한 화자와 배경 조건에서 품질을 테스트합니다.
사람이 출력을 검토하거나 승인해야 하는 시기를 정의합니다.
합성 오디오에 라벨을 붙이고 책임을 묻기 위해 출처 기록을 보관하세요.
계속 탐색하세요
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Listen Attend and Spell quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
다음 가이드
음악 자동 태그 지정
자주 묻는 질문
What is Listen Attend and Spell?
LAS(Listen, Attend and Spell)는 손으로 만든 발음 사전이나 별도의 언어 모델 없이 음성을 문자로 직접 변환하는 획기적인 2015년 신경망입니다. 단일 엔드투엔드 모델이 음성 인식을 수행할 수 있음을 보여주었습니다.
LAS 모델의 두 가지 주요 구성요소는 무엇입니까?
LAS는 오디오를 처리하는 'Listener' 인코더와 문자를 방출하는 'Speller' 주의 기반 디코더로 구성됩니다.
LAS의 Speller는 무엇을 출력합니까?
스펠러는 철자를 직접 학습하여 문자별로 전사 문자를 생성하는 디코더입니다.
LAS 인코더를 '피라미달'이라고 부르는 이유는 무엇입니까?
피라미드형 BLSTM의 각 레이어는 시퀀스 길이를 절반으로 줄여 긴 오디오 시퀀스를 줄여 계산상 주의가 가능하도록 합니다.
LAS에 특히 필요하지 않은 오래된 구성 요소는 무엇입니까?
기존 HMM-DNN 파이프라인과 달리 LAS는 음소 사전이나 강제 정렬 없이 오디오-텍스트 쌍에서 직접 학습합니다.
맞춤법 검사기가 각 캐릭터에 대한 오디오의 관련 부분에 집중할 수 있게 해주는 메커니즘은 무엇입니까?
어텐션 메커니즘은 인코더 상태에 대한 가중치를 계산하여 디코더가 각 단계에서 사용하는 컨텍스트 벡터를 형성합니다.