Compressão de áudio EnCodec
EnCodec é o codec de áudio neural de alta fidelidade do Meta que compacta fala e música em taxas de bits muito baixas com qualidade que rivaliza com formatos muito mais pesados.
Visão geral
It matters because it underpins modern generative audio systems and ships in open-source form for anyone to use.
Mergulho profundo
Lançado pela Meta AI em 2022, o EnCodec segue o modelo SoundStream de um codificador, um quantizador de vetor residual (RVQ) e um decodificador treinado de ponta a ponta, mas adiciona vários refinamentos. Ele usa um codificador convolucional com capacidade de streaming, espectrograma multiescala e perdas de reconstrução no domínio do tempo e discriminadores adversários para qualidade perceptual. Uma contribuição notável é um pequeno modelo de entropia baseado em Transformer que comprime ainda mais os códigos quantizados sem perdas, extraindo bits extras sem perda de qualidade. O EnCodec também introduz um balanceador que dimensiona automaticamente as muitas perdas de treinamento concorrentes para que permaneçam estáveis. Ele suporta áudio monofônico de 24 kHz e estéreo de 48 kHz, opera em taxas de bits como 1,5, 3, 6 e 12 kbps e, a 6 kbps, atinge qualidade comparável ao MP3 a 64 kbps. Seus tokens alimentam o MusicGen e o AudioGen de Meta.
Visão Técnica
O codificador do EnCodec reduz a amostragem da forma de onda com convoluções escalonadas em uma sequência latente, que o RVQ converte em índices empilhados do livro de códigos. Um modelo leve de linguagem Transformer prevê as probabilidades desses tokens e os codifica aritméticamente, recuperando compactação adicional gratuitamente. O balanceador de treinamento redimensiona as contribuições de gradiente de perdas de reconstrução, espectrais e adversárias para que nenhum termo único domine, o que mantém o treinamento multiobjetivo estável em toda a faixa de taxa de bits.
Impacto Estratégico
Acesso e alcance
Melhora a acessibilidade por meio de transcrição, narração e interfaces de voz.
Custo e orçamento
As equipes de mídia podem enviar áudio sofisticado com mais rapidez e com orçamentos menores.
Velocidade e escala
Os sistemas voltados para o cliente podem processar interações faladas em maior escala.
O futuro da compressão de áudio EnCodec
O EnCodec já é o tokenizador padrão para vários modelos de áudio generativos abertos, e seus descendentes estão promovendo maior fidelidade em taxas de bits mais baixas, reconstrução completa de estéreo e de qualidade musical e maior integração com geradores de texto para áudio e texto para música. Espere uma adoção mais ampla em comunicação de baixa largura de banda, streaming em tempo real e como a camada padrão de 'token de áudio' que permite que grandes arquiteturas de estilo de modelo de linguagem leiam e gravem som.
Implementação no mundo real
Tokenização de áudio para geradores de texto para áudio MusicGen e AudioGen de Meta
Compressão de voz de 24 kHz para 1,5-6 kbps para transmissão com largura de banda limitada
Codificando música estéreo de 48 kHz com qualidade próxima ao MP3 e taxas de bits muito mais altas
Servindo como um codec de código aberto para pipelines de pesquisa e ML de áudio por meio dos pontos de verificação lançados
Riscos e guarda-corpos
Os riscos de uso indevido de voz e falsificação de identidade aumentam quando falta consentimento.
A precisão pode diminuir em sotaques, dialetos ou ambientes barulhentos.
O áudio sintético pode ser confundido com fala autêntica sem uma rotulagem clara.
Roteiro de implementação
Obtenha consentimento explícito para captura, clonagem e reutilização de voz.
Teste a qualidade em diversos alto-falantes e condições de fundo.
Defina quando um ser humano deve revisar ou aprovar os resultados.
Rotule o áudio sintético e mantenha registros de procedência para fins de prestação de contas.
Continue explorando
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the EnCodec Audio Compression quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Próximo guia
Incorporações de áudio e aprendizagem de representação
Perguntas frequentes
What is EnCodec Audio Compression?
EnCodec é o codec de áudio neural de alta fidelidade do Meta que compacta fala e música em taxas de bits muito baixas com qualidade que rivaliza com formatos muito mais pesados. É importante porque sustenta sistemas de áudio generativos modernos e é fornecido em formato de código aberto para qualquer pessoa usar.
Qual organização lançou o EnCodec?
EnCodec foi introduzido por Meta AI (FAIR) em 2022 como um codec de áudio neural de alta fidelidade.
Que componente extra o EnCodec adiciona para extrair mais compactação de seus tokens sem perdas?
O EnCodec treina um pequeno Transformer para prever as probabilidades do token e codificá-las aritméticamente, obtendo compactação adicional sem perdas sobre o RVQ.
Com aproximadamente 6 kbps, a qualidade do EnCodec foi relatada como comparável à do MP3, com aproximadamente qual taxa de bits?
O EnCodec a 6 kbps atinge qualidade subjetiva semelhante ao MP3 a 64 kbps, um grande ganho de eficiência.
Que problema o 'balanceador' do EnCodec resolve durante o treinamento?
Com muitas perdas (reconstrução, espectral, adversária), o balanceador redimensiona seus gradientes para que nenhum objetivo único domine, estabilizando o treinamento.
Qual método de quantização principal o EnCodec compartilha com o SoundStream?
Assim como o SoundStream, o EnCodec usa quantização vetorial residual para discretizar incorporações de codificadores em índices de livro de códigos empilhados.