VolgendeVolgende gids
Audio-inbedding en leren van representatie
Audio-AI
Audio AI-GIDS
EnCodec is de hifi-neurale audiocodec van Meta die spraak en muziek comprimeert bij zeer lage bitrates met een kwaliteit die kan wedijveren met veel zwaardere formaten.
Luister naar deze gidsAI-verteld · ~2 min
It matters because it underpins modern generative audio systems and ships in open-source form for anyone to use.
EnCodec, uitgebracht door Meta AI in 2022, volgt de SoundStream-blauwdruk van een encoder, een residuele vectorkwantiseerder (RVQ) en een decoder die van begin tot eind is getraind, maar voegt verschillende verfijningen toe. Het maakt gebruik van een convolutionele encoder met streamingfunctie, multi-schaal spectrogram en reconstructieverliezen in het tijddomein, en vijandige discriminatoren voor perceptuele kwaliteit. Een opmerkelijke bijdrage is een klein Transformer-gebaseerd entropiemodel dat de gekwantiseerde codes verliesvrij verder comprimeert, waardoor extra bits eruit worden geperst zonder kwaliteitsverlies. EnCodec introduceert ook een balancer die de vele concurrerende trainingsverliezen automatisch schaalt, zodat deze stabiel blijven. Het verwerkt 24 kHz monofoon en 48 kHz stereogeluid, werkt met bitrates zoals 1,5, 3, 6 en 12 kbps, en bereikt bij 6 kbps een kwaliteit die vergelijkbaar is met MP3 bij 64 kbps. De tokens voeden de MusicGen en AudioGen van Meta.
Tokeniseren van audio voor de MusicGen- en AudioGen-tekst-naar-audiogeneratoren van Meta
Compressie van 24 kHz-spraak naar 1,5-6 kbps voor transmissie met beperkte bandbreedte
Codering van 48 kHz stereomuziek met kwaliteit die dicht bij MP3 ligt, bij veel hogere bitrates
Dient als een open-source drop-in-codec voor onderzoeks- en audio-ML-pijplijnen via de vrijgegeven controlepunten
EnCodec is al de standaard tokenizer voor verschillende open generatieve audiomodellen, en zijn nakomelingen streven naar een hogere betrouwbaarheid bij lagere bitrates, volledige reconstructie van stereo en muziekkwaliteit en een nauwere integratie met tekst-naar-audio- en tekst-naar-muziekgeneratoren. Verwacht een bredere acceptatie in communicatie met lage bandbreedte, realtime streaming en als de standaard 'audiotoken'-laag waarmee grote architecturen in taalmodelstijl geluid kunnen lezen en schrijven.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
EnCodec is de hifi-neurale audiocodec van Meta die spraak en muziek comprimeert bij zeer lage bitrates met een kwaliteit die kan wedijveren met veel zwaardere formaten. Het is belangrijk omdat het moderne generatieve audiosystemen ondersteunt en in open-sourcevorm wordt geleverd zodat iedereen het kan gebruiken.
EnCodec werd in 2022 door Meta AI (FAIR) geïntroduceerd als een hifi neurale audiocodec.
EnCodec traint een kleine Transformer om tokenkansen te voorspellen en deze rekenkundig te coderen, waardoor extra verliesvrije compressie bovenop RVQ wordt bereikt.
EnCodec bij 6 kbps bereikt een subjectieve kwaliteit die vergelijkbaar is met MP3 bij 64 kbps, een grote efficiëntiewinst.
Bij veel verliezen (reconstructie, spectraal, vijandig) herschaalt de balancer de gradiënten zodat geen enkel doel domineert, waardoor de training wordt gestabiliseerd.
Net als SoundStream gebruikt EnCodec restvectorkwantisering om de inbedding van encoders te discretiseren in gestapelde codeboekindexen.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Audio-inbedding en leren van representatie
Audio-AI