Mimi Streaming Audiocodec
Mimi is een neurale audiocodec die spraak in realtime comprimeert tot een kleine stroom discrete tokens, zodat AI-modellen met een zeer lage latentie kunnen luisteren en spreken.
Overzicht
It is the audio backbone behind Kyutai's Moshi voice model.
Diepe duik
Mimi, uitgebracht door het Franse laboratorium Kyutai in 2024, is een neurale codec die 24 kHz-audio omzet in een stroom discrete tokens met een snelheid van ongeveer 1,1 kbps en slechts 12,5 tokens per seconde. Het maakt gebruik van een encoder-decoder met residuele vectorkwantisering (RVQ), waarbij tokens worden gesplitst in een 'semantisch' eerste niveau, gedestilleerd uit een zelfbeheerd spraakmodel (WavLM), plus verschillende 'akoestische' niveaus die de stemtextuur vastleggen. Cruciaal is dat het volledig streaming en causaal is: het zendt tokens uit zodra audio arriveert in plaats van te wachten op een volledige clip, met een latentie van ongeveer 80 ms. Hierdoor kan een taalmodel spraak als teksttokens behandelen, waardoor Moshi in full-duplex kan converseren terwijl de gereconstrueerde audio begrijpelijk en natuurlijk blijft.
Technisch inzicht
Mimi's truc is een split-RVQ-schema. Het eerste codeboek is getraind met een distillatieverlies om de inbedding van WavLM te matchen, waardoor het wordt gedwongen een fonetische 'betekenis' te dragen, terwijl parallelle akoestische codeboeken golfvormdetails reconstrueren. Een transformator opereert binnen het knelpunt, en een vijandig (GAN) verlies op de decoder verscherpt de uitvoerkwaliteit. Causale convoluties zorgen ervoor dat alles blijft streamen, zodat de latentie bijna 80 ms blijft.
Strategische impact
Access and reach
Het verbetert de toegankelijkheid via transcriptie, gesproken tekst en spraakinterfaces.
Cost and budget
Mediateams kunnen met kleinere budgetten sneller gepolijste audio leveren.
Speed and scale
Klantgerichte systemen kunnen gesproken interacties op grotere schaal verwerken.
De toekomst van Mimi Streaming Audio Codec
Verwacht dat codecs zoals Mimi de standaardinterface zullen worden tussen audio- en grote taalmodellen, waardoor real-time stemassistenten responstijden van minder dan 100 ms zullen bereiken. Onderzoek zorgt ervoor dat de tokenpercentages nog lager worden, terwijl de identiteit, emotie en muziek van de spreker behouden blijven. Omdat Kyutai Mimi en Moshi open source maakt, zal het waarschijnlijk veel open spraak-naar-spraaksystemen, assistenten op het apparaat en spraakcommunicatiehulpmiddelen met ultralage bandbreedte opleveren.
Implementatie in de echte wereld
De Moshi full-duplex stemassistent van Kyutai wordt ingeschakeld, zodat deze tegelijkertijd kan luisteren en praten
Spraaktokens streamen naar een taalmodel voor realtime spraak-naar-spraakvertaling
Spraakoproepen met ultralage bitsnelheid (~1,1 kbps) voor slechte of drukke netwerkomstandigheden
Tokeniseren van audio voor generatieve spraak en tekst-naar-spraak-pijplijnen die redeneren over geluid als tekst
Risico's en vangrails
Het risico op stemmisbruik en imitatie neemt toe als de toestemming ontbreekt.
De nauwkeurigheid kan afnemen bij accenten, dialecten of luidruchtige omgevingen.
Synthetische audio kan worden aangezien voor authentieke spraak zonder duidelijke labels.
Implementatie routekaart
Verkrijg expliciete toestemming voor het vastleggen, klonen en hergebruiken van spraak.
Test de kwaliteit van diverse sprekers en achtergrondomstandigheden.
Bepaal wanneer een mens de output moet beoordelen of goedkeuren.
Label synthetische audio en houd de herkomstgegevens bij voor verantwoording.
Blijf verkennen
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mimi Streaming Audio Codec quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Neurale audiocodecs
Frequently asked questions
What is Mimi Streaming Audio Codec?
Mimi is een neurale audiocodec die spraak in realtime comprimeert tot een kleine stroom discrete tokens, zodat AI-modellen met een zeer lage latentie kunnen luisteren en spreken. Het is de audio-ruggengraat achter Kyutai's Moshi-stemmodel.
Welk laboratorium heeft Mimi en het Moshi-stemmodel vrijgegeven?
Mimi en Moshi werden in 2024 uitgebracht door het Franse onderzoekslaboratorium Kyutai, dat beide open source maakte.
Hoeveel tokens zendt Mimi ongeveer per seconde uit voor spraak?
Mimi comprimeert 24 kHz-audio tot slechts ongeveer 12,5 tokens per seconde bij ongeveer 1,1 kbps.
Wat legt het eerste ('semantische') codeboek in Mimi vast?
Het eerste RVQ-niveau wordt via destillatie van WavLM getraind om semantische/fonetische inhoud over te brengen, terwijl latere niveaus akoestische details toevoegen.
Waarom wordt Mimi omschreven als ‘streaming’ of ‘causaal’?
Mimi verwerkt audio causaal en voert tokens stapsgewijs uit, wat een latentie van ongeveer 80 ms oplevert die geschikt is voor live gesprekken.
Welke kwantiseringstechniek gebruikt Mimi om audio te coderen?
Mimi maakt gebruik van residuele vectorkwantisering, waarbij meerdere codeboeken worden gestapeld, zodat elk codeboek fijnere details toevoegt aan de vorige.