Mimi Streaming Audio Codec
Mimi este un codec audio neuronal care comprimă vorbirea într-un flux mic de jetoane discrete în timp real, astfel încât modelele AI să poată asculta și vorbi cu o latență foarte scăzută.
Prezentare generală
It is the audio backbone behind Kyutai's Moshi voice model.
Scufundare în profunzime
Mimi, lansat de laboratorul francez Kyutai în 2024, este un codec neuronal care transformă sunetul de 24 kHz într-un flux de jetoane discrete la aproximativ 1,1 kbps și doar 12,5 jetoane pe secundă. Utilizează un codificator-decodor cu cuantizare vectorială reziduală (RVQ), împărțind jetoanele într-un prim nivel „semantic” distilat dintr-un model de vorbire auto-supravegheat (WavLM) plus câteva niveluri „acustice” care captează textura vocii. În mod esențial, este complet în flux și cauzal: emite jetoane pe măsură ce sosește audio, mai degrabă decât să aștepte un clip complet, cu aproximativ 80 ms de latență. Acest lucru permite unui model de limbă să trateze vorbirea ca simboluri text, permițându-i lui Moshi să converseze în full duplex, păstrând în același timp sunetul reconstruit inteligibil și natural.
Perspectivă tehnică
Trucul lui Mimi este o schemă split-RVQ. Prima carte de coduri este antrenată cu o pierdere de distilare pentru a se potrivi înglobărilor de la WavLM, forțând-o să aibă „sens” fonetic, în timp ce registrele de coduri acustice paralele reconstruiesc detaliile formei de undă. Un transformator funcționează în blocaj, iar o pierdere adversară (GAN) a decodorului sporește calitatea ieșirii. Convoluțiile cauzale mențin totul în flux, astfel încât latența rămâne aproape de 80 ms.
Impact strategic
Acces și acoperire
Îmbunătățește accesibilitatea prin transcriere, narațiune și interfețe vocale.
Cost și buget
Echipele media pot livra audio mai rapid cu bugete mai mici.
Viteză și scară
Sistemele orientate către clienți pot procesa interacțiunile vorbite la scară mai mare.
Viitorul Mimi Streaming Audio Codec
Așteptați-vă ca codecurile precum Mimi să devină interfața standard între modelele audio și limbi mari, împingând asistenții vocali în timp real către timpi de răspuns sub 100 ms. Cercetarea conduce ratele de simboluri și mai mici, păstrând în același timp identitatea vorbitorului, emoția și muzica. Deoarece Kyutai a folosit Mimi și Moshi cu sursă deschisă, este probabil să sesmeneze multe sisteme deschise de vorbire la vorbire, asistenți pe dispozitiv și instrumente de comunicare vocală cu lățime de bandă foarte mică.
Implementare în lumea reală
Alimentarea asistentului vocal full-duplex Moshi de la Kyutai, astfel încât să poată asculta și vorbi simultan
Transmiterea în flux a indicatoarelor de vorbire într-un model de limbă pentru traducere în timp real de la vorbire la vorbire
Apeluri vocale cu rată de biți ultra-scăzută (~1,1 kbps) pentru condiții de rețea slabe sau aglomerate
Tokenizarea sunetului pentru vorbire generativă și conducte text-to-speech care raționează sunetul ca text
Riscuri și balustrade
Riscurile de utilizare greșită a vocii și uzurpare a identității cresc atunci când lipsește consimțământul.
Precizia poate scădea în accente, dialecte sau medii zgomotoase.
Audio sintetic poate fi confundat cu vorbire autentică fără etichetare clară.
Foaia de parcurs de implementare
Obțineți consimțământul explicit pentru captarea, clonarea și reutilizarea vocii.
Testați calitatea pe diverse difuzoare și condiții de fundal.
Definiți când un om trebuie să revizuiască sau să aprobe rezultatele.
Etichetați sunetul sintetic și păstrați înregistrări de proveniență pentru responsabilitate.
Continuați să explorați
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mimi Streaming Audio Codec quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Următorul ghid
Codecuri audio neuronale
Întrebări frecvente
What is Mimi Streaming Audio Codec?
Mimi este un codec audio neuronal care comprimă vorbirea într-un flux mic de jetoane discrete în timp real, astfel încât modelele AI să poată asculta și vorbi cu o latență foarte scăzută. Este coloana vertebrală audio din spatele modelului vocal Moshi al lui Kyutai.
Ce laborator a lansat modelul vocal Mimi și Moshi?
Mimi și Moshi au fost eliberați în 2024 de laboratorul francez de cercetare Kyutai, care le-a folosit pe ambele cu sursă deschisă.
Aproximativ câte jetoane pe secundă emite Mimi pentru vorbire?
Mimi comprimă sunetul de 24 kHz la doar aproximativ 12,5 jetoane pe secundă la aproximativ 1,1 kbps.
Ce captează primul cod („semantic”) din Mimi?
Primul nivel RVQ este antrenat prin distilare din WavLM pentru a transporta conținut semantic/fonetic, în timp ce nivelurile ulterioare adaugă detalii acustice.
De ce este descrisă Mimi drept „streaming” sau „cauzoală”?
Mimi procesează audio în mod cauzal și emite token-uri în mod incremental, oferind aproximativ 80 ms de latență potrivită pentru conversația live.
Ce tehnică de cuantizare folosește Mimi pentru a codifica audio?
Mimi folosește cuantizarea vectorială reziduală, stivuind mai multe cărți de coduri, astfel încât fiecare să adauge detalii mai fine celei precedente.