Mimi Streaming Audio Codec
Mimi jẹ koodu ohun afetigbọ nkankikan ti o rọ ọrọ sinu ṣiṣan kekere ti awọn ami iyasọtọ ni akoko gidi, nitorinaa awọn awoṣe AI le tẹtisi ati sọrọ pẹlu airi kekere pupọ.
Akopọ
O jẹ ẹhin ohun lẹhin awoṣe ohun Moshi ti Kyutai.
Jin Dive
Mimi, ti a tu silẹ nipasẹ laabu Faranse Kyutai ni ọdun 2024, jẹ kodẹki nkankikan ti o yi ohun 24 kHz pada si ṣiṣan ti awọn ami iyasọtọ ni aijọju 1.1 kbps ati awọn ami ami 12.5 nikan fun iṣẹju-aaya. O nlo kooduopo-decoder pẹlu pipọ pikito iṣẹku (RVQ), pipin awọn ami si ipele akọkọ 'semantic' distilled lati inu awoṣe ọrọ ti ara ẹni abojuto (WavLM) pẹlu ọpọlọpọ awọn ipele 'akositiki' ti o mu awoara ohun. Ni pataki o jẹ ṣiṣan ni kikun ati idi: o njade awọn ami ami bi ohun ti de dipo ki o duro de agekuru ni kikun, pẹlu bii 80 ms ti lairi. Eyi jẹ ki awoṣe ede kan tọju ọrọ bi awọn ami-ọrọ ọrọ, n fun Moshi laaye lati sọrọ ni kikun ile-meji nigba ti o tọju ohun afetigbọ ti a tunṣe ati oye.
Imọ-imọ-ẹrọ
Ẹtan Mimi jẹ ero pipin-RVQ. Iwe koodu koodu akọkọ ti ni ikẹkọ pẹlu pipadanu distillation lati baamu awọn ifibọ lati WavLM, fi ipa mu u lati gbe 'itumọ' phonetic, lakoko ti awọn iwe koodu akositiki ti o jọra tun ṣe alaye alaye igbi. Ayipada nṣiṣẹ inu igo, ati ipadanu adversarial (GAN) lori decoder pọn didara iṣẹjade. Awọn iyipada idii jẹ ki ohun gbogbo ṣiṣanwọle, nitorinaa lairi duro nitosi 80 ms.
Ipa Ilana
Wiwọle ati arọwọto
O ṣe ilọsiwaju iraye si nipasẹ transcription, alaye, ati awọn atọkun ohun.
Iye owo ati isuna
Awọn ẹgbẹ Media le firanṣẹ ohun didan yiyara pẹlu awọn isuna-owo kekere.
Iyara ati iwọn
Awọn ọna ṣiṣe ti nkọju si alabara le ṣe ilana awọn ibaraẹnisọrọ sisọ ni iwọn nla.
Ojo iwaju ti Mimi Streaming Audio Codec
Reti awọn kodẹki bii Mimi lati di wiwo boṣewa laarin ohun ohun ati awọn awoṣe ede nla, titari awọn oluranlọwọ ohun akoko gidi si awọn akoko idahun 100 ms sub-100. Iwadi n ṣe awakọ awọn oṣuwọn ami paapaa kekere lakoko ti o tọju idanimọ agbọrọsọ, imolara, ati orin. Nitori Kyutai ṣiṣi-orisun Mimi ati Moshi, o ṣee ṣe lati gbin ọpọlọpọ awọn eto ṣiṣi-si-ọrọ, awọn oluranlọwọ ẹrọ, ati awọn irinṣẹ ibaraẹnisọrọ ohun-bandwidth ultra-low-low.
Real-World imuse
Agbara Kyutai's Moshi oluranlọwọ ohun-duplex ni kikun ki o le gbọ ati sọrọ ni igbakanna
Awọn ami isọsi ṣiṣanwọle sinu awoṣe ede fun itumọ akoko-gidi-si-ọrọ
Awọn ipe ohun kekere-bitrate (~ 1.1 kbps) fun talaka tabi awọn ipo nẹtiwọọki ti o kunju
Ohun afetigbọ fun ọrọ ipilẹṣẹ ati awọn opo gigun ti ọrọ-si-ọrọ ti o ronu lori ohun bi ọrọ
Awọn ewu & Awọn ọna iṣọ
ilokulo ohun ati awọn ewu afarawe ṣe pọ si nigbati igbanilaaye ba sonu.
Yiye le ju silẹ kọja awọn asẹnti, awọn ede-ede, tabi awọn agbegbe alariwo.
Ohun afetigbọ sintetiki le jẹ aṣiṣe fun ọrọ ododo laisi isamisi to yege.
Ilana Ilana imuse
Gba ifọkansi ti o fojuhan fun gbigba ohun, ti ẹda, ati ilotunlo.
Didara idanwo kọja awọn agbohunsoke oniruuru ati awọn ipo abẹlẹ.
Ṣetumo nigbati eniyan gbọdọ ṣe atunyẹwo tabi fọwọsi awọn abajade.
Aami ohun sintetiki ki o tọju awọn igbasilẹ provenance fun iṣiro.
Tesiwaju Ṣiṣawari
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mimi Streaming Audio Codec quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Itọsọna atẹle
Awọn kodẹki Audio Neural
Awọn ibeere ti a beere nigbagbogbo
Kini Mimi Streaming Audio Codec?
Mimi jẹ koodu ohun afetigbọ nkankikan ti o rọ ọrọ sinu ṣiṣan kekere ti awọn ami iyasọtọ ni akoko gidi, nitorinaa awọn awoṣe AI le tẹtisi ati sọrọ pẹlu airi kekere pupọ. O jẹ ẹhin ohun afetigbọ lẹhin awoṣe ohun Moshi ti Kyutai.
Laabu wo ni o tu Mimi silẹ ati awoṣe ohun Moshi?
Mimi ati Moshi ni idasilẹ ni ọdun 2024 nipasẹ laabu iwadii Faranse Kyutai, eyiti o ṣii-orisun mejeeji.
O fẹrẹ to awọn ami ami melo ni iṣẹju-aaya ni Mimi n jade fun ọrọ sisọ?
Mimi rọ ohun 24 kHz silẹ si awọn ami-ami 12.5 nikan fun iṣẹju kan ni aijọju 1.1 kbps.
Kini iwe koodu akọkọ ('semantic') ni gbigba Mimi?
Ipele RVQ akọkọ jẹ ikẹkọ nipasẹ distillation lati WavLM lati gbe akoonu atunmọ / phonetic, lakoko ti awọn ipele nigbamii ṣafikun alaye akositiki.
Kini idi ti Mimi fi ṣe apejuwe bi 'sisanwọle' tabi 'fa'?
Mimi ṣe ilana ohun ni idi ati gbejade awọn ami-ami ni afikun, fifun ni lairi 80 ms ti o dara fun ibaraẹnisọrọ laaye.
Ilana titobi wo ni Mimi lo lati fi koodu koodu pamọ?
Mimi nlo iye iwọn fekito ti o ku, titọpọ ọpọlọpọ awọn iwe koodu ki ọkọọkan ṣafikun alaye ti o dara julọ si ti iṣaaju.