Riffusjonsspektrogramdiffusjon
Riffusion er et smart hack som genererer musikk ved å behandle lyd som et bilde: det finjusterer Stable Diffusion-bildemodellen for å male spektrogrammer, og konverterer deretter disse bildene tilbake til lyd.
Oversikt
It matters because it shows a tool built for one medium (images) can produce another (music) with almost no new architecture.
Dypdykk
Riffusion, utgitt sent i 2022 av Seth Forsgren og Hayk Martiros, startet som et hobbyprosjekt. Kjernetrikset: et spektrogram er et 2D-bilde der den horisontale aksen er tid, den vertikale aksen er frekvensen og piksellysstyrken er lydstyrken. Siden Stable Diffusion allerede genererer bilder fra tekstmeldinger, finjusterte skaperne den på tusenvis av sammenkoblede spektrogram-teksteksempler. Spør den med "funky jazz bass", og den forvandler tilfeldig støy til et spektrogram av den lyden. For å lage spillbar lyd kjører Riffusion spektrogrammet gjennom en Griffin-Lim-algoritme som rekonstruerer den manglende faseinformasjonen. Fordi diffusjon kan interpolere jevnt mellom spørsmål, kan Riffusion også forvandle en stil til en annen over et kontinuerlig klipp, som går sømløst i loop.
Teknisk innsikt
Riffusjon gjenbruker den latente diffusjonsrørledningen uendret: et U-Net fjerner iterativt Gaussisk støy fra et latent bilde betinget av en CLIP-tekstinnbygging. Det eneste domenespesifikke arbeidet er spektrogramrepresentasjonen (mel-skala, logeffekt) og Griffin-Lim-faserekonstruksjonen som gjør det forutsagte størrelsesspektrogrammet tilbake til en bølgeform. Fase forkastes under koding, så Griffin-Lims iterative estimat er hovedkilden til de karakteristiske "vannaktige" artefaktene.
Strategisk innvirkning
Access and reach
Det forbedrer tilgjengeligheten gjennom transkripsjon, fortellerstemme og stemmegrensesnitt.
Cost and budget
Medieteam kan sende polert lyd raskere med mindre budsjetter.
Speed and scale
Kundevendte systemer kan behandle talte interaksjoner i større skala.
The Future of Riffusion Spectrogram Diffusion
Riffusion beviste at spektrogram-som-bilde-broen fungerer, og den ideen lever nå i større lydsystemer og selskapet Riffusion ble til. Forvent fremtidige verktøy for å erstatte tapsløse Griffin-Lim med innlærte nevrale vokodere for renere fase, og for å kombinere spektrogramdiffusjon med latente lydkodeker. Den bredere lærdommen, at bildemodeller kan omdirigeres til nye modaliteter, fortsetter å påvirke hvordan forskere starter opp lyd- og videogeneratorer fra eksisterende forhåndstrente ryggrader.
Real-World Implementering
Genererer korte looping bakgrunnsspor for indie videospill fra en tekstmelding som "tense synthwave chase"
Morphing jevnt mellom to musikalske stiler, f.eks. blande "tropical house" inn i "lo-fi hip hop" over ett enkelt klipp
Produserer royaltyfrie ambient musikksenger for YouTube-videoer og podcaster uten lisensavgift
Prototyping av melodiske eller rytmiske ideer som en musiker deretter spiller inn på nytt på en digital lydarbeidsstasjon
Risikoer og rekkverk
Risikoen for stemmemisbruk og etterligning øker når samtykke mangler.
Nøyaktigheten kan falle på tvers av aksenter, dialekter eller støyende omgivelser.
Syntetisk lyd kan forveksles med autentisk tale uten tydelig merking.
Veikart for implementering
Innhent eksplisitt samtykke for stemmefangst, kloning og gjenbruk.
Test kvalitet på tvers av forskjellige høyttalere og bakgrunnsforhold.
Definer når et menneske må gjennomgå eller godkjenne utdata.
Merk syntetisk lyd og oppbevar herkomstregistreringer for ansvarlighet.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Riffusion Spectrogram Diffusion quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Neste guide
DiffWave Diffusion Vocoder
Ofte stilte spørsmål
What is Riffusion Spectrogram Diffusion?
Riffusion er et smart hack som genererer musikk ved å behandle lyd som et bilde: det finjusterer Stable Diffusion-bildemodellen for å male spektrogrammer, og konverterer deretter disse bildene tilbake til lyd. Det betyr noe fordi det viser at et verktøy bygget for ett medium (bilder) kan produsere et annet (musikk) med nesten ingen ny arkitektur.
Hvilken eksisterende AI-modell finjusterte Riffusion for å generere musikk?
Riffusion finjustert Stable Diffusion, en bildediffusjonsmodell, for å generere spektrogrambilder som deretter konverteres til lyd.
Hva representerer et spektrogram på sine to akser?
I et spektrogram er den horisontale aksen tid, den vertikale aksen er frekvensen, og lysstyrken representerer lydstyrken.
Hvorfor trenger Riffusion en algoritme som Griffin-Lim?
Spektrogrammet lagrer størrelsen, men forkaster fase, så Griffin-Lim estimerer fasen iterativt for å gjenoppbygge en spillbar bølgeform.
Hvilken evne gir diffusjon Riffusion når man blander to meldinger?
Diffusjonsmodeller kan interpolere i latent rom, og lar Riffusion forvandle seg kontinuerlig fra en musikalsk stil til en annen.
Hvordan ble Riffusion opprinnelig opprettet og utgitt?
Riffusion begynte som et hobbyprosjekt av Seth Forsgren og Hayk Martiros, utgitt offentlig i slutten av 2022.