āļ„āļđāđˆāļĄāļ·āļ­āđ€āļŠāļĩāļĒāļ‡ AI

āļāļēāļĢāļāļĢāļ°āļˆāļēāļĒāļŠāđ€āļ›āļāļ•āļĢāļąāļĄāđāļšāļšāļāļĢāļ°āļˆāļēāļĒ

Riffusion adapts a text-to-image diffusion model to generate audio by generating spectrogram images and reconstructing waveforms.

āļŸāļąāļ‡āļ„āļģāđāļ™āļ°āļ™āļģāļ™āļĩāđ‰āļšāļĢāļĢāļĒāļēāļĒāđ‚āļ”āļĒ AI · ~2 min

āļšāļ™āļŦāļ™āđ‰āļēāļ™āļĩāđ‰āļ­āđˆāļēāļ™ 2 āļ™āļēāļ—āļĩ
  1. āļ āļēāļžāļĢāļ§āļĄ
  2. āđ€āļˆāļēāļ°āļĨāļķāļ
  3. āļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āļˆāļĢāļīāļ‡āđƒāļ™āđ‚āļĨāļāđāļŦāđˆāļ‡āļ„āļ§āļēāļĄāđ€āļ›āđ‡āļ™āļˆāļĢāļīāļ‡
  4. āļ­āļ™āļēāļ„āļ•āļ‚āļ­āļ‡āļāļēāļĢāđāļžāļĢāđˆāļāļĢāļ°āļˆāļēāļĒāļŠāđ€āļ›āļāļ•āļĢāļąāļĄāļŠāđ€āļ›āļāļ•āļĢāļąāļĄāđāļšāļšāļāļĢāļ°āļˆāļēāļĒ
  5. āļāļēāļĢāļ™āļģāđ„āļ›āļ›āļāļīāļšāļąāļ•āļī
  6. āļŠāļģāļĢāļ§āļˆāļ•āđˆāļ­āđ„āļ›
  7. āļ„āļģāļ–āļēāļĄāļ—āļĩāđˆāļžāļšāļšāđˆāļ­āļĒ

āļ āļēāļžāļĢāļ§āļĄ

It is a research and creative example; its outputs require listening and technical validation.

āđ€āļˆāļēāļ°āļĨāļķāļ

Released as a hobby project in 2022, Riffusion fine-tuned Stable Diffusion on paired text and spectrogram images. A spectrogram places time horizontally and frequency vertically, with pixel intensity representing magnitude or energy; this version uses a mel-frequency representation. The generated magnitude representation omits phase. Riffusion uses Griffin-Lim iterations to estimate phase and reconstruct a waveform, which can introduce audible artifacts. Its image-model adaptation demonstrates a route to audio generation, but does not guarantee musical quality or licensing status.

āļāļēāļĢāđƒāļŠāđ‰āļ‡āļēāļ™āļˆāļĢāļīāļ‡āđƒāļ™āđ‚āļĨāļāđāļŦāđˆāļ‡āļ„āļ§āļēāļĄāđ€āļ›āđ‡āļ™āļˆāļĢāļīāļ‡

Exploring short musical sketches from text prompts

Comparing how prompt changes affect generated spectrogram patterns

Interpolating between prompt embeddings to explore transitions between sound ideas

Prototyping a musical idea before arranging or recording it in an audio workstation

āļ­āļ™āļēāļ„āļ•āļ‚āļ­āļ‡āļāļēāļĢāđāļžāļĢāđˆāļāļĢāļ°āļˆāļēāļĒāļŠāđ€āļ›āļāļ•āļĢāļąāļĄāļŠāđ€āļ›āļāļ•āļĢāļąāļĄāđāļšāļšāļāļĢāļ°āļˆāļēāļĒ

Riffusion demonstrates one way to adapt an image-diffusion pipeline for audio by generating spectrogram images and reconstructing waveforms. The core project is marked no longer actively maintained. Generated clips should be checked for reconstruction artifacts and for rights appropriate to their intended use.

āļāļēāļĢāļ™āļģāđ„āļ›āļ›āļāļīāļšāļąāļ•āļī

āļ—āļģāđ„āļĄāļĄāļąāļ™āļ–āļķāļ‡āļŠāļģāļ„āļąāļ

  • āđ€āļ‚āđ‰āļēāļ–āļķāļ‡āđāļĨāļ°āđ€āļ‚āđ‰āļēāļ–āļķāļ‡. āļ›āļĢāļąāļšāļ›āļĢāļļāļ‡āļāļēāļĢāđ€āļ‚āđ‰āļēāļ–āļķāļ‡āļœāđˆāļēāļ™āļāļēāļĢāļ–āļ­āļ”āđ€āļŠāļĩāļĒāļ‡ āļ„āļģāļšāļĢāļĢāļĒāļēāļĒ āđāļĨāļ°āļ­āļīāļ™āđ€āļ—āļ­āļĢāđŒāđ€āļŸāļ‹āđ€āļŠāļĩāļĒāļ‡
  • āļ•āđ‰āļ™āļ—āļļāļ™āđāļĨāļ°āļ‡āļšāļ›āļĢāļ°āļĄāļēāļ“. āļ—āļĩāļĄāļŠāļ·āđˆāļ­āļŠāļēāļĄāļēāļĢāļ–āļˆāļąāļ”āļŠāđˆāļ‡āđ€āļŠāļĩāļĒāļ‡āļ—āļĩāđˆāļŠāļ§āļĒāļ‡āļēāļĄāđ„āļ”āđ‰āļĢāļ§āļ”āđ€āļĢāđ‡āļ§āļĒāļīāđˆāļ‡āļ‚āļķāđ‰āļ™āļ”āđ‰āļ§āļĒāļ‡āļšāļ›āļĢāļ°āļĄāļēāļ“āļ—āļĩāđˆāļ™āđ‰āļ­āļĒāļĨāļ‡
  • āļ„āļ§āļēāļĄāđ€āļĢāđ‡āļ§āđāļĨāļ°āļ‚āļ™āļēāļ”. āļĢāļ°āļšāļšāļ—āļĩāđˆāļ•āļīāļ”āļ•āđˆāļ­āļāļąāļšāļĨāļđāļāļ„āđ‰āļēāļŠāļēāļĄāļēāļĢāļ–āļ›āļĢāļ°āļĄāļ§āļĨāļœāļĨāļāļēāļĢāđ‚āļ•āđ‰āļ•āļ­āļšāļ”āđ‰āļ§āļĒāđ€āļŠāļĩāļĒāļ‡āđƒāļ™āļ‚āļ™āļēāļ”āļ—āļĩāđˆāđƒāļŦāļāđˆāļ‚āļķāđ‰āļ™

āļĢāļ°āļ§āļąāļ‡

  • āļāļēāļĢāđƒāļŠāđ‰āđ€āļŠāļĩāļĒāļ‡āđƒāļ™āļ—āļēāļ‡āļ—āļĩāđˆāļœāļīāļ”āđāļĨāļ°āļāļēāļĢāđāļ­āļšāļ­āđ‰āļēāļ‡āļšāļļāļ„āļ„āļĨāļ­āļ·āđˆāļ™āļĄāļĩāļ„āļ§āļēāļĄāđ€āļŠāļĩāđˆāļĒāļ‡āđ€āļžāļīāđˆāļĄāļ‚āļķāđ‰āļ™āđ€āļĄāļ·āđˆāļ­āļ‚āļēāļ”āļ„āļ§āļēāļĄāļĒāļīāļ™āļĒāļ­āļĄ
  • āļ„āļ§āļēāļĄāđāļĄāđˆāļ™āļĒāļģāļ­āļēāļˆāļĨāļ”āļĨāļ‡āļ•āļēāļĄāļŠāļģāđ€āļ™āļĩāļĒāļ‡ āļ āļēāļĐāļēāļ–āļīāđˆāļ™ āļŦāļĢāļ·āļ­āļŠāļ āļēāļžāđāļ§āļ”āļĨāđ‰āļ­āļĄāļ—āļĩāđˆāļĄāļĩāđ€āļŠāļĩāļĒāļ‡āļ”āļąāļ‡
  • āđ€āļŠāļĩāļĒāļ‡āļŠāļąāļ‡āđ€āļ„āļĢāļēāļ°āļŦāđŒāļ­āļēāļˆāļ–āļđāļāđ€āļ‚āđ‰āļēāđƒāļˆāļœāļīāļ”āļ§āđˆāļēāđ€āļ›āđ‡āļ™āđ€āļŠāļĩāļĒāļ‡āļžāļđāļ”āļ—āļĩāđˆāđāļ—āđ‰āļˆāļĢāļīāļ‡āđ‚āļ”āļĒāđ„āļĄāđˆāļĄāļĩāļāļēāļĢāļāļģāļāļąāļšāļ—āļĩāđˆāļŠāļąāļ”āđ€āļˆāļ™

āļ‚āļąāđ‰āļ™āļ•āļ­āļ™āļ•āđˆāļ­āđ„āļ›

  1. āđ„āļ”āđ‰āļĢāļąāļšāļ„āļ§āļēāļĄāļĒāļīāļ™āļĒāļ­āļĄāļ­āļĒāđˆāļēāļ‡āļŠāļąāļ”āđāļˆāđ‰āļ‡āļŠāļģāļŦāļĢāļąāļšāļāļēāļĢāļˆāļąāļšāđ€āļŠāļĩāļĒāļ‡ āļāļēāļĢāđ‚āļ„āļĨāļ™ āđāļĨāļ°āļāļēāļĢāđƒāļŠāđ‰āļ‹āđ‰āļģ
  2. āļ—āļ”āļŠāļ­āļšāļ„āļļāļ“āļ āļēāļžāļāļąāļšāļĨāļģāđ‚āļžāļ‡āđāļĨāļ°āļŠāļ āļēāļžāļžāļ·āđ‰āļ™āļŦāļĨāļąāļ‡āļ—āļĩāđˆāļŦāļĨāļēāļāļŦāļĨāļēāļĒ
  3. āļāļģāļŦāļ™āļ”āđ€āļ§āļĨāļēāļ—āļĩāđˆāļĄāļ™āļļāļĐāļĒāđŒāļˆāļ°āļ•āđ‰āļ­āļ‡āļ•āļĢāļ§āļˆāļŠāļ­āļšāļŦāļĢāļ·āļ­āļ­āļ™āļļāļĄāļąāļ•āļīāļœāļĨāļĨāļąāļžāļ˜āđŒ
  4. āļ•āļīāļ”āļ›āđ‰āļēāļĒāļāļģāļāļąāļšāđ€āļŠāļĩāļĒāļ‡āļŠāļąāļ‡āđ€āļ„āļĢāļēāļ°āļŦāđŒāđāļĨāļ°āđ€āļāđ‡āļšāļšāļąāļ™āļ—āļķāļāļ—āļĩāđˆāļĄāļēāđ€āļžāļ·āđˆāļ­āļ„āļ§āļēāļĄāļĢāļąāļšāļœāļīāļ”āļŠāļ­āļš

āļŠāļģāļĢāļ§āļˆāļ•āđˆāļ­āđ„āļ›

āļˆāļ”āļŦāļĄāļēāļĒāļ‚āđˆāļēāļ§āļŸāļĢāļĩ

āļĢāļąāļšāļŠāļĢāļļāļ› AI āļĢāļēāļĒāļ§āļąāļ™

āđ€āļĢāļ·āđˆāļ­āļ‡āļĢāļēāļ§ AI āļ—āļĩāđˆāļ•āļĢāļ§āļˆāļŠāļ­āļšāđāļĨāđ‰āļ§ 3 āđ€āļĢāļ·āđˆāļ­āļ‡āļ—āļļāļāļ§āļąāļ™āļ—āļģāļ‡āļēāļ™ āđ€āļŠāđ‰āļē, āđ€āļ‚āļĩāļĒāļ™āđ€āļ›āđ‡āļ™āļ āļēāļĐāļēāļ­āļąāļ‡āļāļĪāļĐāļ˜āļĢāļĢāļĄāļ”āļē āļŸāļĢāļĩāļ•āļĨāļ­āļ”āđ„āļ› āđ„āļĄāđˆāļĄāļĩāđ‚āļ†āļĐāļ“āļē

āļ­āļĩāđ€āļĄāļĨāļŦāļ™āļķāđˆāļ‡āļ‰āļšāļąāļšāļ—āļļāļāļ§āļąāļ™āļ—āļģāļ‡āļēāļ™ āļĒāļāđ€āļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļ„āļĢāđƒāļ™āļ„āļĨāļīāļāđ€āļ”āļĩāļĒāļ§ āđ€āļĢāļēāđ„āļĄāđˆāđ€āļ„āļĒāļ‚āļēāļĒāļŦāļĢāļ·āļ­āđāļŠāļĢāđŒāļ—āļĩāđˆāļ­āļĒāļđāđˆāļ­āļĩāđ€āļĄāļĨāļ‚āļ­āļ‡āļ„āļļāļ“

āļ—āļ”āļŠāļ­āļšāļ•āļąāļ§āđ€āļ­āļ‡

Take the Riffusion Spectrogram Diffusion quiz

āļ‚āđ‰āļ­āđ€āļŠāļ™āļ­āđāļ™āļ°āļ—āļąāļ™āļ—āļĩāļŠāļģāļŦāļĢāļąāļšāļ—āļļāļāļ„āļģāļ•āļ­āļš āđāļĨāļ°āđƒāļšāļĢāļąāļšāļĢāļ­āļ‡āļ—āļĩāđˆāļŠāļēāļĄāļēāļĢāļ–āđāļŠāļĢāđŒāđ„āļ”āđ‰āļžāļĢāđ‰āļ­āļĄ ID āļ—āļĩāđˆāļ•āļĢāļ§āļˆāļŠāļ­āļšāđ„āļ”āđ‰āđ€āļĄāļ·āđˆāļ­āļ„āļļāļ“āļœāđˆāļēāļ™āļŦāļĨāļąāļāļŠāļđāļ•āļĢ

āđ€āļĢāļīāđˆāļĄāđāļšāļšāļ—āļ”āļŠāļ­āļš

āļŠāļ™āļąāļšāļŠāļ™āļļāļ™āļāļēāļĢāļĻāļķāļāļĐāļē AI āļŸāļĢāļĩ AI Understanding āđ€āļ›āđ‡āļ™āļ­āļ‡āļ„āđŒāļāļĢāđ„āļĄāđˆāđāļŠāļ§āļ‡āļŦāļēāļœāļĨāļāļģāđ„āļĢ 501(c)(3) — āđ„āļĄāđˆāļĄāļĩāđ‚āļ†āļĐāļ“āļē āđ„āļĄāđˆāļĄāļĩāļāļģāđāļžāļ‡āđ€āļ‡āļīāļ™, āļ•āļĨāļ­āļ”āđ„āļ› āļšāļĢāļīāļˆāļēāļ„

āļ„āļģāļ–āļēāļĄāļ—āļĩāđˆāļžāļšāļšāđˆāļ­āļĒ

What is Riffusion Spectrogram Diffusion?

Riffusion adapts a text-to-image diffusion model to generate audio by generating spectrogram images and reconstructing waveforms. It is a research and creative example; its outputs require listening and technical validation.

āđ‚āļĄāđ€āļ”āļĨ AI āđƒāļ”āļ—āļĩāđˆāļĄāļĩāļ­āļĒāļđāđˆ Riffusion āļ›āļĢāļąāļšāđāļ•āđˆāļ‡āđ€āļžāļ·āđˆāļ­āļŠāļĢāđ‰āļēāļ‡āđ€āļžāļĨāļ‡

Riffusion Stable Diffusion āļ—āļĩāđˆāļ›āļĢāļąāļšāđāļ•āđˆāļ‡āļ­āļĒāđˆāļēāļ‡āļĨāļ°āđ€āļ­āļĩāļĒāļ” āļ‹āļķāđˆāļ‡āđ€āļ›āđ‡āļ™āđ‚āļĄāđ€āļ”āļĨāļāļēāļĢāđāļžāļĢāđˆāļāļĢāļ°āļˆāļēāļĒāļ āļēāļž āđ€āļžāļ·āđˆāļ­āļŠāļĢāđ‰āļēāļ‡āļ āļēāļžāļŠāđ€āļ›āļāđ‚āļ•āļĢāđāļāļĢāļĄāļ—āļĩāđˆāđāļ›āļĨāļ‡āđ€āļ›āđ‡āļ™āđ€āļŠāļĩāļĒāļ‡

On a Riffusion spectrogram image, which direction typically represents increasing time?

The spectrogram maps time horizontally and frequency vertically.

āđ€āļŦāļ•āļļāđƒāļ” Riffusion āļˆāļķāļ‡āļ•āđ‰āļ­āļ‡āļāļēāļĢāļ­āļąāļĨāļāļ­āļĢāļīāļ˜āļķāļĄāđ€āļŠāđˆāļ™ Griffin-Lim

āļŠāđ€āļ›āļāđ‚āļ•āļĢāđāļāļĢāļĄāļˆāļ°āđ€āļāđ‡āļšāļ‚āļ™āļēāļ”āđ„āļ§āđ‰āđāļ•āđˆāļˆāļ°āļĨāļ°āļ—āļīāđ‰āļ‡āđ€āļŸāļŠ āļ”āļąāļ‡āļ™āļąāđ‰āļ™ Griffin-Lim āļˆāļķāļ‡āļ›āļĢāļ°āļĄāļēāļ“āđ€āļŸāļŠāļ‹āđ‰āļģāđ† āđ€āļžāļ·āđˆāļ­āļŠāļĢāđ‰āļēāļ‡āļĢāļđāļ›āļ„āļĨāļ·āđˆāļ™āļ—āļĩāđˆāļŠāļēāļĄāļēāļĢāļ–āđ€āļĨāđˆāļ™āđ„āļ”āđ‰āđƒāļŦāļĄāđˆ

What can prompt interpolation do in Riffusion?

Riffusion’s pipeline supports prompt interpolation, allowing a transition between two prompt-conditioned generations.

Riffusion āļ–āļđāļāļŠāļĢāđ‰āļēāļ‡āļ‚āļķāđ‰āļ™āđāļĨāļ°āđ€āļœāļĒāđāļžāļĢāđˆāļ­āļĒāđˆāļēāļ‡āđ„āļĢ?

Riffusion āđ€āļĢāļīāđˆāļĄāļ•āđ‰āļ™āļˆāļēāļāđ‚āļ›āļĢāđ€āļˆāđ‡āļāļ•āđŒāļ‡āļēāļ™āļ­āļ”āļīāđ€āļĢāļāđ‚āļ”āļĒ Seth Forsgren āđāļĨāļ° Hayk Martiros āļ‹āļķāđˆāļ‡āđ€āļœāļĒāđāļžāļĢāđˆāļŠāļđāđˆāļŠāļēāļ˜āļēāļĢāļ“āļ°āđƒāļ™āļŠāđˆāļ§āļ‡āļ›āļĨāļēāļĒāļ›āļĩ 2022

āđ€āļĢāļĩāļĒāļ™āļĢāļđāđ‰āļ•āđˆāļ­āđ„āļ›

āļ„āļģāđāļ™āļ°āļ™āļģāļ—āļĩāđˆāđ€āļāļĩāđˆāļĒāļ§āļ‚āđ‰āļ­āļ‡

āļ„āļģāđāļ™āļ°āļ™āļģāđ€āļžāļīāđˆāļĄāđ€āļ•āļīāļĄāļ—āļĩāđˆāđ€āļĨāļ·āļ­āļāļŠāļģāļŦāļĢāļąāļšāļŦāļąāļ§āļ‚āđ‰āļ­āļ™āļĩāđ‰

āļ•āđˆāļ­āđ„āļ›āļ„āļģāđāļ™āļ°āļ™āļģāļ•āđˆāļ­āđ„āļ›

DiffWave āļāļēāļĢāđāļžāļĢāđˆāļāļĢāļ°āļˆāļēāļĒ Vocoder

āđ€āļŠāļĩāļĒāļ‡āđ€āļ­āđ„āļ­

āļĢāļąāļšāđƒāļšāļĢāļąāļšāļĢāļ­āļ‡ AI āļŸāļĢāļĩāļŦāļĨāļąāļāļŠāļđāļ•āļĢāđāļĨāļ°āļāļēāļĢāļŠāļ­āļšāļŠāļąāđ‰āļ™ āđ† āļŸāļĢāļĩ āđ„āļĄāđˆāļĄāļĩāļ„āđˆāļēāđƒāļŠāđ‰āļˆāđˆāļēāļĒ āđ„āļĄāđˆāļĄāļĩāļšāļąāļ•āļĢāđ€āļ„āļĢāļ”āļīāļ• āļ›āļĢāļ°āļĄāļēāļ“ 2.5 āļŠāļąāđˆāļ§āđ‚āļĄāļ‡āđ€āļĢāļīāđˆāļĄāļ•āđ‰āļ™āļŸāļĢāļĩ →