拡散スペクトログラムの拡散
Riffusion は、サウンドを画像として扱うことで音楽を生成する賢いハックです。安定拡散画像モデルを微調整してスペクトログラムをペイントし、それらの画像をオーディオに変換し直します。
概要
It matters because it shows a tool built for one medium (images) can produce another (music) with almost no new architecture.
ディープダイブ
Seth Forsgren と Hayk Martiros によって 2022 年末にリリースされた Riffusion は、趣味のプロジェクトとして始まりました。重要なトリック: スペクトログラムは、横軸が時間、縦軸が周波数、ピクセルの明るさが音量である 2D 画像です。 Stable Diffusion はすでにテキスト プロンプトから画像を生成しているため、作成者は何千ものスペクトログラムとテキストのペアの例に基づいて微調整しました。 「ファンキーなジャズベース」で促すと、ランダムなノイズがノイズ除去され、そのサウンドのスペクトログラムが作成されます。再生可能なオーディオを作成するために、Riffusion は不足している位相情報を再構築する Griffin-Lim アルゴリズムを通じてスペクトログラムを実行します。ディフュージョンはプロンプト間をスムーズに補間できるため、Riffusion は連続したクリップ上で 1 つのスタイルを別のスタイルにモーフィングし、シームレスにループすることもできます。
技術的な洞察
Riffusion は、潜在拡散パイプラインを変更せずに再利用します。U-Net は、CLIP テキスト埋め込みに条件付けされた潜在画像からガウス ノイズを繰り返し除去します。唯一のドメイン固有の作業は、スペクトログラム表現 (メルスケール、対数パワー) と、予測された振幅スペクトログラムを波形に戻すグリフィンリム位相再構成です。位相はエンコード中に破棄されるため、Griffin-Lim の反復推定が特徴的な「水っぽい」アーティファクトの主な原因となります。
戦略的影響
アクセスと到達範囲
文字起こし、ナレーション、音声インターフェイスを通じてアクセシビリティを向上させます。
費用と予算
メディア チームは、より少ない予算で洗練されたオーディオをより迅速に出荷できます。
速度とスケール
顧客対応システムは、音声対話を大規模に処理できます。
拡散スペクトログラム拡散の未来
Riffusion はスペクトログラムをイメージとしてブリッジすることが機能することを証明し、そのアイデアは現在もより大きなオーディオ システム内で生き続けており、Riffusion という会社が誕生しました。将来のツールでは、損失の多い Griffin-Lim を学習されたニューラル ボコーダーで置き換えてよりクリーンなフェーズを実現し、スペクトログラム拡散と潜在的なオーディオ コーデックを組み合わせることが期待されます。画像モデルは新しいモダリティにリダイレクトできるというより広範な教訓は、研究者が既存の事前トレーニングされたバックボーンからオーディオおよびビデオ ジェネレーターをブートストラップする方法に影響を与え続けています。
現実世界の実装
「緊張したシンセウェーブ チェイス」のようなテキスト プロンプトからインディーズ ビデオ ゲーム用の短いループ バック グラウンド トラックを生成する
2 つの音楽スタイルの間でスムーズにモーフィングします。単一のクリップ全体で「トロピカル ハウス」を「ローファイ ヒップホップ」にブレンド
YouTube ビデオやポッドキャスト用のロイヤリティフリーのアンビエント ミュージック ベッドをライセンス料なしで制作
メロディーやリズミカルなアイデアのプロトタイプを作成し、ミュージシャンがデジタル オーディオ ワークステーションで適切に再録音します。
リスクとガードレール
同意がない場合、音声の悪用やなりすましのリスクが高まります。
アクセント、方言、または騒がしい環境では精度が低下する可能性があります。
合成音声は、明確なラベルが付けられていないと、本物の音声と間違われる可能性があります。
実装ロードマップ
音声のキャプチャ、複製、再利用については明示的な同意を取得してください。
さまざまな話者や背景条件で品質をテストします。
人間がいつ出力をレビューまたは承認する必要があるかを定義します。
合成音声にラベルを付け、出所記録を保管して説明責任を果たします。
探検を続けましょう
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Riffusion Spectrogram Diffusion quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
次のガイド
DiffWave 拡散ボコーダー
よくある質問
What is Riffusion Spectrogram Diffusion?
Riffusion は、サウンドを画像として扱うことで音楽を生成する賢いハックです。安定拡散画像モデルを微調整してスペクトログラムをペイントし、それらの画像をオーディオに変換し直します。これは、あるメディア (画像) 用に構築されたツールが、ほとんど新しいアーキテクチャを必要とせずに別のメディア (音楽) を生成できることを示しているため、重要です。
Riffusion が音楽を生成するために微調整した既存の AI モデルは何ですか?
Riffusion は、画像拡散モデルである Stable Diffusion を微調整して、音声に変換されるスペクトログラム画像を生成しました。
スペクトログラムは 2 つの軸で何を表しますか?
スペクトログラムでは、横軸は時間、縦軸は周波数、明るさは音量を表します。
なぜ Riffusion には Griffin-Lim のようなアルゴリズムが必要なのでしょうか?
スペクトログラムは振幅を保存しますが位相を破棄するため、Griffin-Lim は位相を繰り返し推定して再生可能な波形を再構築します。
2 つのプロンプトをブレンドする場合、拡散は Riffusion にどのような機能を与えますか?
拡散モデルは潜在空間内で補間することができ、Riffusion を 1 つの音楽スタイルから別の音楽スタイルに連続的にモーフィングさせることができます。
Riffusion は最初どのように作成され、リリースされましたか?
Riffusion は Seth Forsgren と Hayk Martiros による趣味のプロジェクトとして始まり、2022 年末に一般公開されました。