SoundStorm 並列オーディオ生成
SoundStorm は、一度に 1 つのトークンではなく音声とサウンドを並行して生成する Google オーディオ生成モデルであり、高品質のオーディオ合成を劇的に高速化します。
概要
It matters because it cuts generation latency for long clips from minutes to seconds without sacrificing fidelity.
ディープダイブ
2023 年に Google によって導入された SoundStorm は、SoundStream と呼ばれるニューラル コーデックから離散音響トークンとして表されるオーディオを生成します。 AudioLM などの以前のモデルは、これらのトークンを自己回帰的に生成し、各トークンを順番に予測していましたが、長いオーディオの場合は時間がかかりました。 SoundStorm は代わりに、MaskGIT などの画像生成モデルから借用した非自己回帰のマスクベースのアプローチを使用します。これは、ほとんどがマスクされたトークンから始まり、数回のデコード ステップにわたって繰り返し埋め込まれ、多くのトークンを一度に並行して予測します。 (AudioLM や SPEAR-TTS などのモデルからの) セマンティック トークンを条件として、30 秒間の自然な対話を TPU で約 0.5 秒で合成できます。これは、品質と話者の一貫性を一致させながら、自己回帰ベースラインよりも約 100 倍高速です。
技術的な洞察
SoundStorm は、SoundStream からの残差ベクトル量子化 (RVQ) レベルの階層をモデル化します。トレーニング中、ランダムなトークンはマスクされ、モデルはそれらを予測することを学習します。推論時に、信頼度に基づいた並列デコードを実行します。反復ごとに、マスクされたすべてのトークンを予測し、最も信頼性の高いトークンを保持し、残りを再マスクします。最初に粗い RVQ レベルをデコードし、次に細かい RVQ レベルをデコードし、トークンごとの生成よりもはるかに少ないステップで完全なオーディオに到達します。
戦略的影響
アクセスと到達範囲
文字起こし、ナレーション、音声インターフェイスを通じてアクセシビリティを向上させます。
費用と予算
メディア チームは、より少ない予算で洗練されたオーディオをより迅速に出荷できます。
速度とスケール
顧客対応システムは、音声対話を大規模に処理できます。
SoundStorm 並列オーディオ生成の将来
並列マスクベースのデコーディングは、高速で制御可能なオーディオの標準ツールになりつつあります。これにより、かつては遅延により自己回帰モデルが実用的でなかった、リアルタイムの会話エージェント、即時音声合成、および長文のポッドキャストやオーディオブックの生成が強化されることが期待されます。これをより強力なセマンティック条件付けや透かしと組み合わせることで、対話のリアリズムとトレーサビリティが向上します。同じ反復改良のアイデアが拡散アプローチと融合する可能性が高く、コーデック トークンと連続オーディオ ジェネレーターの間の境界線があいまいになります。
現実世界の実装
AI 音声アシスタント向けの 30 秒の音声対話を 1 秒以内に生成
プロトタイピング用に一貫したスピーカー音声を使用してマルチターン会話を合成する
自己回帰モデルが遅れている対話型エージェントで低遅延のテキスト読み上げを強化
音響トークンを並行して入力することで、長い形式のナレーション音声を迅速に生成します
リスクとガードレール
同意がない場合、音声の悪用やなりすましのリスクが高まります。
アクセント、方言、または騒がしい環境では精度が低下する可能性があります。
合成音声は、明確なラベルが付けられていないと、本物の音声と間違われる可能性があります。
実装ロードマップ
音声のキャプチャ、複製、再利用については明示的な同意を取得してください。
さまざまな話者や背景条件で品質をテストします。
人間がいつ出力をレビューまたは承認する必要があるかを定義します。
合成音声にラベルを付け、出所記録を保管して説明責任を果たします。
探検を続けましょう
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the SoundStorm Parallel Audio Generation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
次のガイド
安定したオーディオの潜在拡散
よくある質問
What is SoundStorm Parallel Audio Generation?
SoundStorm は、一度に 1 つのトークンではなく音声とサウンドを並行して生成する Google オーディオ生成モデルであり、高品質のオーディオ合成を劇的に高速化します。忠実度を犠牲にすることなく、長いクリップの生成レイテンシーを数分から数秒に短縮できるため、これは重要です。
SoundStormをAudioLMより高速にする重要な革新は何ですか?
SoundStorm は、低速な自己回帰的なトークンごとの生成を非自己回帰的な並列デコードに置き換え、多くのトークンを同時に予測します。
SoundStorm は画像生成のどの技術を適応させますか?
SoundStorm は、画像合成において MaskGIT によって普及した、信頼度ベースのマスクとリフィルのデコード戦略を借用しています。
SoundStorm はどのような表現を生成しますか?
SoundStorm は、SoundStream コーデックによって生成される離散音響トークンを予測し、後で波形にデコードされます。
SoundStorm が TPU で 30 秒のオーディオを生成するのに、おおよそどれくらいの時間がかかりますか?
SoundStorm は、30 秒のオーディオを約 0.5 秒で合成できます。これは、自己回帰ベースラインよりも約 100 倍の速さです。
SoundStorm は、デコード中にどの予測トークンを保持するかをどのように決定するのでしょうか?
各反復では、最も信頼度の高いトークン予測を保持し、次のパスで不確実なトークン予測を再マスクします。