AudioGen テキストからオーディオへの合成
AudioGen は、テキストの説明を「鳥が鳴いているときに犬が吠える」などの現実的な環境音や音響効果に変換する Meta モデルです。これが重要なのは、クリエイターが平易な言語から音声以外の音声を生成できるためであり、これは生成 AI には長い間欠けていた機能です。
ディープダイブ
Meta AI によって 2022 年にリリースされた AudioGen は、テキスト プロンプトから直接一般的なオーディオ (音響効果、周囲のシーン、動物や物体の音) を生成する自己回帰言語モデルです。テキスト読み上げシステムとは異なり、日常の音の乱雑な世界を対象としています。まず、ニューラル コーデック (残差ベクトル量子化を備えた EnCodec スタイルのオートエンコーダー) を使用して、生のオーディオを一連の離散トークンに圧縮します。次に、Transformer 言語モデルは、別のテキスト エンコーダーによってエンコードされたテキストの説明を条件として、これらのオーディオ トークンを予測する方法を学習します。構成の理解を向上させるために、著者らはトレーニング中に音声サンプルを混合および連結して、モデルが重なり合う音などの組み合わせを学習できるようにしました。 AudioGen は後に、MusicGen 音楽モデルとともに Meta の AudioCraft ライブラリの一部になりました。
技術的な洞察
AudioGen には 2 つのステージがあります。まず、オーディオ オートエンコーダーは、波形を離散トークンのコンパクトなストリームにマッピングし、その逆にマッピングすることを学習します。次に、Transformer は、前のトークンとテキスト条件付けを考慮して、次の音声トークンを予測するという言語モデリングの目的でトレーニングされます。分類子を使用しないガイダンスとマルチストリーム コードブック モデリングにより、忠実性とテキストの配置が向上します。オーディオの生成とは、自己回帰的にトークンをサンプリングし、コーデックを使用してそれらをデコードして波形に戻すことを意味します。
戦略的影響
アクセスと到達範囲
文字起こし、ナレーション、音声インターフェイスを通じてアクセシビリティを向上させます。
費用と予算
メディア チームは、より少ない予算で洗練されたオーディオをより迅速に出荷できます。
速度とスケール
顧客対応システムは、音声対話を大規模に処理できます。
AudioGen テキストからオーディオへの合成の将来
Text-to-audio は、より高いサンプル レート、より長い一貫したシーン、およびサウンドのタイミングと空間的配置のより厳密な制御に向かっています。一致する音響効果を自動的に追加するビデオ ツール、シーンを音声で説明するアクセシビリティ ツール、オンデマンドでアンビエント オーディオを合成するゲーム エンジンへの統合が期待されます。 AudioGen スタイルのトークン モデルを拡散手法や強力なテキスト エンコーダと組み合わせることで、リアリズムが向上する一方、透かしや出所ツールは合成音と録音された音を区別するのに役立ちます。
現実世界の実装
テキスト プロンプトから映画やゲームのフォーリー効果とサウンド効果を生成する
アプリと瞑想ツール用のアンビエント サウンドスケープ (雨、交通、森林) の作成
ストック ライブラリのライセンスを必要とせずに、ビデオ プロジェクト用のオーディオのプロトタイピングを行う
平易な言葉で説明されたカスタムのアラートおよび通知音の生成
リスクとガードレール
同意がない場合、音声の悪用やなりすましのリスクが高まります。
アクセント、方言、または騒がしい環境では精度が低下する可能性があります。
合成音声は、明確なラベルが付けられていないと、本物の音声と間違われる可能性があります。
実装ロードマップ
音声のキャプチャ、複製、再利用については明示的な同意を取得してください。
さまざまな話者や背景条件で品質をテストします。
人間がいつ出力をレビューまたは承認する必要があるかを定義します。
合成音声にラベルを付け、出所記録を保管して説明責任を果たします。
探検を続けましょう
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AudioGen Text-to-Audio Synthesis quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
次のガイド
DDSP 微分可能オーディオ合成
よくある質問
What is AudioGen Text-to-Audio Synthesis?
AudioGen は、テキストの説明を「鳥が鳴いているときに犬が吠える」などの現実的な環境音や音響効果に変換する Meta モデルです。これが重要なのは、クリエイターが平易な言語から音声以外の音声を生成できるためであり、これは生成 AI には長い間欠けていた機能です。
AudioGen は主に何を生成しますか?
AudioGen は、環境音やテキスト プロンプトから生成される効果など、音声以外の一般的なオーディオに特化しています。
AudioGen のパイプラインの最初のステージは何ですか?
ニューラル コーデック オートエンコーダーは、生の音声を個別のトークンに圧縮し、言語モデルが予測できるようにします。
どのようなタイプのモデルがオーディオ トークンを予測しますか?
AudioGen は、テキストに基づいてオーディオ トークンを次々に予測する自己回帰 Transformer を使用します。
なぜ著者はトレーニング中に音声を混合して連結したのでしょうか?
混合および連結されたクリップによる拡張により、プロンプト内で一緒に記述される複数のサウンドを構成する AudioGen の機能が向上しました。
AudioGen を含む、より大きな Meta ライブラリはどれですか?
AudioGen は Meta の AudioCraft ライブラリの一部であり、MusicGen モデルも含まれています。