概述
它解決了困擾 Tacotron 等早期自回歸模型的緩慢且容易出錯的生成問題。
深入探討
早期的神經 TTS 模型(例如 Tacotron 2)是自回歸的:它們根據前一個音頻幀來預測每個音頻幀,該音頻幀速度很慢,並且在註意力不集中時容易跳過或重複單詞。 FastSpeech 由 Microsoft 和浙江大學於 2019 年推出,透過一次性預測所有幀來扭轉這一局面。基於 Transformer 的前饋網路採用音素,透過長度調節器明確預測每個音素應持續多長時間,並在單次生成頻譜圖之前將序列擴展至正確的幀數。 FastSpeech 2 對此進行了改進,它還預測音調和能量,並透過強制對齊來訓練持續時間目標,而不是從緩慢的教師模型中提取它們,從而產生更自然和可控的語音。
現實世界的實施
即時導航應用程式使用平行 FastSpeech 式合成立即產生逐向語音提示。
客戶服務 IVR 系統可將動態文字大規模轉換為語音,而不會出現跳字錯誤。
輔助使用螢幕閱讀器可以在普通硬體上為長文件產生快速、可靠的語音。
透過 FastSpeech 2 明確的音調和能量預測器,語音內容工具可讓創作者直接調整音調和語速。
FastSpeech 和非自回歸 TTS 的未來
非自回歸合成現在是生產 TTS 的預設方法,因為它快速、穩健且可控。未來的系統將推動更精細的韻律控制、直播應用程式的低延遲串流媒體以及完全跳過中間頻譜圖的端到端變體。基於擴散和流的非自回歸模型也在興起,將 FastSpeech 的並行性與更強的生成質量相結合,而明確的音調和持續時間控制對於可編輯、富有表現力的語音產品仍然很有價值。
付諸實踐
為什麼這很重要
- 交通與覆蓋範圍. 它透過轉錄、旁白和語音介面提高了可訪問性。
- 成本與預算. 媒體團隊可以用更少的預算更快地交付精美的音訊。
- 速度與規模. 面向客戶的系統可以處理更大規模的語音互動。
留意
- 如果未徵得同意,語音濫用和冒充風險就會增加。
- 由於口音、方言或嘈雜的環境,準確性可能會下降。
- 如果沒有明確的標籤,合成音訊可能會被誤認為是真實的語音。
後續步驟
- 獲得語音捕獲、克隆和重用的明確同意。
- 測試不同揚聲器和背景條件下的品質。
- 定義人員必須審查或批准輸出的時間。
- 標記合成音訊並保留來源記錄以供問責。
不斷探索
常見問題
什麼是 FastSpeech 和非自回歸 TTS?
FastSpeech 並行產生整個語頻譜圖,而不是一次產生一幀,從而使合成速度顯著更快、更穩定。它解決了困擾 Tacotron 等早期自回歸模型的緩慢且容易出錯的生成問題。
在 FastSpeech 上下文中「非自回歸」是什麼意思?
非自回歸意味著幀是在單次傳遞中並行生成的,而不是根據先前的幀進行一一調節。
FastSpeech 具體解決了像 Tacotron 2 這樣的自回歸模型的哪些問題?
自回歸注意力可能會錯位,導致跳過或重複單詞,順序解碼速度很慢; FastSpeech 解決了這兩個問題。
FastSpeech 中「長度調節器」的作用是什麼?
長度調節器透過預測的持續時間擴展音素特徵,將較短的文字序列與較長的頻譜圖對齊。
Which additional speech variations does FastSpeech 2 condition on during training and inference?
FastSpeech 2 uses duration, pitch, and energy information as conditional inputs to better model speech variation.
為什麼 FastSpeech 的推理時間幾乎不跟著句子長度增加?
由於生成是並行的,因此添加更多幀不會像自回歸解碼那樣增加連續步驟。