選項
首頁
新聞
美團開源語音模型樹立了語音克隆的新標竿

美團開源語音模型樹立了語音克隆的新標竿

2026-04-06
196

音訊生成領域正經歷一場根本性的轉變,從多階段級聯架構轉向端到端模型。 為克服傳統 TTS 系統所採用的「梅爾頻譜圖」中間表示形式所固有的資訊損失與誤差累積問題,美團 LongCat 團隊已正式發布並開源 LongCat-AudioDiT(提供 10 億與 35 億參數版本)。該模型透過直接波形潛空間建模,成功突破了零樣本語音克隆的既有性能極限。

QQ20260402-101320.jpg

核心架構:突破梅爾頻譜圖的局限

LongCat-AudioDiT 摒棄了傳統的「聲學特徵預測 + 神經語音編碼器」多階段流程,轉而建立一套基於 Wav-VAE(波形變分自編碼器)DiT(擴散變換器)的簡化極簡架構。

高效 Wav-VAE:採用全卷積設計,將 24kHz 波形壓縮 2000 倍至 11.7Hz 幀率。透過非參數捷徑分支與多目標對抗式訓練,確保重建波形在維持精確時頻結構的同時,呈現極佳的自然聆聽品質。

語義增強型 DiT:該模型創新性地將 UMT5 文字編碼器的原始詞嵌入向量與其頂層隱藏狀態進行融合。此舉彌補了高階語義表示中遺失的語音細節,顯著提升了生成的語音可懂度。

推論優化:精準修正語音漂移

為進一步提升生成品質,研究團隊實施了兩項關鍵技術改進:

雙重約束機制:此技術能識別並修正流匹配 TTS 中長期存在的「訓練與推論不匹配」問題。透過在推論階段強制重置提示區的潛在變量,徹底解決了發音者聲音漂移與不穩定的問題。

自適應投影引導(APG):APG 取代了傳統的無分類器引導(CFG)。它能精準篩選引導訊號中的有益成分,同時抑制導致音質退化的成分,在避免引發頻譜「過飽和」的情況下,顯著提升語音自然度。

性能:SOTA 級別的克隆準確度

在 Seed 資料集的基準測試中,LongCat-AudioDiT 展現出領先的表現:

相似度 (SIM):該 35 億參數模型在 Seed-ZH 測試集上獲得 0.818 的分數,並在具挑戰性的 Seed-Hard 句子集上取得 0.797,表現優於 Seed-TTS、CosyVoice3.5 及 MiniMax-Speech 等知名模型。

準確度:在關鍵指標上名列業界頂尖,包括英語 WER 為 1.50%,以及中文難句 CER 為 6.04%。

值得注意的是,LongCat-AudioDiT 僅透過對預處理後的 ASR 轉錄資料進行單階段訓練,便能取得優於多階段訓練模型的卓越成果。相關研究論文、原始碼及模型權重現已全面開源,並可於 GitHub 和 HuggingFace 取得。

專案連結:

GitHub:https://github.com/meituan-longcat/LongCat-AudioDiT

HuggingFace:https://huggingface.co/meituan-longcat/LongCat-AudioDiT

相關文章
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能 WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能 廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
Anthropic 的實驗性 AI「Claude」在電子商務測試中完成了談判與交易 Anthropic 的實驗性 AI「Claude」在電子商務測試中完成了談判與交易 隨著人工智慧的快速發展,Anthropic 上週五悄悄推出了一項名為「Project Deal」的內部實驗,展現了人工智慧在電子商務領域的潛力。該實驗讓其人工智慧模型 Claude 在封閉的市場環境中自主處理買賣及價格協商,並涉及真實的金融交易。實驗的核心是一個建構於 Slack 平台上的內部市場,Claude 在其中同時擔任買方與賣方的談判代表。它首先訪談了 69 名員工,以收集他們的買賣意圖及
DeepSeek Code 即將推出 DeepSeek Code 即將推出 隨著人工智慧技術的加速發展,DeepSeek 正處於一個令人振奮的轉捩點。這家人工智慧公司最近透露,已獲得超過 700 億元的資金。管理層強調,公司致力於突破性的人工智慧研究,而非追求眼前的商業利益。這一戰略轉向表明 DeepSeek 將全力投入新產品的開發,尤其是眾人矚目的 DeepSeek Code。DeepSeek Code 的規劃已逐漸成形,該公司職缺頁面已發布數個相關職位,例如「Agen
相關專題推薦
商業 最佳 AI 招聘工具:篩選履歷與自動化安排候選人面試
最佳 AI 招聘工具:篩選履歷與自動化安排候選人面試

在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案,可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜,比較免費與付費選項。立即找到最適合您的招聘助手,並優化您的招聘流程!

10 個工具
xix.ai
生產率 AI 個人健康與專注力教練:管理倦怠感並提升精神能量
AI 個人健康與專注力教練:管理倦怠感並提升精神能量

立即在 XIX.AI 探索 2026 年最佳 AI 個人健康與專注力教練。我們精心策劃的排行榜收錄了備受好評、能帶來革命性改變的工具,助您管理倦怠感並提升精神能量。透過實際使用心得,比較免費與付費方案的差異。立即開啟通往巔峰生產力與身心健康的道路。

10 個工具
xix.ai
聊天機器人 最受好評的 AI 浪漫聊天機器人:透過一貫的個性建立長期關係
最受好評的 AI 浪漫聊天機器人:透過一貫的個性建立長期關係

探索 2026 年最新、評價最高的 AI 浪漫聊天機器人,助您建立真摯且長久的連結。我們精心整理的清單包含功能強大且性格鮮明的聊天機器人、免費與付費版本的比較,以及實際測試結果。立即前往 XIX.AI 尋找您的完美伴侶,並開始建立這段關係吧。

10 個工具
xix.ai
教育與學習 最佳AI資料科學導師:精通SQL、Pandas及機器學習工作流程
最佳AI資料科學導師:精通SQL、Pandas及機器學習工作流程

探索2026年最優秀的人工智慧資料科學導師,幫助他們掌握SQL、Pandas以及機器學習工作流程。在XIX.AI上檢視我們精心挑選的頂級導師名單,獲得強大而具有變革性的指導。透過對比免費和付費選項,並結合實際應用案例進行了解,今天就開啟你的資料科學精通之路吧。

10 個工具
xix.ai
聊天機器人 最佳 AI 調情與對話訓練工具:即時提升社交魅力與自信
最佳 AI 調情與對話訓練工具:即時提升社交魅力與自信

在 XIX.AI 探索 2026 年最頂尖的 AI 調情與對話訓練工具。我們精心挑選、評價最高的精選清單,能助您即時建立社交魅力與自信。探索這些必試且能徹底改變遊戲規則的工具,並透過免費與付費版本的比較,以及每週更新的排行榜,立即解鎖您的社交優勢。

10 個工具
xix.ai
代碼 最適合自動化單元測試的最佳AI工具:一鍵生成Jest、PyTest和JUnit測試用例
最適合自動化單元測試的最佳AI工具:一鍵生成Jest、PyTest和JUnit測試用例

探索2026年最新評選出的頂級AI工具,這些工具專為自動化單元測試而設計。我們精心挑選了那些功能強大、能夠改變開發流程的工具,它們能夠幫助您快速生成Jest、PyTest和JUnit測試用例。在XIX.AI平臺上,您可以免費檢視各種選項,並透過實際測試結果以及每週更新的排名來了解它們的優劣。立即利用這些AI工具,提升您的開發效率吧!

10 個工具
xix.ai
評論 (0)
0/500
OR