百度推出「Ernie 5.1」,預訓練成本降低 94%,全球排名躋身前四
百度於 2026 年 5 月 11 日正式推出其新一代語言模型「Ernie 5.1」。 基於今年1月發布、擁有2.4兆參數的Ernie 5.0預訓練模型,此新版本採用創新的「一次性彈性訓練框架」開發。此方法使百度能在單一訓練週期內優化多種模型規模,將Ernie 5.1的預訓練成本大幅削減至同類模型的6%。

截至5月9日,Ernie 5.1在Arena Search排行榜上以1223分的成績位居全球第四,並在中國模型中排名第一,展現了其卓越的效率與均衡的表現。
在架構上,Ernie 5.1 採用子模型設計,其深度、寬度及活躍專家數量皆可調控。其總參數數量僅為前代模型的三分之一,且每筆查詢所激活的有效參數數量也減少了約一半。為解決多技能訓練中常見的「蹺蹺板效應」,百度實施了四階段後訓練流程。 此方法運用並行化的專用訓練程式碼、推論及代理專家模型,結合策略蒸餾與強化的學習,有效解決了業界普遍面臨的「編程能力與創意推理平衡」難題。此外,經重新設計的強化學習基礎架構,將模型更新、回應生成與評估三者解耦。配合標準化的低精度運算函式庫,這顯著提升了大規模訓練的穩定性。

相關文章
Meta 在使用者強烈反對後取消了 AI 照片編輯功能
Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
相關專題推薦
評論 (0)
0/500
百度於 2026 年 5 月 11 日正式推出其新一代語言模型「Ernie 5.1」。 基於今年1月發布、擁有2.4兆參數的Ernie 5.0預訓練模型,此新版本採用創新的「一次性彈性訓練框架」開發。此方法使百度能在單一訓練週期內優化多種模型規模,將Ernie 5.1的預訓練成本大幅削減至同類模型的6%。

截至5月9日,Ernie 5.1在Arena Search排行榜上以1223分的成績位居全球第四,並在中國模型中排名第一,展現了其卓越的效率與均衡的表現。
在架構上,Ernie 5.1 採用子模型設計,其深度、寬度及活躍專家數量皆可調控。其總參數數量僅為前代模型的三分之一,且每筆查詢所激活的有效參數數量也減少了約一半。為解決多技能訓練中常見的「蹺蹺板效應」,百度實施了四階段後訓練流程。 此方法運用並行化的專用訓練程式碼、推論及代理專家模型,結合策略蒸餾與強化的學習,有效解決了業界普遍面臨的「編程能力與創意推理平衡」難題。此外,經重新設計的強化學習基礎架構,將模型更新、回應生成與評估三者解耦。配合標準化的低精度運算函式庫,這顯著提升了大規模訓練的穩定性。

Meta 在使用者強烈反對後取消了 AI 照片編輯功能
Meta,這家社交媒體巨頭,再次捲入關於人工智慧與使用者隱私之間微妙平衡的公開辯論。據 TechCrunch 報道,Meta 的 Superintelligence Labs 本週早些時候推出了一款新的 AI 影象生成器 Muse Image。然而,一個備受好評的關鍵功能——允許使用者透過“@”符號標記來修改和生成來自公開 Instagram 賬戶的影象——由於缺乏適當的通知機制,立即引發了使用者以及 CAA 等機構的強烈反對。面對強烈的批評,Meta 迅速撤銷了該決定,並於週五透過部落格文章宣佈將
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






