海光DCU藉助Kimi K3專家並行技術執行萬億引數模型
國產算力基礎設施首次成功支撐萬億引數模型執行。海光資訊確認在 DCU 平臺上完成 Kimi K3 的全棧適配與效能驗證,表明此類大規模模型的執行不再侷限於少數幾款國外旗艦晶片。
透過從底層運算元到推理引擎的全面最佳化,海光 DCU 使模型程式碼無需修改即可直接執行,有效消除了遷移壁壘。開發者在獲取資源後即可立即部署模型,確保無縫相容。針對 KDA 注意力機制和 896 專家 MoE 架構的自定義運算元級調整,使得在數百萬上下文 Token 的高負載下仍能實現高效、穩定的推理。

在實際應用中,海光 DCU 上的 Kimi K3 支援長程智慧體、視覺閉環生成以及自研晶片整合等高階用例。國產算力使用者現已能夠獨立執行開源的萬億引數模型。值得注意的是,在 K3 釋出之前,月之暗面已與海光資訊及中科曙光合作,實現了全面的相容性最佳化。依託 DCU 硬體棧,中科曙光整合了 Kimi MoE 架構的分散式訓練與多卡並行推理,而海光 DCU 則透過深度的軟硬體協同,確保了在中科曙光 8000 叢集上長文字推理的穩定性。
官方基準測試確認,國產顯示卡的效能損耗保持在 12% 以內,符合商業部署標準。隨著萬億引數模型與國產 GPU 之間的差距不斷縮小,智慧時代的算力格局正在悄然發生變革。
相關文章
託尼·法德爾談為何第一批AI裝置失敗——以及接下來會發生什麼
當託尼·法德爾走上首屆麻省理工學院未來節(MIT Future Fest)的舞臺時,他展示了一張幻燈片,上面列出了三款已停產且備受炒作的人工智慧裝置:Rabbit R1、Humane AI 胸針以及 Limitless 吊墜。“這些代表了第一代人工智慧產品。鑑於我的背景,這些公司曾尋求我的指導,但我拒絕了,”法德爾解釋道。這些初創公司尋求法德爾的建議也就不足為奇了。作為“iPod之父”、iPhone的共同創作者以及被谷歌收購的智慧恆溫器公司Nest的創始人,法德爾擁有無與倫比的行業經驗。“
南韓通過法案,允許在經過監管審查後有限度地使用個人資料,以促進人工智慧發展
韓國個人資訊保護委員會近日宣布,國會已一致通過《個人資訊保護法》修正案,允許人工智慧開發者在經委員會審查後,有限度地使用個人資料。這項變更廢除了先前「個人資訊僅能用於蒐集時明確聲明的目的,且人工智慧開發必須取得個人同意」這項嚴格規定。多年來,南韓人工智慧產業一直主張,原有的立法阻礙了基於原始個人資料的技術進步。先前豁免條款的適用範圍極為狹窄,僅涵蓋語音防詐騙系統和自主機器人等特定情況,有效期為兩年
美圖Hub 公佈 AI 影象生產線,定於 8 月 5 日正式上線
2026美圖影像節正式揭曉“AI影象生產線”MeituHub,標誌著美圖從單一場景AI工具提供商向全面定製化影象工作流服務提供商的轉型。作為本屆影像節的旗艦產品,MeituHub將於8月5日正式上線。此外,美圖在活動中還推出了七款針對特定垂直場景的專用產品:站酷、Picchi、美圖設計室、開麥、Artflo、MVLAND和RoboNeo。與這些專用工具不同,MeituHub旨在系統整合美圖的核心影象能力,圍繞不同的業務需求重構AI工作流。該平臺具備AI Agent機制,可與使用者協作定義需求,
相關專題推薦
評論 (0)
0/500
國產算力基礎設施首次成功支撐萬億引數模型執行。海光資訊確認在 DCU 平臺上完成 Kimi K3 的全棧適配與效能驗證,表明此類大規模模型的執行不再侷限於少數幾款國外旗艦晶片。
透過從底層運算元到推理引擎的全面最佳化,海光 DCU 使模型程式碼無需修改即可直接執行,有效消除了遷移壁壘。開發者在獲取資源後即可立即部署模型,確保無縫相容。針對 KDA 注意力機制和 896 專家 MoE 架構的自定義運算元級調整,使得在數百萬上下文 Token 的高負載下仍能實現高效、穩定的推理。

在實際應用中,海光 DCU 上的 Kimi K3 支援長程智慧體、視覺閉環生成以及自研晶片整合等高階用例。國產算力使用者現已能夠獨立執行開源的萬億引數模型。值得注意的是,在 K3 釋出之前,月之暗面已與海光資訊及中科曙光合作,實現了全面的相容性最佳化。依託 DCU 硬體棧,中科曙光整合了 Kimi MoE 架構的分散式訓練與多卡並行推理,而海光 DCU 則透過深度的軟硬體協同,確保了在中科曙光 8000 叢集上長文字推理的穩定性。
官方基準測試確認,國產顯示卡的效能損耗保持在 12% 以內,符合商業部署標準。隨著萬億引數模型與國產 GPU 之間的差距不斷縮小,智慧時代的算力格局正在悄然發生變革。
託尼·法德爾談為何第一批AI裝置失敗——以及接下來會發生什麼
當託尼·法德爾走上首屆麻省理工學院未來節(MIT Future Fest)的舞臺時,他展示了一張幻燈片,上面列出了三款已停產且備受炒作的人工智慧裝置:Rabbit R1、Humane AI 胸針以及 Limitless 吊墜。“這些代表了第一代人工智慧產品。鑑於我的背景,這些公司曾尋求我的指導,但我拒絕了,”法德爾解釋道。這些初創公司尋求法德爾的建議也就不足為奇了。作為“iPod之父”、iPhone的共同創作者以及被谷歌收購的智慧恆溫器公司Nest的創始人,法德爾擁有無與倫比的行業經驗。“
南韓通過法案,允許在經過監管審查後有限度地使用個人資料,以促進人工智慧發展
韓國個人資訊保護委員會近日宣布,國會已一致通過《個人資訊保護法》修正案,允許人工智慧開發者在經委員會審查後,有限度地使用個人資料。這項變更廢除了先前「個人資訊僅能用於蒐集時明確聲明的目的,且人工智慧開發必須取得個人同意」這項嚴格規定。多年來,南韓人工智慧產業一直主張,原有的立法阻礙了基於原始個人資料的技術進步。先前豁免條款的適用範圍極為狹窄,僅涵蓋語音防詐騙系統和自主機器人等特定情況,有效期為兩年
美圖Hub 公佈 AI 影象生產線,定於 8 月 5 日正式上線
2026美圖影像節正式揭曉“AI影象生產線”MeituHub,標誌著美圖從單一場景AI工具提供商向全面定製化影象工作流服務提供商的轉型。作為本屆影像節的旗艦產品,MeituHub將於8月5日正式上線。此外,美圖在活動中還推出了七款針對特定垂直場景的專用產品:站酷、Picchi、美圖設計室、開麥、Artflo、MVLAND和RoboNeo。與這些專用工具不同,MeituHub旨在系統整合美圖的核心影象能力,圍繞不同的業務需求重構AI工作流。該平臺具備AI Agent機制,可與使用者協作定義需求,





首頁






