選項
首頁
新聞
寒武紀釋出DeepSeek-V4全系列Model Day0相容性及開源最佳化程式碼

寒武紀釋出DeepSeek-V4全系列Model Day0相容性及開源最佳化程式碼

2026-08-27
166

寒武紀釋出DeepSeek-V4全系列Model Day0相容性及開源最佳化程式碼

寒武紀已完成基於 vLLM 推理框架的 DeepSeek 最新開源模型系列 DeepSeek-V4 的“Day0”整合。此次全面適配涵蓋 Flash 版本(285B 引數)與 Pro 版本(1.6T 引數),確保該模型在寒武紀硬體上釋出後即可立即穩定執行。相應的整合程式碼已在 GitHub 上正式開源。

針對 DeepSeek-V4 獨特的稀疏注意力機制和壓縮架構,寒武紀利用其自研的向量融合庫 Torch-MLU-Ops 加速了 Compressor 等核心元件。透過採用高效能的 BangC 語言,團隊針對稀疏注意力(Sparse Attention)和 GroupGemm 等關鍵操作開發了最佳化核心。該方案在 vLLM 框架內全面支援五維混合並行(TP/PP/SP/DP/EP)、低精度量化以及 PD 分離,在嚴格滿足延遲約束的同時,顯著提升了 Token 吞吐量。

在硬體層面,寒武紀利用 MLU 的記憶體訪問和排序加速能力,以管理 DeepSeek-V4 複雜的索引結構。藉助高互聯頻寬和低延遲通訊,該方法最大限度地減少了 Prefill(預填充)和 Decode(解碼)階段的開銷,從而最大化推理效率。

行業專家指出,DeepSeek-V4 的百萬 Token 上下文視窗和頂尖的邏輯推理能力對底層計算架構提出了嚴峻挑戰。寒武紀快速的 Day0 適配凸顯了國產計算平臺在支援超大規模複雜模型方面的實力,標誌著國內 AI 生態已達到軟硬體協同的成熟水平,為大規模大模型的廣泛應用提供了堅實基礎。

相關文章
法國初創公司ZML推出免費工具,加速跨多晶片的AI推理 法國初創公司ZML推出免費工具,加速跨多晶片的AI推理 Nvidia 不受制約的市場主導地位時代可能正在走向終結,然而競爭對手和替代方案正從各個角度湧現。由圖靈獎得主楊立昆(Yann LeCun)支援的法國知名 AI 初創公司 ZML,推出了一款推理效能軟體,使各種開源大語言模型能夠在包括 Nvidia、AMD、Google TPUs、Apple Metal 和 Intel Arc 在內的多種硬體上執行。據 ZML 創始人 Steeve Morin 介紹,透過其新推出的 LLM 推理伺服器 ZML/LLMD,該公司旨在打破現有的壁壘,並最大化不同
Google Gemini 4 Argon 超越 Open AI,或將在程式碼提交中取代程式設計師 Google Gemini 4 Argon 超越 Open AI,或將在程式碼提交中取代程式設計師 海外科技圈對谷歌的最新突破反響熱烈:Gemini 4 Argon,一款面向多個平臺部分 Pro 使用者逐步推出的下一代 AI 模型。該模型已全面融入 Google Cloud 生態系統,作為全新 Antigravity 編碼工具的預設引擎,甚至可以直接將程式碼推送至生產環境倉庫。自主智慧體重新定義軟體開發與僅提供程式碼片段建議的傳統 AI 助手不同,Gemini 4 Argon 作為一個高階自主智慧體執行,積極參與複雜的程式設計任務,其工作方式類似於專職團隊成員。谷歌還推出了 Concierge,這是一種
Anthropic 推出備受爭議的內容生成器 Opus 4.6 Anthropic 推出備受爭議的內容生成器 Opus 4.6 Anthropic 針對 Claude 制定的通用使用標準,禁止該模型生成色情內容,包括描繪或要求性交或性行為、生成與性癖好或性幻想相關的內容,或進行色情聊天。 然而,這並未阻止 Anthropic 今年稍早推出的模型「Claude Opus 4.6」,輕易地參與其安全機制本應防止的色情角色扮演情境。在 TechCrunch 的測試中,Opus 4.6 甚至無需過多慫恿,便能突破對色情內容的限制。
相關專題推薦
設計與藝術 頂尖 AI 插畫工具:更快地創作編輯畫面與封面插圖
頂尖 AI 插畫工具:更快地創作編輯畫面與封面插圖

2026 年最新高評分 AI 插畫工具:我們精心挑選的清單收錄了功能強大、設計出色的工具,能助您快速創作出令人驚豔的編輯場景與吸睛的封面藝術。每項選項均經過嚴格的實際測試,並提供免費版與付費版的比較,協助您找到最適合您工作流程的工具。 立即嘗試這些不可錯過的解決方案,釋放您的人工智慧優勢,並提升您的創意生產力。現在就前往 XIX.AI 探索吧。

10 個工具
xix.ai
教育與學習 頂尖 AI 補習老師助您備考:練習數學、科學和英語
頂尖 AI 補習老師助您備考:練習數學、科學和英語

2026 年最新、評價最高的考試備考 AI 輔導工具,盡在 XIX.AI!我們精心挑選的清單收錄了多款強大且顛覆傳統的工具,提供免費與付費版本的比較、實際測試,以及每週更新的排行榜。這些工具能幫助您提升寫作效率、簡化複雜主題的學習,並釋放您的學術潛能。 立即探索,發掘最適合您的備考工具,並從今天開始創作,釋放您的 AI 優勢!

10 個工具
xix.ai
金融 用於個人財務管理的 AI 預算規劃工具
用於個人財務管理的 AI 預算規劃工具

2026 年最新最佳頂級評分 AI 預算規劃工具,專為個人財務管理打造,現已登陸 XIX.AI!本精選合集收錄了強大且具顛覆性的解決方案,助您開展實際測試、理解消費習慣,並制定個性化計劃以提升生產力。享受免費與付費版的對比及詳細排名。這些必試工具旨在簡化財務管理,助您釋放 AI 優勢。立即探索!

11 個工具
xix.ai
健康與養生 AI 睡眠追蹤助手:透過更佳的睡前習慣提升恢復效果
AI 睡眠追蹤助手:透過更佳的睡前習慣提升恢復效果

2026 年最新精選、評價最高的 AI 睡眠追蹤助手,助您獲得最佳恢復效果。這份全面更新的每週指南收錄了強大的工具,提供實際測試報告、免費與付費版本的比較,以及詳細排名,協助您找到必試的解決方案,以提升睡眠品質並培養更好的就寢習慣。 立即造訪 XIX.AI,解鎖您的 AI 優勢。

10 個工具
xix.ai
數據分析 用於產品與營收分析的 AI SQL 協作助手
用於產品與營收分析的 AI SQL 協作助手

2026 年最新最佳、評價最高的 AI SQL 輔助工具,專為產品與營收分析打造! XIX.AI 精心甄選了一系列強大且顛覆業界的必試工具,這些工具均經過實戰測試,並透過每週更新的排行榜進行評比。這些工具能透過加速資料分析、簡化複雜查詢,並產生精準洞察來推動更明智的商業決策,從而大幅提升使用者生產力。立即探索,發掘最適合您的工具,釋放您的 AI 優勢!

14 個工具
xix.ai
教育與學習 最佳的「教學型」AI 作業輔助工具:學習概念,而不僅是答案
最佳的「教學型」AI 作業輔助工具:學習概念,而不僅是答案

2026 年最新最佳高評價 AI 作業輔助工具:不僅提供答案,更教授核心概念。專為學生打造的強大工具,必試精選清單,每週更新,免費與付費版本比較,實際測試,精準排名,助您充分發揮學習潛能。立即探索,發掘最適合您的工具,讓學習更聰明。

10 個工具
xix.ai
評論 (0)
0/500
OR