明堂智慧釋出面向邊緣裝置的 MiniCPM-V 4.7,在 3GB 記憶體下實現每秒 13+ 個 token 的處理速度
明勢智慧釋出了其最新的端側多模態大模型 MiniCPM-V 4.7,提供兩種配置:35B-A3B 和 1B。其中,35B-A3B 變體是 MiniCPM-V 系列中的首個混合專家(MoE)模型,利用專有的“前瞻性專家排程”技術,在端側裝置上實現無損且流暢的推理,成為首個無需依賴雲端即可高效執行的開源 MoE 模型。

其最引人注目的指標是效能表現:在 iPhone 17 Pro Max 上,該模型僅消耗 3GB 記憶體,同時解碼速度超過每秒 13 個詞元。這種高效性使得在高階智慧手機上進行本地多模態推理成為可能,無需將資料傳輸至雲端,從而確保了增強的隱私保護和降低的延遲。
多平臺支援與開源微調方案
在相容性方面,4.7 版本支援 iOS、Android 和 HarmonyOS,並針對包括 Intel、AMD、Arm、瑞芯微和幻謀在內的晶片架構進行了最佳化,覆蓋了移動和本地計算環境。明勢智慧還發布了自我回放微調(SRFT)方案,賦能開發者以更低成本擴充套件模型能力並緩解災難性遺忘,從而簡化二次開發流程。
效能基準測試同樣令人印象深刻:在指令模式(Instruct mode)下,35B-A3B 變體相比 Qwen3.6 35B-A3B 具有更快的推理時間和更高的綜合得分;而 1B 版本則在上一版 4.6 的基礎上進行了最佳化,相較於 Qwen3.5 0.8B,在綜合得分和推理效率方面展現出顯著優勢。隨著端側模型日益緊湊且競爭力增強,明勢智慧的最新迭代進一步降低了直接在智慧手機上部署 MoE 大模型的門檻。
相關文章
英偉達的Vera晶片:黃仁勳希望你注意的2000億美元賭注
Nvidia Vera 晶片在財報超出預期時很少佔據頭條,但它理應獲得關注。第一季度營收達到 816.2 億美元——超過分析師預估的 788.6 億美元,第二季度指引為 910 億美元,遠高於華爾街預估的 868.4 億美元,這些數字正如 Nvidia 的資料一貫所做的那樣:引人注目。然而,在執行長黃仁勳的分析師電話會議中,有一個比又一個季度業績超預期更具戰略意義的披露。黃仁勳透露,Nvidia 的新款 Vera 中央處理器將開啟一個 2000 億美元的市場,這與 2025 年至 2027
Gamma 收購 Accel 支援的 Lica,以增強設計能力
Gamma,一家領先的演示平臺,已收購由 Accel 支援的初創設計公司 Lica,以建立專門的設計研究實驗室,據 TechCrunch 獨家報道。Lica 的聯合創始人將主導這一新舉措。Lica 最初作為一個將截圖和錄屏轉換為專案簡報和影片的應用程式推出,由 Priyaa Kalyanaraman 和 Purvanshi Mehta 於 2023 年創立。該公司從包括 Accel、South Park Commons 和 Village Global 在內的投資者那裡獲得了 400 萬美
智譜 MaaS 將引入資料不保留機制,使用後的內容將被銷燬
9月21日,智譜的MaaS平臺宣佈即將推出一項“資料內容不儲存”功能,為企業和開發者提供更強的資料隱私保護。該機制確保在模型呼叫過程中產生的輸入和輸出資料不會在平臺上持久儲存。這些資料僅用於完成當前請求,並在隨後立即被丟棄。根據官方指南,任何使用者均可透過MaaS控制檯申請此功能。具體的實施時間表和適用範圍將由平臺確定,為具有嚴格資料合規需求的企業客戶提供額外的資料保護層。然而,該機制並不代表絕對的“不儲存”。智譜澄清稱,需要持久儲存任務或檔案的服務(如批次API和檔案API)不適用此功能。此外,
相關專題推薦
評論 (0)
0/500
明勢智慧釋出了其最新的端側多模態大模型 MiniCPM-V 4.7,提供兩種配置:35B-A3B 和 1B。其中,35B-A3B 變體是 MiniCPM-V 系列中的首個混合專家(MoE)模型,利用專有的“前瞻性專家排程”技術,在端側裝置上實現無損且流暢的推理,成為首個無需依賴雲端即可高效執行的開源 MoE 模型。

其最引人注目的指標是效能表現:在 iPhone 17 Pro Max 上,該模型僅消耗 3GB 記憶體,同時解碼速度超過每秒 13 個詞元。這種高效性使得在高階智慧手機上進行本地多模態推理成為可能,無需將資料傳輸至雲端,從而確保了增強的隱私保護和降低的延遲。
多平臺支援與開源微調方案
在相容性方面,4.7 版本支援 iOS、Android 和 HarmonyOS,並針對包括 Intel、AMD、Arm、瑞芯微和幻謀在內的晶片架構進行了最佳化,覆蓋了移動和本地計算環境。明勢智慧還發布了自我回放微調(SRFT)方案,賦能開發者以更低成本擴充套件模型能力並緩解災難性遺忘,從而簡化二次開發流程。
效能基準測試同樣令人印象深刻:在指令模式(Instruct mode)下,35B-A3B 變體相比 Qwen3.6 35B-A3B 具有更快的推理時間和更高的綜合得分;而 1B 版本則在上一版 4.6 的基礎上進行了最佳化,相較於 Qwen3.5 0.8B,在綜合得分和推理效率方面展現出顯著優勢。隨著端側模型日益緊湊且競爭力增強,明勢智慧的最新迭代進一步降低了直接在智慧手機上部署 MoE 大模型的門檻。
英偉達的Vera晶片:黃仁勳希望你注意的2000億美元賭注
Nvidia Vera 晶片在財報超出預期時很少佔據頭條,但它理應獲得關注。第一季度營收達到 816.2 億美元——超過分析師預估的 788.6 億美元,第二季度指引為 910 億美元,遠高於華爾街預估的 868.4 億美元,這些數字正如 Nvidia 的資料一貫所做的那樣:引人注目。然而,在執行長黃仁勳的分析師電話會議中,有一個比又一個季度業績超預期更具戰略意義的披露。黃仁勳透露,Nvidia 的新款 Vera 中央處理器將開啟一個 2000 億美元的市場,這與 2025 年至 2027
Gamma 收購 Accel 支援的 Lica,以增強設計能力
Gamma,一家領先的演示平臺,已收購由 Accel 支援的初創設計公司 Lica,以建立專門的設計研究實驗室,據 TechCrunch 獨家報道。Lica 的聯合創始人將主導這一新舉措。Lica 最初作為一個將截圖和錄屏轉換為專案簡報和影片的應用程式推出,由 Priyaa Kalyanaraman 和 Purvanshi Mehta 於 2023 年創立。該公司從包括 Accel、South Park Commons 和 Village Global 在內的投資者那裡獲得了 400 萬美
智譜 MaaS 將引入資料不保留機制,使用後的內容將被銷燬
9月21日,智譜的MaaS平臺宣佈即將推出一項“資料內容不儲存”功能,為企業和開發者提供更強的資料隱私保護。該機制確保在模型呼叫過程中產生的輸入和輸出資料不會在平臺上持久儲存。這些資料僅用於完成當前請求,並在隨後立即被丟棄。根據官方指南,任何使用者均可透過MaaS控制檯申請此功能。具體的實施時間表和適用範圍將由平臺確定,為具有嚴格資料合規需求的企業客戶提供額外的資料保護層。然而,該機制並不代表絕對的“不儲存”。智譜澄清稱,需要持久儲存任務或檔案的服務(如批次API和檔案API)不適用此功能。此外,





首頁






