明堂智能发布面向边缘设备的 MiniCPM-V 4.7,在 3GB 内存下实现每秒 13+ 个 token 的处理速度
明势智能发布了其最新的端侧多模态大模型 MiniCPM-V 4.7,提供两种配置:35B-A3B 和 1B。其中,35B-A3B 变体是 MiniCPM-V 系列中的首个混合专家(MoE)模型,利用专有的“前瞻性专家调度”技术,在端侧设备上实现无损且流畅的推理,成为首个无需依赖云端即可高效运行的开源 MoE 模型。

其最引人注目的指标是性能表现:在 iPhone 17 Pro Max 上,该模型仅消耗 3GB 内存,同时解码速度超过每秒 13 个词元。这种高效性使得在高端智能手机上进行本地多模态推理成为可能,无需将数据传输至云端,从而确保了增强的隐私保护和降低的延迟。
多平台支持与开源微调方案
在兼容性方面,4.7 版本支持 iOS、Android 和 HarmonyOS,并针对包括 Intel、AMD、Arm、瑞芯微和幻谋在内的芯片架构进行了优化,覆盖了移动和本地计算环境。明势智能还发布了自我回放微调(SRFT)方案,赋能开发者以更低成本扩展模型能力并缓解灾难性遗忘,从而简化二次开发流程。
性能基准测试同样令人印象深刻:在指令模式(Instruct mode)下,35B-A3B 变体相比 Qwen3.6 35B-A3B 具有更快的推理时间和更高的综合得分;而 1B 版本则在上一版 4.6 的基础上进行了优化,相较于 Qwen3.5 0.8B,在综合得分和推理效率方面展现出显著优势。随着端侧模型日益紧凑且竞争力增强,明势智能的最新迭代进一步降低了直接在智能手机上部署 MoE 大模型的门槛。
相关文章
英伟达的Vera芯片:黄仁勋希望你注意的2000亿美元赌注
Nvidia Vera 芯片在财报超出预期时很少占据头条,但它理应获得关注。第一季度营收达到 816.2 亿美元——超过分析师预估的 788.6 亿美元,第二季度指引为 910 亿美元,远高于华尔街预估的 868.4 亿美元,这些数字正如 Nvidia 的数据一贯所做的那样:引人注目。然而,在首席执行官黄仁勋的分析师电话会议中,有一个比又一个季度业绩超预期更具战略意义的披露。黄仁勋透露,Nvidia 的新款 Vera 中央处理器将开启一个 2000 亿美元的市场,这与 2025 年至 2027
Gamma 收购 Accel 支持的 Lica,以增强设计能力
Gamma,一家领先的演示平台,已收购由 Accel 支持的初创设计公司 Lica,以建立专门的设计研究实验室,据 TechCrunch 独家报道。Lica 的联合创始人将主导这一新举措。Lica 最初作为一个将截图和录屏转换为项目演示文稿和视频的应用程序推出,由 Priyaa Kalyanaraman 和 Purvanshi Mehta 于 2023 年创立。该公司从包括 Accel、South Park Commons 和 Village Global 在内的投资者那里获得了 400 万美
智谱 MaaS 将引入数据不保留机制,使用后的内容将被销毁
9月21日,智谱的MaaS平台宣布即将推出一项“数据内容不存储”功能,为企业和开发者提供更强的数据隐私保护。该机制确保在模型调用过程中产生的输入和输出数据不会在平台上持久存储。这些数据仅用于完成当前请求,并在随后立即被丢弃。根据官方指南,任何用户均可通过MaaS控制台申请此功能。具体的实施时间表和适用范围将由平台确定,为具有严格数据合规需求的企业客户提供额外的数据保护层。然而,该机制并不代表绝对的“不存储”。智谱澄清称,需要持久存储任务或文件的服务(如批量API和文件API)不适用此功能。此外,
相关专题推荐
评论 (0)
0/500
明势智能发布了其最新的端侧多模态大模型 MiniCPM-V 4.7,提供两种配置:35B-A3B 和 1B。其中,35B-A3B 变体是 MiniCPM-V 系列中的首个混合专家(MoE)模型,利用专有的“前瞻性专家调度”技术,在端侧设备上实现无损且流畅的推理,成为首个无需依赖云端即可高效运行的开源 MoE 模型。

其最引人注目的指标是性能表现:在 iPhone 17 Pro Max 上,该模型仅消耗 3GB 内存,同时解码速度超过每秒 13 个词元。这种高效性使得在高端智能手机上进行本地多模态推理成为可能,无需将数据传输至云端,从而确保了增强的隐私保护和降低的延迟。
多平台支持与开源微调方案
在兼容性方面,4.7 版本支持 iOS、Android 和 HarmonyOS,并针对包括 Intel、AMD、Arm、瑞芯微和幻谋在内的芯片架构进行了优化,覆盖了移动和本地计算环境。明势智能还发布了自我回放微调(SRFT)方案,赋能开发者以更低成本扩展模型能力并缓解灾难性遗忘,从而简化二次开发流程。
性能基准测试同样令人印象深刻:在指令模式(Instruct mode)下,35B-A3B 变体相比 Qwen3.6 35B-A3B 具有更快的推理时间和更高的综合得分;而 1B 版本则在上一版 4.6 的基础上进行了优化,相较于 Qwen3.5 0.8B,在综合得分和推理效率方面展现出显著优势。随着端侧模型日益紧凑且竞争力增强,明势智能的最新迭代进一步降低了直接在智能手机上部署 MoE 大模型的门槛。
英伟达的Vera芯片:黄仁勋希望你注意的2000亿美元赌注
Nvidia Vera 芯片在财报超出预期时很少占据头条,但它理应获得关注。第一季度营收达到 816.2 亿美元——超过分析师预估的 788.6 亿美元,第二季度指引为 910 亿美元,远高于华尔街预估的 868.4 亿美元,这些数字正如 Nvidia 的数据一贯所做的那样:引人注目。然而,在首席执行官黄仁勋的分析师电话会议中,有一个比又一个季度业绩超预期更具战略意义的披露。黄仁勋透露,Nvidia 的新款 Vera 中央处理器将开启一个 2000 亿美元的市场,这与 2025 年至 2027
Gamma 收购 Accel 支持的 Lica,以增强设计能力
Gamma,一家领先的演示平台,已收购由 Accel 支持的初创设计公司 Lica,以建立专门的设计研究实验室,据 TechCrunch 独家报道。Lica 的联合创始人将主导这一新举措。Lica 最初作为一个将截图和录屏转换为项目演示文稿和视频的应用程序推出,由 Priyaa Kalyanaraman 和 Purvanshi Mehta 于 2023 年创立。该公司从包括 Accel、South Park Commons 和 Village Global 在内的投资者那里获得了 400 万美
智谱 MaaS 将引入数据不保留机制,使用后的内容将被销毁
9月21日,智谱的MaaS平台宣布即将推出一项“数据内容不存储”功能,为企业和开发者提供更强的数据隐私保护。该机制确保在模型调用过程中产生的输入和输出数据不会在平台上持久存储。这些数据仅用于完成当前请求,并在随后立即被丢弃。根据官方指南,任何用户均可通过MaaS控制台申请此功能。具体的实施时间表和适用范围将由平台确定,为具有严格数据合规需求的企业客户提供额外的数据保护层。然而,该机制并不代表绝对的“不存储”。智谱澄清称,需要持久存储任务或文件的服务(如批量API和文件API)不适用此功能。此外,





首页






