蚂蚁数字推出“百灵”企业金融大语言模型:重新定义速度与效率
OpenAI的Agent等自主执行代理的兴起,标志着人工智能应用迈向了新的加速阶段,从简单的“对话交互”转向了复杂的“任务执行”。尽管企业正迅速拥抱这一趋势,但也面临着计算资源浪费和安全合规等挑战。实现智能代理的大规模、可持续部署已成为行业关注的焦点。
3月26日,在“中关村论坛·未来产业创新论坛”上,蚂蚁数字大模型技术创新部总经理张鹏在演讲中指出,此类智能代理的出现将彻底改变企业AI的范式。这一转变将推动大模型的产业化部署从“参数规模竞赛”转向“令牌效率竞赛”。

蚂蚁数字大模型技术创新部总经理张鹏在中关村论坛上发表演讲。
智能代理的快速普及反映了市场对自主任务执行的强烈需求。然而,将其部署到真实的工业环境中却面临重大障碍。 由于往往缺乏对行业规则和工作流的深刻理解,这些智能代理在处理复杂任务时,可能会反复调用工具,导致效率低下。这使得令牌消耗远超其实际创造的价值。报告显示,在某些高频场景下,智能代理的执行成本可能是集成解决方案的数十倍甚至数百倍,这引发了人们对其广泛工业应用可持续性的担忧。
“大模型工业化下一阶段的核心挑战不在于参数数量的竞争,而在于持续提升每Token的效率,”张鹏指出。他认为企业应根据具体场景和需求,选择战略性地结合大模型与小模型的AI解决方案,以更低的计算成本实现更大的商业价值。
以金融行业为例。该领域每天处理海量的高频、低延迟任务——快速识别用户意图、提取关键数据、检索和排序信息。这些任务要求高并发、快速响应和精准无误。 虽然传统的大型推理模型功能强大,但将其用于此类场景往往是“大材小用”——如同“用大锤砸核桃”——导致成本高昂、速度缓慢且资源浪费。
“行业真正需要的是既能保证专业性、严谨性和合规性,又能提供最佳成本效益和响应速度的AI解决方案,”张鹏解释道。他强调,大参数模型擅长复杂推理和深度分析,而小模型则能为高频、简单的任务提供更低的延迟和更好的成本效益。利用两者的混合方法是更高效、更经济地解决现实世界问题的关键。
在中关村论坛上,蚂蚁数字发布了名为“Ling-DT-Fin-Mini-2.5”的轻量级金融专用模型,这是其Ling DT系列的首款产品。该模型基于最新的Ling 2.5混合线性注意力框架,采用轻量级的专家混合(MoE)架构,针对高并发、低延迟的金融任务进行了优化。 它在保持专业能力的同时,将推理成本降至适合大规模部署的水平。与能力相当的主流通用模型相比,它在处理同等任务量时,推理速度提升100%,硬件成本显著降低,为金融机构带来了切实的成本节约和效率提升。
事实上,随着AI代理深入核心工业流程执行实际工作,大小模型结合的策略正成为行业标准。近期,OpenAI自身也发布了两款更小型的模型——GPT-4o mini和nano,专注于低延迟和高性价比,以作为主要的执行级代理。
张鹏总结道,技术进步最终必须与产业效率的理性需求相契合。在下一阶段的竞争中,Token效率将成为评估企业AI价值的核心指标。蚂蚁数字将继续专注于企业级AGI,计划发布“凌DT”大模型的企业版及行业定制版,加速智能代理在复杂商业环境中的大规模部署。
相关文章
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有
加利福尼亚州自动驾驶合规:罚单、地理围栏和100万英里的新时代
Guident公司在南佛罗里达州运营一辆AuveTech自动驾驶班车,利用其远程监控技术管理西棕榈滩的一条4英里路线和博卡拉顿的一条1英里路线。| 图片来源:Guident加利福尼亚州正在重新定义无人驾驶车辆的监管格局,正逐渐摆脱科技行业“快速行动,打破常规”的思维模式,转向严格的问责制和严苛的行驶里程要求。Guident执行董事长兼首席执行官哈罗德·布劳恩(Harold Braun)在《机器人报
相关专题推荐
评论 (0)
0/500
OpenAI的Agent等自主执行代理的兴起,标志着人工智能应用迈向了新的加速阶段,从简单的“对话交互”转向了复杂的“任务执行”。尽管企业正迅速拥抱这一趋势,但也面临着计算资源浪费和安全合规等挑战。实现智能代理的大规模、可持续部署已成为行业关注的焦点。
3月26日,在“中关村论坛·未来产业创新论坛”上,蚂蚁数字大模型技术创新部总经理张鹏在演讲中指出,此类智能代理的出现将彻底改变企业AI的范式。这一转变将推动大模型的产业化部署从“参数规模竞赛”转向“令牌效率竞赛”。

蚂蚁数字大模型技术创新部总经理张鹏在中关村论坛上发表演讲。
智能代理的快速普及反映了市场对自主任务执行的强烈需求。然而,将其部署到真实的工业环境中却面临重大障碍。 由于往往缺乏对行业规则和工作流的深刻理解,这些智能代理在处理复杂任务时,可能会反复调用工具,导致效率低下。这使得令牌消耗远超其实际创造的价值。报告显示,在某些高频场景下,智能代理的执行成本可能是集成解决方案的数十倍甚至数百倍,这引发了人们对其广泛工业应用可持续性的担忧。
“大模型工业化下一阶段的核心挑战不在于参数数量的竞争,而在于持续提升每Token的效率,”张鹏指出。他认为企业应根据具体场景和需求,选择战略性地结合大模型与小模型的AI解决方案,以更低的计算成本实现更大的商业价值。
以金融行业为例。该领域每天处理海量的高频、低延迟任务——快速识别用户意图、提取关键数据、检索和排序信息。这些任务要求高并发、快速响应和精准无误。 虽然传统的大型推理模型功能强大,但将其用于此类场景往往是“大材小用”——如同“用大锤砸核桃”——导致成本高昂、速度缓慢且资源浪费。
“行业真正需要的是既能保证专业性、严谨性和合规性,又能提供最佳成本效益和响应速度的AI解决方案,”张鹏解释道。他强调,大参数模型擅长复杂推理和深度分析,而小模型则能为高频、简单的任务提供更低的延迟和更好的成本效益。利用两者的混合方法是更高效、更经济地解决现实世界问题的关键。
在中关村论坛上,蚂蚁数字发布了名为“Ling-DT-Fin-Mini-2.5”的轻量级金融专用模型,这是其Ling DT系列的首款产品。该模型基于最新的Ling 2.5混合线性注意力框架,采用轻量级的专家混合(MoE)架构,针对高并发、低延迟的金融任务进行了优化。 它在保持专业能力的同时,将推理成本降至适合大规模部署的水平。与能力相当的主流通用模型相比,它在处理同等任务量时,推理速度提升100%,硬件成本显著降低,为金融机构带来了切实的成本节约和效率提升。
事实上,随着AI代理深入核心工业流程执行实际工作,大小模型结合的策略正成为行业标准。近期,OpenAI自身也发布了两款更小型的模型——GPT-4o mini和nano,专注于低延迟和高性价比,以作为主要的执行级代理。
张鹏总结道,技术进步最终必须与产业效率的理性需求相契合。在下一阶段的竞争中,Token效率将成为评估企业AI价值的核心指标。蚂蚁数字将继续专注于企业级AGI,计划发布“凌DT”大模型的企业版及行业定制版,加速智能代理在复杂商业环境中的大规模部署。
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有





首页






