Liquid AI 开源了面向边缘 AI 的混合专家模型 LFM2.5
人工智能初创公司Liquid AI今日正式发布了其最新的边缘端大型模型LFM2.5-8B-A1B ,并将其开源。该模型专为在消费级硬件上进行工具调用和执行复杂指令而设计,在保持极低计算成本的同时,显著提升了边缘设备上的推理和推断性能。
在架构上,该模型采用稀疏混合专家(MoE)设计,总参数数达83亿。得益于这种稀疏性,每处理一个令牌仅需激活15亿参数,从而能在智能手机、笔记本电脑及类似设备上流畅运行。

扩展上下文与更强推理能力
与前代模型相比,LFM2.5 将上下文窗口从 3.2 万令牌扩展至 12.8 万令牌,预训练数据量也从 12 万亿令牌增至 38 万亿令牌。 作为纯推理模型,它在给出最终答案前会生成一条明确的推理链。其高度压缩的词汇表可高效处理包括中文和阿拉伯语在内的九种语言。
为减少长链推理过程中的逻辑死循环和幻觉现象,开发团队在训练阶段采用了两阶段强化学习(RL)。偏好优化有效减少了长链推理中的“死循环”,而专门的反幻觉奖励机制则使模型能够主动拒绝回答超出其知识库范围的问题。
强大的边缘性能与广泛的生态系统支持
在性能方面,LFM2.5 实现了爆发式提升。其在逻辑推理和抗幻觉基准测试中的得分远超前代模型,在指令执行能力上甚至可与更大规模的模型一较高下。在工具调用方面,该模型默认输出高效的 Python 函数调用,并支持通过系统提示无缝切换至 JSON 格式。
该模型在发布当日即获得主要推理框架的全面支持,包括 llama.cpp、MLX、vLLM 和 SGLang。 在硬件测试中,该模型在 M5 Max 芯片上的解码速度高达每秒 253 字节,在移动设备上约为每秒 30 字节,完美平衡了边缘部署中的隐私与效率。
相关文章
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有
加利福尼亚州自动驾驶合规:罚单、地理围栏和100万英里的新时代
Guident公司在南佛罗里达州运营一辆AuveTech自动驾驶班车,利用其远程监控技术管理西棕榈滩的一条4英里路线和博卡拉顿的一条1英里路线。| 图片来源:Guident加利福尼亚州正在重新定义无人驾驶车辆的监管格局,正逐渐摆脱科技行业“快速行动,打破常规”的思维模式,转向严格的问责制和严苛的行驶里程要求。Guident执行董事长兼首席执行官哈罗德·布劳恩(Harold Braun)在《机器人报
相关专题推荐
评论 (1)
0/500
人工智能初创公司Liquid AI今日正式发布了其最新的边缘端大型模型
在架构上,该模型采用稀疏混合专家(MoE)设计,总参数数达83亿。得益于这种稀疏性,每处理一个令牌仅需激活15亿参数,从而能在智能手机、笔记本电脑及类似设备上流畅运行。

扩展上下文与更强推理能力
与前代模型相比,LFM2.5 将上下文窗口从 3.2 万令牌扩展至 12.8 万令牌,预训练数据量也从 12 万亿令牌增至 38 万亿令牌。 作为纯推理模型,它在给出最终答案前会生成一条明确的推理链。其高度压缩的词汇表可高效处理包括中文和阿拉伯语在内的九种语言。
为减少长链推理过程中的逻辑死循环和幻觉现象,开发团队在训练阶段采用了两阶段强化学习(RL)。偏好优化有效减少了长链推理中的“死循环”,而专门的反幻觉奖励机制则使模型能够主动拒绝回答超出其知识库范围的问题。
强大的边缘性能与广泛的生态系统支持
在性能方面,LFM2.5 实现了爆发式提升。其在逻辑推理和抗幻觉基准测试中的得分远超前代模型,在指令执行能力上甚至可与更大规模的模型一较高下。在工具调用方面,该模型默认输出高效的 Python 函数调用,并支持通过系统提示无缝切换至 JSON 格式。
该模型在发布当日即获得主要推理框架的全面支持,包括 llama.cpp、MLX、vLLM 和 SGLang。 在硬件测试中,该模型在 M5 Max 芯片上的解码速度高达每秒 253 字节,在移动设备上约为每秒 30 字节,完美平衡了边缘部署中的隐私与效率。
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有





首页






