京东推出JoyAI-LLM-Flash模型,推动人工智能发展

2月14日,京东在Hugging Face平台上公开发布了其最新的大型语言模型JoyAI-LLM-Flash。该模型拥有共计48亿个参数,其中30亿个在推理过程中被激活。它基于20万亿个文本令牌进行预训练,在理解当代知识、逻辑推理和编程任务方面表现出色。
JoyAI-LLM-Flash采用了创新的FiberPO优化框架,该框架将光纤束理论融入强化学习中。结合Muon优化器和密集多令牌预测(MTP)技术,该方法有效解决了传统模型在扩展时常见的不稳定性问题。与未采用MTP的版本相比,其吞吐量提高了1.3至1.7倍,显著提升了训练效率和实际应用潜力。
该模型基于混合专家(MoE)架构构建,拥有40层结构。它支持128K令牌的上下文长度,词汇量达129K,标志着京东在人工智能领域迈出了重要一步。
相关文章
海尔推出全球最轻的人工智能运动外骨骼机器人,重量仅为1.75公斤
海尔集团推出了全球最轻的运动型人工智能外骨骼机器人——海尔外骨骼机器人W3。此次发布创下了行业轻量化新纪录,标志着在轻量化设计和智能人体运动增强领域取得了重大突破。高端材料成就超轻量化设计W3采用创新的一体化制造工艺,融合全碳纤维与钛合金。这种航空级材料组合将总重量控制在仅1.75公斤,实现了轻量化与高强度的完美平衡,展现出极致的机械性能。为提升舒适度,该机器人融入了非牛顿流体材料,触感柔软亲肤,
耀科传媒首部AIGC剧集《秦岭青铜之谜》今日上线,主演均由AI生成
今日,耀科传媒的AIGC奇幻悬疑短剧《秦岭青铜秘闻》正式上线。该剧由公司签约的首批两位AI演员秦凌月和林西妍主演,故事背景设定在神秘的秦岭矿区。 剧中,退役情报官秦月率队深入该区域,揭开了一起尘封已久的矿难真相,以及跨越两代人的血祭之谜——这个真相就隐藏在受限的地下区域,那里是科学探索与古代巫术交汇之地。作为中国最早完全由AI数字人支撑的影视作品之一,该剧在筹备阶段便引发了业界热烈讨论,而关于其A
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
相关专题推荐
评论 (1)
0/500

2月14日,京东在Hugging Face平台上公开发布了其最新的大型语言模型JoyAI-LLM-Flash。该模型拥有共计48亿个参数,其中30亿个在推理过程中被激活。它基于20万亿个文本令牌进行预训练,在理解当代知识、逻辑推理和编程任务方面表现出色。
JoyAI-LLM-Flash采用了创新的FiberPO优化框架,该框架将光纤束理论融入强化学习中。结合Muon优化器和密集多令牌预测(MTP)技术,该方法有效解决了传统模型在扩展时常见的不稳定性问题。与未采用MTP的版本相比,其吞吐量提高了1.3至1.7倍,显著提升了训练效率和实际应用潜力。
该模型基于混合专家(MoE)架构构建,拥有40层结构。它支持128K令牌的上下文长度,词汇量达129K,标志着京东在人工智能领域迈出了重要一步。
海尔推出全球最轻的人工智能运动外骨骼机器人,重量仅为1.75公斤
海尔集团推出了全球最轻的运动型人工智能外骨骼机器人——海尔外骨骼机器人W3。此次发布创下了行业轻量化新纪录,标志着在轻量化设计和智能人体运动增强领域取得了重大突破。高端材料成就超轻量化设计W3采用创新的一体化制造工艺,融合全碳纤维与钛合金。这种航空级材料组合将总重量控制在仅1.75公斤,实现了轻量化与高强度的完美平衡,展现出极致的机械性能。为提升舒适度,该机器人融入了非牛顿流体材料,触感柔软亲肤,
耀科传媒首部AIGC剧集《秦岭青铜之谜》今日上线,主演均由AI生成
今日,耀科传媒的AIGC奇幻悬疑短剧《秦岭青铜秘闻》正式上线。该剧由公司签约的首批两位AI演员秦凌月和林西妍主演,故事背景设定在神秘的秦岭矿区。 剧中,退役情报官秦月率队深入该区域,揭开了一起尘封已久的矿难真相,以及跨越两代人的血祭之谜——这个真相就隐藏在受限的地下区域,那里是科学探索与古代巫术交汇之地。作为中国最早完全由AI数字人支撑的影视作品之一,该剧在筹备阶段便引发了业界热烈讨论,而关于其A
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“





首页






