京東推出 JoyAI-LLM-Flash 模型,推動人工智慧發展

京東於 2 月 14 日在 Hugging Face 平台上公開了其最新的大型語言模型 JoyAI-LLM-Flash。該模型擁有總計 48 億個參數,其中 30 億個在推論過程中被激活。它基於 20 兆個文本令牌進行預訓練,在理解當代知識、邏輯推理及程式設計任務方面展現出強大的能力。
JoyAI-LLM-Flash採用創新的FiberPO優化框架,該框架將纖維束理論融入強化的學習中。結合Muon優化器與密集多令牌預測(MTP)技術,此方法有效解決了傳統模型擴展時常見的不穩定性挑戰。相較於未採用MTP的版本,其吞吐量提升了1.3至1.7倍,顯著提高了訓練效率與實際應用潛力。
該模型基於混合專家(MoE)架構,具備 40 個層級。其支援 128K 令牌的上下文長度,詞彙量達 129K,標誌著京東在人工智慧領域邁出了重要一步。
相關文章
小紅書組織重整:柯南出任總裁,成立 AI 主業務部門 Dots 及海外事業部 Rednote
4月30日,小紅書向全體員工發佈內部通告,宣布啟動新一輪組織架構調整。此次變革的核心在於將社群、電商和商業化三大業務線,與公司的技術系統全面整合。 公司新設了名為「Dots」的「AI優先」部門,此舉標誌著小紅書已正式將人工智慧提升為最高戰略優先事項,旨在使其從工具型功能轉型為核心生產力。在人事任命方面,南(丁玲)獲任命為小紅書總裁,負責公司核心業務營運,並直接向執行長邢宇匯報。 各業務領域的負責人
騰訊旗下《小龍夏》表現超乎預期,團隊將伺服器容量擴增10倍,並公開致歉及提供補償
騰訊正式推出全場景AI智能助手「WorkBuddy」,憑藉高度整合與低部署門檻,標誌著大型模型應用層競賽進入新階段。該產品在發布當天便立即引起業界關注。 用戶流量遠超預期,導致相關的騰雲代碼助手(CodeBuddy)出現登入問題及服務不穩定。騰雲團隊隨後發布致歉聲明,表示技術團隊已緊急將容量擴展十倍,目前服務已全面恢復。受影響用戶獲得 5,000 點代碼點數作為補償。業界觀察家將 WorkBudd
Suno 領投方:刪除貼文無法彌補版權訴訟的漏洞
備受矚目的 AI 音樂生成平台 Suno 正面臨一場艱難的版權之爭,而其主要投資人的坦率言論,可能正好提供了對方所期盼的證據。 Menlo Ventures(Suno的核心投資者)合夥人C.C. Gong最近刪除了一則推文,該推文與該公司當前的法律辯護策略直接相悖。在之前的版權訴訟中,Suno 的辯護主要依賴「合理使用」的論點,聲稱 AI 生成的音樂僅僅是一種「工具」,不會直接與受版權保護的原創作
相關專題推薦
評論 (1)
0/500

京東於 2 月 14 日在 Hugging Face 平台上公開了其最新的大型語言模型 JoyAI-LLM-Flash。該模型擁有總計 48 億個參數,其中 30 億個在推論過程中被激活。它基於 20 兆個文本令牌進行預訓練,在理解當代知識、邏輯推理及程式設計任務方面展現出強大的能力。
JoyAI-LLM-Flash採用創新的FiberPO優化框架,該框架將纖維束理論融入強化的學習中。結合Muon優化器與密集多令牌預測(MTP)技術,此方法有效解決了傳統模型擴展時常見的不穩定性挑戰。相較於未採用MTP的版本,其吞吐量提升了1.3至1.7倍,顯著提高了訓練效率與實際應用潛力。
該模型基於混合專家(MoE)架構,具備 40 個層級。其支援 128K 令牌的上下文長度,詞彙量達 129K,標誌著京東在人工智慧領域邁出了重要一步。
小紅書組織重整:柯南出任總裁,成立 AI 主業務部門 Dots 及海外事業部 Rednote
4月30日,小紅書向全體員工發佈內部通告,宣布啟動新一輪組織架構調整。此次變革的核心在於將社群、電商和商業化三大業務線,與公司的技術系統全面整合。 公司新設了名為「Dots」的「AI優先」部門,此舉標誌著小紅書已正式將人工智慧提升為最高戰略優先事項,旨在使其從工具型功能轉型為核心生產力。在人事任命方面,南(丁玲)獲任命為小紅書總裁,負責公司核心業務營運,並直接向執行長邢宇匯報。 各業務領域的負責人
騰訊旗下《小龍夏》表現超乎預期,團隊將伺服器容量擴增10倍,並公開致歉及提供補償
騰訊正式推出全場景AI智能助手「WorkBuddy」,憑藉高度整合與低部署門檻,標誌著大型模型應用層競賽進入新階段。該產品在發布當天便立即引起業界關注。 用戶流量遠超預期,導致相關的騰雲代碼助手(CodeBuddy)出現登入問題及服務不穩定。騰雲團隊隨後發布致歉聲明,表示技術團隊已緊急將容量擴展十倍,目前服務已全面恢復。受影響用戶獲得 5,000 點代碼點數作為補償。業界觀察家將 WorkBudd
Suno 領投方:刪除貼文無法彌補版權訴訟的漏洞
備受矚目的 AI 音樂生成平台 Suno 正面臨一場艱難的版權之爭,而其主要投資人的坦率言論,可能正好提供了對方所期盼的證據。 Menlo Ventures(Suno的核心投資者)合夥人C.C. Gong最近刪除了一則推文,該推文與該公司當前的法律辯護策略直接相悖。在之前的版權訴訟中,Suno 的辯護主要依賴「合理使用」的論點,聲稱 AI 生成的音樂僅僅是一種「工具」,不會直接與受版權保護的原創作





首頁






