如何擴展大型模型:楊志林在 GTC 上的策略——關於標記效率與代理叢集

邁向大型模型時代下半場的關鍵,不再僅僅是擴展運算能力,而是對底層架構進行根本性的重新思考。
3月18日,在NVIDIA GTC 2026大會上,Moonshot AI創辦人楊志林發表了備受矚目的主題演講。這是他首次向公眾全面闡述Kimi K2.5 模型背後的核心技術路線圖,為「後擴展」時代的大型模型演進提供了嶄新視角。
楊志林指出,要突破當前的智能極限,必須徹底重構優化器、注意力機制及殘差連接等關鍵技術。他將 Kimi 的演進歸納為三個相互協同的維度:
標記效率:消除資源浪費,追求更極致的運算效能比。
長上下文:持續深化 Kimi 的長上下文記憶優勢,以處理海量規模的資訊。
代理群集:智慧正從單一代理演進為動態生成的「數位群集」。
在楊志林看來,擴展性(scaling)如今已演變為在效率、記憶與自動化協作中尋求規模效應。若能將這三個維度的收益相乘,將能解鎖遠超當前能力的智慧層級。
根據先前公告,一月初推出的 Kimi K2.5 模型已展現出這種「全方位」能力。作為 Moonshot AI 迄今最強大的開源模型,它具備原生多模態架構,在程式碼與視覺理解方面達到最先進(SOTA)水準,並支援在「思考」與「非思考」模式間靈活切換,以精準適應基於代理人的任務。
隨著 Moonshot AI 的技術路徑日趨清晰,大型模型的競爭焦點正從「參數數量」轉向「智能密度」。隨著代理群集(agent clusters)浮現為未來智能的潛在終極形態,Kimi 能否在楊志林的「三維乘法」框架下實現突破,已成為業界關注的關鍵焦點。
相關文章
解讀新的 ETSI 人工智慧安全標準
ETSI EN 304 223 制定了人工智慧的基礎安全要求,各組織應將其納入其治理架構之中。隨著企業將機器學習整合至核心工作流程,這項歐洲標準針對保護 AI 模型與系統提供了具體規範。這是首項適用於全球的 AI 網路安全歐洲標準,並已獲各國國家標準組織正式批准,這進一步鞏固了其在國際市場上的公信力。作為《歐盟人工智慧法案》的補充性基準,本標準承認人工智慧系統存在獨特風險——包括資料中毒、模型混淆
Gmail 推出個人化 AI 收件匣、搜尋中的 AI 摘要等功能
Google 為 Gmail 推出了一款由 AI 驅動的新收件匣,能為您提供任務的個人化概覽,並讓您隨時掌握重要更新。此外,Gmail 還將在搜尋功能中推出 AI 概覽,並推出一款類似 Grammarly 的校對工具。先前僅限付費訂閱者使用的多項 AI 功能,現已開放給所有使用者使用。新的 AI 收件匣分頁包含兩個區塊:「建議待辦事項」與「待追蹤主題」。 第一個區塊會顯示需要採取行動的高優先級電子
首個山東百度AI漫畫劇集創作基地在淄博正式啟動
4月27日,山東省在淄博師範學院正式啟動了該省首個「百度AI漫畫劇創作基地」,標誌著該省在數位文化創作領域邁出了重要一步。該基地開啟了校企合作的新篇章,旨在透過AI技術與文化創作教育的深度融合,探索培育數位文化創作人才的創新模式。在揭牌儀式上,校方代表強調,該基地將作為創新人才培育及深化政校企合作的重要平台。 展望未來,該校計劃將真實的專案案例引入課堂,擺脫傳統教學方法,建立一個完整的專案式教學循
相關專題推薦
評論 (0)
0/500

邁向大型模型時代下半場的關鍵,不再僅僅是擴展運算能力,而是對底層架構進行根本性的重新思考。
3月18日,在NVIDIA GTC 2026大會上,Moonshot AI創辦人楊志林發表了備受矚目的主題演講。這是他首次向公眾全面闡述
楊志林指出,要突破當前的智能極限,必須徹底重構優化器、注意力機制及殘差連接等關鍵技術。他將 Kimi 的演進歸納為三個相互協同的維度:
標記效率:消除資源浪費,追求更極致的運算效能比。
長上下文:持續深化 Kimi 的長上下文記憶優勢,以處理海量規模的資訊。
代理群集:智慧正從單一代理演進為動態生成的「數位群集」。
在楊志林看來,擴展性(scaling)如今已演變為在效率、記憶與自動化協作中尋求規模效應。若能將這三個維度的收益相乘,將能解鎖遠超當前能力的智慧層級。
根據先前公告,一月初推出的 Kimi K2.5 模型已展現出這種「全方位」能力。作為 Moonshot AI 迄今最強大的開源模型,它具備原生多模態架構,在程式碼與視覺理解方面達到最先進(SOTA)水準,並支援在「思考」與「非思考」模式間靈活切換,以精準適應基於代理人的任務。
隨著 Moonshot AI 的技術路徑日趨清晰,大型模型的競爭焦點正從「參數數量」轉向「智能密度」。隨著代理群集(agent clusters)浮現為未來智能的潛在終極形態,
解讀新的 ETSI 人工智慧安全標準
ETSI EN 304 223 制定了人工智慧的基礎安全要求,各組織應將其納入其治理架構之中。隨著企業將機器學習整合至核心工作流程,這項歐洲標準針對保護 AI 模型與系統提供了具體規範。這是首項適用於全球的 AI 網路安全歐洲標準,並已獲各國國家標準組織正式批准,這進一步鞏固了其在國際市場上的公信力。作為《歐盟人工智慧法案》的補充性基準,本標準承認人工智慧系統存在獨特風險——包括資料中毒、模型混淆
Gmail 推出個人化 AI 收件匣、搜尋中的 AI 摘要等功能
Google 為 Gmail 推出了一款由 AI 驅動的新收件匣,能為您提供任務的個人化概覽,並讓您隨時掌握重要更新。此外,Gmail 還將在搜尋功能中推出 AI 概覽,並推出一款類似 Grammarly 的校對工具。先前僅限付費訂閱者使用的多項 AI 功能,現已開放給所有使用者使用。新的 AI 收件匣分頁包含兩個區塊:「建議待辦事項」與「待追蹤主題」。 第一個區塊會顯示需要採取行動的高優先級電子
首個山東百度AI漫畫劇集創作基地在淄博正式啟動
4月27日,山東省在淄博師範學院正式啟動了該省首個「百度AI漫畫劇創作基地」,標誌著該省在數位文化創作領域邁出了重要一步。該基地開啟了校企合作的新篇章,旨在透過AI技術與文化創作教育的深度融合,探索培育數位文化創作人才的創新模式。在揭牌儀式上,校方代表強調,該基地將作為創新人才培育及深化政校企合作的重要平台。 展望未來,該校計劃將真實的專案案例引入課堂,擺脫傳統教學方法,建立一個完整的專案式教學循





首頁






