富士通的 PHOTON 架構將 AI 效能提升 475 倍,並解決運算瓶頸
隨著大型模型持續快速演進,運算成本與處理效率仍是業界關注的關鍵議題。富士通近期推出了一種名為 PHOTON(自上而下網路平行分層運算)的創新架構,旨在克服傳統 Transformer 模型在複雜情境下的效能限制。
目前在人工智慧領域佔主導地位的 Transformer 架構,雖能妥善處理長篇文本或高並發的多查詢任務,但往往因頻繁存取記憶體以檢索歷史資訊而導致速度變慢,進而增加 GPU 的工作負載。富士通的研究團隊透過重新構思 PHOTON 架構的設計,解決了這個痛點。

PHOTON 的核心優勢在於其分層處理方法。 與傳統 Transformer 採用的標記級分割不同,PHOTON 引入了語義分層機制,在降低運算複雜度的同時,也提升了並行運算效率。此外,針對多查詢任務,該架構簡化了決策流程:僅需單次推論即可得出結論,並採用「多數決」或「最佳選擇」策略。
測試結果顯示,在參數數為 6 億、9 億及 12 億的小型模型中,PHOTON 不僅能提供極高的吞吐量,記憶體佔用率也極低。 在 12 億參數的模型中,其多查詢效能達到主流 Transformer 架構的 475 倍,顯著提升了資源調度效率。
由於此架構在每次迭代中所需的 KV 快取較少,系統因此能處理更多迭代次數。這對於管理大量 I/O 流程的智慧代理系統而言,是一項重大的效能提升。儘管某些品質指標出現輕微的取捨,但 PHOTON 在運算效率上的飛躍性進步,使其成為降低 AI 營運成本的一項極具潛力的技術解決方案。
富士通目前正積極推廣該架構的應用,旨在透過核心演算法的創新,為未來的智慧型應用場景提供更輕量、更高效的底層支援。
相關文章
中興通訊與騰訊Forge AI建立雲合作伙伴關係,推出原生工作助手
中興通訊在北京舉辦了AI雲電腦體驗日,宣佈與騰訊達成戰略合作,推出搭載騰訊“騰訊工作夥伴”(Work Buddy)的全新AI雲電腦。市場反應迅速:6月4日,中興通訊A股股價上漲超過5%,達到38.5元;H股最高漲幅接近8%,報29.12港元,顯示出投資者對該聯合AI生態擴充套件的強烈信心。此次合作的核心在於深度的軟硬體整合。中興通訊依託其雲基礎設施和終端計算能力,整合了騰訊的“騰訊工作夥伴”,以增強智慧辦公和多模態互動功能。這一舉措推進了中興通訊的AI終端戰略,並加速了大模型應用從雲端向專用裝置轉移
永珍聲聲推出低成本AI有聲書工具,每萬字成本不足8元
萬莊有聲在公測兩個月後,正式推出其自動化生產系統“全自動AI多角色有聲書製作”,該功能在內部測試階段已贏得版權方的青睞。由“懶人聽書”核心團隊打造的AI音訊內容平臺,於6月初完成了這一戰略功能的公測。其核心在於結合經過驗證的AI能力——智慧章節拆分、角色分析、劇本生成、多角色配音以及後期合成——由任務引擎統籌排程,構建起一條能夠“無人值守”執行的自動化數字音訊生產線。這並非一個獨立產品,而是平臺“雙軌制生產引擎”戰略的實際應用。它與萬莊有聲現有的專業創作工作臺共享相同的技術基礎設施,但以全自動模
如何修復核心網頁指標以最佳化 SEO 排名
如何利用 AI 和 Google Sites 構建精美網站目錄:簡介掌握使用 Google Sites 進行網頁設計與建立人工智慧在現代網頁設計中的作用使用 Google 模板構建網站利用 Micro 等 AI 工具進行設計使用 ChatGPT 生成內容與文案利用自然語言生成建立標語獲取免版稅圖片使用影象轉換器增強圖形效果確保移動端的響應式設計本指南探討了如何結合 Google Sites 和強大的人工智慧 (AI) 工具來設計和釋出網頁。我們將研究各種能夠提升您設計專案
相關專題推薦
評論 (0)
0/500
隨著大型模型持續快速演進,運算成本與處理效率仍是業界關注的關鍵議題。富士通近期推出了一種名為 PHOTON(自上而下網路平行分層運算)的創新架構,旨在克服傳統 Transformer 模型在複雜情境下的效能限制。
目前在人工智慧領域佔主導地位的 Transformer 架構,雖能妥善處理長篇文本或高並發的多查詢任務,但往往因頻繁存取記憶體以檢索歷史資訊而導致速度變慢,進而增加 GPU 的工作負載。富士通的研究團隊透過重新構思 PHOTON 架構的設計,解決了這個痛點。

PHOTON 的核心優勢在於其分層處理方法。 與傳統 Transformer 採用的標記級分割不同,PHOTON 引入了語義分層機制,在降低運算複雜度的同時,也提升了並行運算效率。此外,針對多查詢任務,該架構簡化了決策流程:僅需單次推論即可得出結論,並採用「多數決」或「最佳選擇」策略。
測試結果顯示,在參數數為 6 億、9 億及 12 億的小型模型中,PHOTON 不僅能提供極高的吞吐量,記憶體佔用率也極低。 在 12 億參數的模型中,其多查詢效能達到主流 Transformer 架構的 475 倍,顯著提升了資源調度效率。
由於此架構在每次迭代中所需的 KV 快取較少,系統因此能處理更多迭代次數。這對於管理大量 I/O 流程的智慧代理系統而言,是一項重大的效能提升。儘管某些品質指標出現輕微的取捨,但 PHOTON 在運算效率上的飛躍性進步,使其成為降低 AI 營運成本的一項極具潛力的技術解決方案。
富士通目前正積極推廣該架構的應用,旨在透過核心演算法的創新,為未來的智慧型應用場景提供更輕量、更高效的底層支援。
中興通訊與騰訊Forge AI建立雲合作伙伴關係,推出原生工作助手
中興通訊在北京舉辦了AI雲電腦體驗日,宣佈與騰訊達成戰略合作,推出搭載騰訊“騰訊工作夥伴”(Work Buddy)的全新AI雲電腦。市場反應迅速:6月4日,中興通訊A股股價上漲超過5%,達到38.5元;H股最高漲幅接近8%,報29.12港元,顯示出投資者對該聯合AI生態擴充套件的強烈信心。此次合作的核心在於深度的軟硬體整合。中興通訊依託其雲基礎設施和終端計算能力,整合了騰訊的“騰訊工作夥伴”,以增強智慧辦公和多模態互動功能。這一舉措推進了中興通訊的AI終端戰略,並加速了大模型應用從雲端向專用裝置轉移
如何修復核心網頁指標以最佳化 SEO 排名
如何利用 AI 和 Google Sites 構建精美網站目錄:簡介掌握使用 Google Sites 進行網頁設計與建立人工智慧在現代網頁設計中的作用使用 Google 模板構建網站利用 Micro 等 AI 工具進行設計使用 ChatGPT 生成內容與文案利用自然語言生成建立標語獲取免版稅圖片使用影象轉換器增強圖形效果確保移動端的響應式設計本指南探討了如何結合 Google Sites 和強大的人工智慧 (AI) 工具來設計和釋出網頁。我們將研究各種能夠提升您設計專案





首頁






