創始人說
輝達與合作夥伴全球擴展AI資料中心
輝達(Nvidia)與其合作夥伴及客戶積極擴大全球電腦設施的規模,以滿足訓練如GPT-4等大型人工智慧(AI)模型的高運算需求。隨著更多AI模型投入實際應用,這種擴展將變得更加重要,光學運算新創公司Lightmatter的共同創辦人Thomas Graham表示。在紐約與彭博情報(Bloomberg Intelligence)資深科技分析師Mandeep Singh的近期訪談中,Graham強調了對運算資源日益增長的需求。
Graham解釋道:「對更多運算的需求不僅關乎規模法則,還涉及現在部署這些AI模型。」Singh詢問了像GPT-4這樣的大型語言模型(LLMs)的未來,以及它們是否會繼續擴大規模。Graham將焦點轉向AI的實際應用,強調推論(inferencing)或部署階段的重要性,這需要大量的運算能力。
Graham在彭博情報主辦的「生成式AI:能否實現生產力承諾?」會議上表示:「如果你將訓練視為研發,推論實際上就是部署。當你進行部署時,你將需要大規模的電腦來運行你的模型。」
Graham的觀點與輝達執行長Jensen Huang一致,後者向華爾街強調,推進「代理型」AI形式不僅需要更複雜的訓練,還需要顯著增強的推論能力,這將導致運算需求的指數級增長。

Graham說:「如果你將訓練視為研發,推論實際上是部署,當你進行部署時,你將需要大型電腦來運行你的模型。」照片:彭博,Craig Warga提供 Lightmatter在AI基礎設施中的角色
Lightmatter成立於2018年,專注於開發使用光學連接的晶片技術,將多個處理器連接在單一半導體晶片上。這些光學互連比傳統銅線更高效地傳輸資料,耗能更少。Graham表示,這項技術可以簡化資料中心機架內部及機架之間的連接,提升資料中心的整體效率與經濟性。
Graham對Singh表示:「通過將資料中心中的銅線路徑——包括伺服器印刷電路板上及機架間的電纜——替換為光纖,我們可以大幅增加頻寬。」Lightmatter目前正與多家科技公司合作設計新的資料中心,Graham指出,這些設施正從頭開始建造。該公司已與位於紐約上州的合約半導體製造商Global Foundries建立合作關係,後者服務於如Advanced Micro Devices等客戶。
雖然Graham未透露除此之外的具體合作夥伴與客戶,但他暗示Lightmatter與如Broadcom或Marvell等矽供應商合作,為Google、Amazon和Microsoft等設計自家資料中心處理器的科技巨頭打造客製化組件。
AI資料中心的規模與未來
為說明AI部署的規模,Graham指出,至少有十二個新的AI資料中心正在規劃或建設中,每個都需要一吉瓦(gigawatt)的電力。他說:「為了提供背景資料,紐約市平均每天使用大約五吉瓦的電力。因此,我們談論的是多個紐約市的電力消耗。」他預測,到2026年,全球AI處理將需要40吉瓦的電力,相當於八個紐約市,專門用於AI資料中心。
Lightmatter最近獲得4億美元的風險投資,估值達44億美元。Graham提到,公司計劃在「未來幾年」開始生產。
當被問及可能對Lightmatter計劃造成干擾的因素時,Graham對持續擴展AI運算基礎設施的需求表示信心。然而,他承認,如果AI演算法取得突破,顯著減少運算需求或更快實現人工通用智慧(AGI),可能會挑戰當前對運算需求指數級增長的假設。
相關文章
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
Anthropic 將 Claude AI 編碼工具擴充套件至日本,以推動海外增長
Anthropic,一家美國知名的人工智慧公司,正加強其全球推廣力度。週三,該公司在東京舉辦了一場大型開發者活動“Code with Claude”,吸引了近500名軟體工程師參加。該舉措旨在積極將Claude AI工具及相關產品引入日本市場,強調其自主編碼能力在提升企業生產力方面的核心優勢。強調自動化程式碼生成在活動中,Anthropic展示了其先進的自主編碼系統,該系統能夠獨立處理複雜的程式設計任務並最佳化現有程式碼結構。隨著全球對高效開發工具的需求不斷增長,Anthropic希望透過此類活動加強
相關專題推薦
評論 (37)
0/500
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。
輝達與合作夥伴全球擴展AI資料中心
輝達(Nvidia)與其合作夥伴及客戶積極擴大全球電腦設施的規模,以滿足訓練如GPT-4等大型人工智慧(AI)模型的高運算需求。隨著更多AI模型投入實際應用,這種擴展將變得更加重要,光學運算新創公司Lightmatter的共同創辦人Thomas Graham表示。在紐約與彭博情報(Bloomberg Intelligence)資深科技分析師Mandeep Singh的近期訪談中,Graham強調了對運算資源日益增長的需求。
Graham解釋道:「對更多運算的需求不僅關乎規模法則,還涉及現在部署這些AI模型。」Singh詢問了像GPT-4這樣的大型語言模型(LLMs)的未來,以及它們是否會繼續擴大規模。Graham將焦點轉向AI的實際應用,強調推論(inferencing)或部署階段的重要性,這需要大量的運算能力。
Graham在彭博情報主辦的「生成式AI:能否實現生產力承諾?」會議上表示:「如果你將訓練視為研發,推論實際上就是部署。當你進行部署時,你將需要大規模的電腦來運行你的模型。」
Graham的觀點與輝達執行長Jensen Huang一致,後者向華爾街強調,推進「代理型」AI形式不僅需要更複雜的訓練,還需要顯著增強的推論能力,這將導致運算需求的指數級增長。

Lightmatter在AI基礎設施中的角色
Lightmatter成立於2018年,專注於開發使用光學連接的晶片技術,將多個處理器連接在單一半導體晶片上。這些光學互連比傳統銅線更高效地傳輸資料,耗能更少。Graham表示,這項技術可以簡化資料中心機架內部及機架之間的連接,提升資料中心的整體效率與經濟性。
Graham對Singh表示:「通過將資料中心中的銅線路徑——包括伺服器印刷電路板上及機架間的電纜——替換為光纖,我們可以大幅增加頻寬。」Lightmatter目前正與多家科技公司合作設計新的資料中心,Graham指出,這些設施正從頭開始建造。該公司已與位於紐約上州的合約半導體製造商Global Foundries建立合作關係,後者服務於如Advanced Micro Devices等客戶。
雖然Graham未透露除此之外的具體合作夥伴與客戶,但他暗示Lightmatter與如Broadcom或Marvell等矽供應商合作,為Google、Amazon和Microsoft等設計自家資料中心處理器的科技巨頭打造客製化組件。
AI資料中心的規模與未來
為說明AI部署的規模,Graham指出,至少有十二個新的AI資料中心正在規劃或建設中,每個都需要一吉瓦(gigawatt)的電力。他說:「為了提供背景資料,紐約市平均每天使用大約五吉瓦的電力。因此,我們談論的是多個紐約市的電力消耗。」他預測,到2026年,全球AI處理將需要40吉瓦的電力,相當於八個紐約市,專門用於AI資料中心。
Lightmatter最近獲得4億美元的風險投資,估值達44億美元。Graham提到,公司計劃在「未來幾年」開始生產。
當被問及可能對Lightmatter計劃造成干擾的因素時,Graham對持續擴展AI運算基礎設施的需求表示信心。然而,他承認,如果AI演算法取得突破,顯著減少運算需求或更快實現人工通用智慧(AGI),可能會挑戰當前對運算需求指數級增長的假設。
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
Anthropic 將 Claude AI 編碼工具擴充套件至日本,以推動海外增長
Anthropic,一家美國知名的人工智慧公司,正加強其全球推廣力度。週三,該公司在東京舉辦了一場大型開發者活動“Code with Claude”,吸引了近500名軟體工程師參加。該舉措旨在積極將Claude AI工具及相關產品引入日本市場,強調其自主編碼能力在提升企業生產力方面的核心優勢。強調自動化程式碼生成在活動中,Anthropic展示了其先進的自主編碼系統,該系統能夠獨立處理複雜的程式設計任務並最佳化現有程式碼結構。隨著全球對高效開發工具的需求不斷增長,Anthropic希望透過此類活動加強
So we're basically trading human brainpower for literal power plants? AI is cool but the energy cost is insane. 😅
Holy crap, that's a lot of juice! 😅 I knew AI training was power-hungry, but comparing it to multiple NYC's worth of electricity by 2026 really puts it in perspective. Are we just gonna ignore the environmental cost while chasing bigger models? Hope Nvidia's got some efficiency tricks up their sleeves...
So AI's energy consumption might outpace entire cities? 😳 That puts the 'cost' of innovation into a whole new perspective. Will there be a breakthrough in energy-efficient hardware soon, or are we just betting on renewable energy scaling fast enough?
Wow, Energieverbrauch wie mehrere New Yorks bis 2026? Das ist krass. Die AI-Boom ist ja mega spannend, aber wenn Data Center bald mehr Strom als Länder fressen... irgendwie gruselig. Macht man sich Gedanken über Klima und ob das wirklich nachhaltig ist. 🤔 Hoffentlich forscht man auch an effizienteren Lösungen, sonst knallt's.
AIの消費電力がニューヨーク市全体を超えるなんて…技術革新と環境負荷のバランスが気になりますね。電力を食い尽くす前に再生可能エネルギーへの移行が必要では?🌍 日本でもAIデータセンターの増設が進んでいますが、電力問題は他人事じゃないです。





首頁






