創始人說
NVIDIA和合作夥伴在全球範圍內擴展AI數據中心
NVIDIA以及其合作夥伴和客戶一直在積極擴大全球計算機設施的規模,以滿足培訓大規模人工智能(AI)模型(如GPT-4)的高計算需求。 Optical Computing Startup LightMatter的聯合創始人Thomas Graham表示,隨著其他AI模型被部署到生產中,這種擴展將變得更加至關重要。彭博情報公司(Bloomberg Intelligence)的一位高級技術分析師Mandeep Singh最近在紐約接受采訪時,格雷厄姆(Graham)強調了對計算資源的日益增長的需求。
格雷厄姆解釋說:“對更多計算的需求不僅僅是擴展法律;現在還與現在部署這些AI模型有關。”辛格詢問了像GPT-4這樣的大語言模型(LLM)的未來,以及它們是否會繼續增長。作為回應,格雷厄姆將重點轉移到了AI的實際應用,強調了推斷的重要性或需要實質性計算能力的部署階段。
格雷厄姆在“ AI Gen gen:它可以實現生產力承諾可以交付?''彭博情報局主持的會議。
格雷厄姆(Graham)的觀點與NVIDIA首席執行官詹森·黃(Jensen Huang)的觀點相吻合,他強調向華爾街(Wall Street)強調,推進“代理” AI形式不僅需要更複雜的培訓,而且還需要顯著增強推論能力,從而導致計算要求的指數增長。

格雷厄姆說:“如果您將培訓視為研發,推斷確實是部署,並且在部署它時,您將需要大型計算機來運行模型。”照片:彭博,由克雷格·沃加(Craig Warga)提供
LightMatter在AI基礎設施中的作用
LightMatter成立於2018年,是開發芯片技術的最前沿,該技術使用光學連接將單個半導體模具上的多個處理器連接起來。這些光學互連比傳統的銅線更有效地傳輸數據,使用較少的能量。根據Graham的說法,這項技術可以簡化數據中心架之間和之間的連接,從而提高數據中心的整體效率和經濟性。
格雷厄姆告訴辛格:“通過更換數據中心中的銅跡線(在服務器的打印電路板上和機架之間的電纜上都可以替換纖維上的電纜),我們可以顯著增加帶寬的帶寬。” LightMatter目前正在與各種科技公司的新數據中心的設計合作,Graham指出,這些設施是從頭開始構建的。該公司已經與Global Foundries建立了合作夥伴關係,Global Foundries是一家在紐約州北部公司運營的合同半導體製造商,該公司為高級微型設備等客戶提供服務。
儘管格雷厄姆(Graham)除了這次合作之外沒有透露特定的合作夥伴和客戶,但他暗示LightMatter與Broadcom或Marvell等矽提供商合作,為Google,Amazon和Microsoft等技術巨頭創建定制組件,他們設計了自己的數據中心處理器。
AI數據中心的規模和未來
為了說明AI部署的大小,格雷厄姆指出,至少有十二個新的AI數據中心是計劃的,要么正在建設中,每個數據中心都需要吉瓦。他說:“就背景而言,紐約市平均使用了大約五吉瓦的電力。因此,我們談論的是多個紐約城市的功耗。”他預測,到2026年,全球AI處理將需要40吉瓦的權力,相當於紐約八個城市,特別是針對AI數據中心的城市。
LightMatter最近獲得了4億美元的風險投資,其評價為44億美元。格雷厄姆(Graham)提到,該公司的目標是在未來幾年內開始生產。
當被問及對LightMatter計劃的潛在中斷時,Graham對不斷擴大AI計算基礎架構的需求表示信心。但是,他承認,AI算法的突破需要更快地計算或實現人工通用智能(AGI),這可能會挑戰有關當前關於指數計算增長需求的假設。
相關文章
Bob Seger的《Mainstreet》:深入探索深夜懷舊之情
Bob Seger《Mainstreet》的電影式旅程Bob Seger的《Mainstreet》不僅是他經典專輯《Live Bullet》中的一首歌,更是對日落後美國小鎮生活的生動描繪,宛如一部電影。當你聆聽《Mainstreet》時,彷彿置身於一個充滿深夜漫步、撞球廳煙霧瀰漫氛圍的世界,以及沿途可能遇到的迷人女性。這首歌不僅僅關於夜生活,更是對懷舊、孤獨刺痛感的深入探索,以及人們在過往靜謐時光
TechCrunch AI大會3天後伯克利開幕
短短三天後,人工智慧的未來將在加州大學柏克萊分校澤勒巴克廳舉行的《TechCrunch Sessions: AI》活動中閃耀登場。6月5日星期四,這場盛會將匯聚塑造AI發展軌跡的頂尖思想家——共同探索AI的無限可能與應有界限。無論您是正在微調大型語言模型,還是思考倫理邊界,這場活動都將點燃您的好奇心並拓展專業人脈。別錯過這個絕佳機會——我們準備了超值優惠方案
Imagen 4:谷歌最新AI圖像生成器
Google近日發表最新圖像生成AI模型「Imagen 4」,宣稱將為用戶帶來比前代Imagen 3更出色的視覺體驗。本週稍早在Google I/O 2025大會亮相的這款新模型,被譽為在畫質與多樣性方面取得重大突破。Google表示,Imagen 4特別擅長處理織物質感、水珠反光與動物毛髮等精細紋理,同時能輕鬆駕馭寫實與抽象風格。其輸出解析度最高可達2K,
評論 (25)
0/200
FrankClark
2025-04-18 21:31:52
The idea that AI computing might consume power equivalent to multiple NYCs by 2026 is mind-blowing! It's exciting to see Nvidia pushing the boundaries, but also a bit scary thinking about the energy impact. Can't wait to see how this unfolds! 🌍💡
0
GaryGonzalez
2025-04-19 21:09:03
2026年までにAIの計算が複数のニューヨーク市の電力を消費するかもしれないという考えは驚くべきものだ!Nvidiaが境界を押し広げるのを見るのはワクワクするけど、エネルギーへの影響を考えるとちょっと怖い。どうなるか楽しみだね!🌍💡
0
RaymondWalker
2025-04-19 22:32:21
¡La idea de que el cómputo de IA podría consumir energía equivalente a múltiples ciudades de Nueva York para 2026 es alucinante! Es emocionante ver a Nvidia empujando los límites, pero también un poco aterrador pensar en el impacto energético. ¡No puedo esperar a ver cómo se desarrolla esto! 🌍💡
0
JamesGreen
2025-04-19 10:08:23
Die Vorstellung, dass die KI-Rechenleistung bis 2026 Energie verbrauchen könnte, die mehreren New Yorks entspricht, ist umwerfend! Es ist aufregend zu sehen, wie Nvidia die Grenzen verschiebt, aber auch ein bisschen beängstigend, wenn man an den Energieeinfluss denkt. Kann es kaum erwarten zu sehen, wie sich das entwickelt! 🌍💡
0
LarryWilliams
2025-04-18 22:24:22
L'idée que le calcul de l'IA pourrait consommer une puissance équivalente à plusieurs villes de New York d'ici 2026 est hallucinante ! C'est excitant de voir Nvidia repousser les limites, mais aussi un peu effrayant de penser à l'impact énergétique. J'ai hâte de voir comment cela va se dérouler ! 🌍💡
0
TerryYoung
2025-04-20 08:05:08
This AI expansion sounds insane! By 2026, the power consumption could match multiple New York Cities? That's wild! I'm excited to see what kind of AI models they'll be training, but also kinda worried about the environmental impact. Can't wait to see how this pans out! 🤯
0
NVIDIA和合作夥伴在全球範圍內擴展AI數據中心
NVIDIA以及其合作夥伴和客戶一直在積極擴大全球計算機設施的規模,以滿足培訓大規模人工智能(AI)模型(如GPT-4)的高計算需求。 Optical Computing Startup LightMatter的聯合創始人Thomas Graham表示,隨著其他AI模型被部署到生產中,這種擴展將變得更加至關重要。彭博情報公司(Bloomberg Intelligence)的一位高級技術分析師Mandeep Singh最近在紐約接受采訪時,格雷厄姆(Graham)強調了對計算資源的日益增長的需求。
格雷厄姆解釋說:“對更多計算的需求不僅僅是擴展法律;現在還與現在部署這些AI模型有關。”辛格詢問了像GPT-4這樣的大語言模型(LLM)的未來,以及它們是否會繼續增長。作為回應,格雷厄姆將重點轉移到了AI的實際應用,強調了推斷的重要性或需要實質性計算能力的部署階段。
格雷厄姆在“ AI Gen gen:它可以實現生產力承諾可以交付?''彭博情報局主持的會議。
格雷厄姆(Graham)的觀點與NVIDIA首席執行官詹森·黃(Jensen Huang)的觀點相吻合,他強調向華爾街(Wall Street)強調,推進“代理” AI形式不僅需要更複雜的培訓,而且還需要顯著增強推論能力,從而導致計算要求的指數增長。
LightMatter在AI基礎設施中的作用
LightMatter成立於2018年,是開發芯片技術的最前沿,該技術使用光學連接將單個半導體模具上的多個處理器連接起來。這些光學互連比傳統的銅線更有效地傳輸數據,使用較少的能量。根據Graham的說法,這項技術可以簡化數據中心架之間和之間的連接,從而提高數據中心的整體效率和經濟性。
格雷厄姆告訴辛格:“通過更換數據中心中的銅跡線(在服務器的打印電路板上和機架之間的電纜上都可以替換纖維上的電纜),我們可以顯著增加帶寬的帶寬。” LightMatter目前正在與各種科技公司的新數據中心的設計合作,Graham指出,這些設施是從頭開始構建的。該公司已經與Global Foundries建立了合作夥伴關係,Global Foundries是一家在紐約州北部公司運營的合同半導體製造商,該公司為高級微型設備等客戶提供服務。
儘管格雷厄姆(Graham)除了這次合作之外沒有透露特定的合作夥伴和客戶,但他暗示LightMatter與Broadcom或Marvell等矽提供商合作,為Google,Amazon和Microsoft等技術巨頭創建定制組件,他們設計了自己的數據中心處理器。
AI數據中心的規模和未來
為了說明AI部署的大小,格雷厄姆指出,至少有十二個新的AI數據中心是計劃的,要么正在建設中,每個數據中心都需要吉瓦。他說:“就背景而言,紐約市平均使用了大約五吉瓦的電力。因此,我們談論的是多個紐約城市的功耗。”他預測,到2026年,全球AI處理將需要40吉瓦的權力,相當於紐約八個城市,特別是針對AI數據中心的城市。
LightMatter最近獲得了4億美元的風險投資,其評價為44億美元。格雷厄姆(Graham)提到,該公司的目標是在未來幾年內開始生產。
當被問及對LightMatter計劃的潛在中斷時,Graham對不斷擴大AI計算基礎架構的需求表示信心。但是,他承認,AI算法的突破需要更快地計算或實現人工通用智能(AGI),這可能會挑戰有關當前關於指數計算增長需求的假設。




The idea that AI computing might consume power equivalent to multiple NYCs by 2026 is mind-blowing! It's exciting to see Nvidia pushing the boundaries, but also a bit scary thinking about the energy impact. Can't wait to see how this unfolds! 🌍💡




2026年までにAIの計算が複数のニューヨーク市の電力を消費するかもしれないという考えは驚くべきものだ!Nvidiaが境界を押し広げるのを見るのはワクワクするけど、エネルギーへの影響を考えるとちょっと怖い。どうなるか楽しみだね!🌍💡




¡La idea de que el cómputo de IA podría consumir energía equivalente a múltiples ciudades de Nueva York para 2026 es alucinante! Es emocionante ver a Nvidia empujando los límites, pero también un poco aterrador pensar en el impacto energético. ¡No puedo esperar a ver cómo se desarrolla esto! 🌍💡




Die Vorstellung, dass die KI-Rechenleistung bis 2026 Energie verbrauchen könnte, die mehreren New Yorks entspricht, ist umwerfend! Es ist aufregend zu sehen, wie Nvidia die Grenzen verschiebt, aber auch ein bisschen beängstigend, wenn man an den Energieeinfluss denkt. Kann es kaum erwarten zu sehen, wie sich das entwickelt! 🌍💡




L'idée que le calcul de l'IA pourrait consommer une puissance équivalente à plusieurs villes de New York d'ici 2026 est hallucinante ! C'est excitant de voir Nvidia repousser les limites, mais aussi un peu effrayant de penser à l'impact énergétique. J'ai hâte de voir comment cela va se dérouler ! 🌍💡




This AI expansion sounds insane! By 2026, the power consumption could match multiple New York Cities? That's wild! I'm excited to see what kind of AI models they'll be training, but also kinda worried about the environmental impact. Can't wait to see how this pans out! 🤯












