創始人說
2025年04月18日
StevenHill
88
NVIDIA和合作夥伴在全球範圍內擴展AI數據中心
NVIDIA以及其合作夥伴和客戶一直在積極擴大全球計算機設施的規模,以滿足培訓大規模人工智能(AI)模型(如GPT-4)的高計算需求。 Optical Computing Startup LightMatter的聯合創始人Thomas Graham表示,隨著其他AI模型被部署到生產中,這種擴展將變得更加至關重要。彭博情報公司(Bloomberg Intelligence)的一位高級技術分析師Mandeep Singh最近在紐約接受采訪時,格雷厄姆(Graham)強調了對計算資源的日益增長的需求。
格雷厄姆解釋說:“對更多計算的需求不僅僅是擴展法律;現在還與現在部署這些AI模型有關。”辛格詢問了像GPT-4這樣的大語言模型(LLM)的未來,以及它們是否會繼續增長。作為回應,格雷厄姆將重點轉移到了AI的實際應用,強調了推斷的重要性或需要實質性計算能力的部署階段。
格雷厄姆在“ AI Gen gen:它可以實現生產力承諾可以交付?''彭博情報局主持的會議。
格雷厄姆(Graham)的觀點與NVIDIA首席執行官詹森·黃(Jensen Huang)的觀點相吻合,他強調向華爾街(Wall Street)強調,推進“代理” AI形式不僅需要更複雜的培訓,而且還需要顯著增強推論能力,從而導致計算要求的指數增長。

格雷厄姆說:“如果您將培訓視為研發,推斷確實是部署,並且在部署它時,您將需要大型計算機來運行模型。”照片:彭博,由克雷格·沃加(Craig Warga)提供
LightMatter在AI基礎設施中的作用
LightMatter成立於2018年,是開發芯片技術的最前沿,該技術使用光學連接將單個半導體模具上的多個處理器連接起來。這些光學互連比傳統的銅線更有效地傳輸數據,使用較少的能量。根據Graham的說法,這項技術可以簡化數據中心架之間和之間的連接,從而提高數據中心的整體效率和經濟性。
格雷厄姆告訴辛格:“通過更換數據中心中的銅跡線(在服務器的打印電路板上和機架之間的電纜上都可以替換纖維上的電纜),我們可以顯著增加帶寬的帶寬。” LightMatter目前正在與各種科技公司的新數據中心的設計合作,Graham指出,這些設施是從頭開始構建的。該公司已經與Global Foundries建立了合作夥伴關係,Global Foundries是一家在紐約州北部公司運營的合同半導體製造商,該公司為高級微型設備等客戶提供服務。
儘管格雷厄姆(Graham)除了這次合作之外沒有透露特定的合作夥伴和客戶,但他暗示LightMatter與Broadcom或Marvell等矽提供商合作,為Google,Amazon和Microsoft等技術巨頭創建定制組件,他們設計了自己的數據中心處理器。
AI數據中心的規模和未來
為了說明AI部署的大小,格雷厄姆指出,至少有十二個新的AI數據中心是計劃的,要么正在建設中,每個數據中心都需要吉瓦。他說:“就背景而言,紐約市平均使用了大約五吉瓦的電力。因此,我們談論的是多個紐約城市的功耗。”他預測,到2026年,全球AI處理將需要40吉瓦的權力,相當於紐約八個城市,特別是針對AI數據中心的城市。
LightMatter最近獲得了4億美元的風險投資,其評價為44億美元。格雷厄姆(Graham)提到,該公司的目標是在未來幾年內開始生產。
當被問及對LightMatter計劃的潛在中斷時,Graham對不斷擴大AI計算基礎架構的需求表示信心。但是,他承認,AI算法的突破需要更快地計算或實現人工通用智能(AGI),這可能會挑戰有關當前關於指數計算增長需求的假設。
相關文章
AI音樂封面:Kabhi Jo Baadal Barse以Taehyung為特色
如果您是音樂愛好者,您可能會聽說過該行業中最新的嗡嗡聲:AI生成的音樂封面。想像一下,聽到您最喜歡的曲調,但是以您欣賞的藝術家的嗓音,所有這些都是由人工智能製作的。一個傑出的例子是“ Kabhi Jo Baadal Barse”的AI封面,REI
AI驅動的視覺小說夜幕降臨的第四章揭示了
歡迎回到夜幕降臨的世界,在那裡,AI驅動的講故事編織了幻想,聲音表演和意外的跨界掛毯。在最新一章中,我們遵循邁克·瓦佐夫斯基(Mike Wazowski)的古怪不幸經歷,他冒險通過一個神秘的領域尋找盟友。為聖
AI營銷自動化:提高收入而無需僱用更多員工
2025年,您渴望改變營銷方法並看到您的收入飆升而不僱用更多員工,從而徹底改變了您的營銷策略?在2025年,人工智能正在重塑企業的運作和擴展方式。是時候研究AI營銷自動化並發現
評論 (20)
0/200
FrankClark
2025年04月18日 13:31:52
The idea that AI computing might consume power equivalent to multiple NYCs by 2026 is mind-blowing! It's exciting to see Nvidia pushing the boundaries, but also a bit scary thinking about the energy impact. Can't wait to see how this unfolds! 🌍💡
0
GaryGonzalez
2025年04月19日 13:09:03
2026年までにAIの計算が複数のニューヨーク市の電力を消費するかもしれないという考えは驚くべきものだ!Nvidiaが境界を押し広げるのを見るのはワクワクするけど、エネルギーへの影響を考えるとちょっと怖い。どうなるか楽しみだね!🌍💡
0
RaymondWalker
2025年04月19日 14:32:21
¡La idea de que el cómputo de IA podría consumir energía equivalente a múltiples ciudades de Nueva York para 2026 es alucinante! Es emocionante ver a Nvidia empujando los límites, pero también un poco aterrador pensar en el impacto energético. ¡No puedo esperar a ver cómo se desarrolla esto! 🌍💡
0
JamesGreen
2025年04月19日 02:08:23
Die Vorstellung, dass die KI-Rechenleistung bis 2026 Energie verbrauchen könnte, die mehreren New Yorks entspricht, ist umwerfend! Es ist aufregend zu sehen, wie Nvidia die Grenzen verschiebt, aber auch ein bisschen beängstigend, wenn man an den Energieeinfluss denkt. Kann es kaum erwarten zu sehen, wie sich das entwickelt! 🌍💡
0
LarryWilliams
2025年04月18日 14:24:22
L'idée que le calcul de l'IA pourrait consommer une puissance équivalente à plusieurs villes de New York d'ici 2026 est hallucinante ! C'est excitant de voir Nvidia repousser les limites, mais aussi un peu effrayant de penser à l'impact énergétique. J'ai hâte de voir comment cela va se dérouler ! 🌍💡
0
TerryYoung
2025年04月20日 00:05:08
This AI expansion sounds insane! By 2026, the power consumption could match multiple New York Cities? That's wild! I'm excited to see what kind of AI models they'll be training, but also kinda worried about the environmental impact. Can't wait to see how this pans out! 🤯
0






NVIDIA和合作夥伴在全球範圍內擴展AI數據中心
NVIDIA以及其合作夥伴和客戶一直在積極擴大全球計算機設施的規模,以滿足培訓大規模人工智能(AI)模型(如GPT-4)的高計算需求。 Optical Computing Startup LightMatter的聯合創始人Thomas Graham表示,隨著其他AI模型被部署到生產中,這種擴展將變得更加至關重要。彭博情報公司(Bloomberg Intelligence)的一位高級技術分析師Mandeep Singh最近在紐約接受采訪時,格雷厄姆(Graham)強調了對計算資源的日益增長的需求。
格雷厄姆解釋說:“對更多計算的需求不僅僅是擴展法律;現在還與現在部署這些AI模型有關。”辛格詢問了像GPT-4這樣的大語言模型(LLM)的未來,以及它們是否會繼續增長。作為回應,格雷厄姆將重點轉移到了AI的實際應用,強調了推斷的重要性或需要實質性計算能力的部署階段。
格雷厄姆在“ AI Gen gen:它可以實現生產力承諾可以交付?''彭博情報局主持的會議。
格雷厄姆(Graham)的觀點與NVIDIA首席執行官詹森·黃(Jensen Huang)的觀點相吻合,他強調向華爾街(Wall Street)強調,推進“代理” AI形式不僅需要更複雜的培訓,而且還需要顯著增強推論能力,從而導致計算要求的指數增長。
LightMatter在AI基礎設施中的作用
LightMatter成立於2018年,是開發芯片技術的最前沿,該技術使用光學連接將單個半導體模具上的多個處理器連接起來。這些光學互連比傳統的銅線更有效地傳輸數據,使用較少的能量。根據Graham的說法,這項技術可以簡化數據中心架之間和之間的連接,從而提高數據中心的整體效率和經濟性。
格雷厄姆告訴辛格:“通過更換數據中心中的銅跡線(在服務器的打印電路板上和機架之間的電纜上都可以替換纖維上的電纜),我們可以顯著增加帶寬的帶寬。” LightMatter目前正在與各種科技公司的新數據中心的設計合作,Graham指出,這些設施是從頭開始構建的。該公司已經與Global Foundries建立了合作夥伴關係,Global Foundries是一家在紐約州北部公司運營的合同半導體製造商,該公司為高級微型設備等客戶提供服務。
儘管格雷厄姆(Graham)除了這次合作之外沒有透露特定的合作夥伴和客戶,但他暗示LightMatter與Broadcom或Marvell等矽提供商合作,為Google,Amazon和Microsoft等技術巨頭創建定制組件,他們設計了自己的數據中心處理器。
AI數據中心的規模和未來
為了說明AI部署的大小,格雷厄姆指出,至少有十二個新的AI數據中心是計劃的,要么正在建設中,每個數據中心都需要吉瓦。他說:“就背景而言,紐約市平均使用了大約五吉瓦的電力。因此,我們談論的是多個紐約城市的功耗。”他預測,到2026年,全球AI處理將需要40吉瓦的權力,相當於紐約八個城市,特別是針對AI數據中心的城市。
LightMatter最近獲得了4億美元的風險投資,其評價為44億美元。格雷厄姆(Graham)提到,該公司的目標是在未來幾年內開始生產。
當被問及對LightMatter計劃的潛在中斷時,Graham對不斷擴大AI計算基礎架構的需求表示信心。但是,他承認,AI算法的突破需要更快地計算或實現人工通用智能(AGI),這可能會挑戰有關當前關於指數計算增長需求的假設。




The idea that AI computing might consume power equivalent to multiple NYCs by 2026 is mind-blowing! It's exciting to see Nvidia pushing the boundaries, but also a bit scary thinking about the energy impact. Can't wait to see how this unfolds! 🌍💡




2026年までにAIの計算が複数のニューヨーク市の電力を消費するかもしれないという考えは驚くべきものだ!Nvidiaが境界を押し広げるのを見るのはワクワクするけど、エネルギーへの影響を考えるとちょっと怖い。どうなるか楽しみだね!🌍💡




¡La idea de que el cómputo de IA podría consumir energía equivalente a múltiples ciudades de Nueva York para 2026 es alucinante! Es emocionante ver a Nvidia empujando los límites, pero también un poco aterrador pensar en el impacto energético. ¡No puedo esperar a ver cómo se desarrolla esto! 🌍💡




Die Vorstellung, dass die KI-Rechenleistung bis 2026 Energie verbrauchen könnte, die mehreren New Yorks entspricht, ist umwerfend! Es ist aufregend zu sehen, wie Nvidia die Grenzen verschiebt, aber auch ein bisschen beängstigend, wenn man an den Energieeinfluss denkt. Kann es kaum erwarten zu sehen, wie sich das entwickelt! 🌍💡




L'idée que le calcul de l'IA pourrait consommer une puissance équivalente à plusieurs villes de New York d'ici 2026 est hallucinante ! C'est excitant de voir Nvidia repousser les limites, mais aussi un peu effrayant de penser à l'impact énergétique. J'ai hâte de voir comment cela va se dérouler ! 🌍💡




This AI expansion sounds insane! By 2026, the power consumption could match multiple New York Cities? That's wild! I'm excited to see what kind of AI models they'll be training, but also kinda worried about the environmental impact. Can't wait to see how this pans out! 🤯












