创始人说
2025年04月18日
StevenHill
88
NVIDIA和合作伙伴在全球范围内扩展AI数据中心
NVIDIA以及其合作伙伴和客户一直在积极扩大全球计算机设施的规模,以满足培训大规模人工智能(AI)模型(如GPT-4)的高计算需求。 Optical Computing Startup LightMatter的联合创始人Thomas Graham表示,随着其他AI模型被部署到生产中,这种扩展将变得更加至关重要。彭博情报公司(Bloomberg Intelligence)的一位高级技术分析师Mandeep Singh最近在纽约接受采访时,格雷厄姆(Graham)强调了对计算资源的日益增长的需求。
格雷厄姆解释说:“对更多计算的需求不仅仅是扩展法律;现在还与现在部署这些AI模型有关。”辛格询问了像GPT-4这样的大语言模型(LLM)的未来,以及它们是否会继续增长。作为回应,格雷厄姆将重点转移到了AI的实际应用,强调了推断的重要性或需要实质性计算能力的部署阶段。
格雷厄姆在“ AI Gen gen:它可以实现生产力承诺可以交付?''彭博情报局主持的会议。
格雷厄姆(Graham)的观点与NVIDIA首席执行官詹森·黄(Jensen Huang)的观点相吻合,他强调向华尔街(Wall Street)强调,推进“代理” AI形式不仅需要更复杂的培训,而且还需要显着增强推论能力,从而导致计算要求的指数增长。

格雷厄姆说:“如果您将培训视为研发,推断确实是部署,并且在部署它时,您将需要大型计算机来运行模型。”照片:彭博,由克雷格·沃加(Craig Warga)提供
LightMatter在AI基础设施中的作用
LightMatter成立于2018年,是开发芯片技术的最前沿,该技术使用光学连接将单个半导体模具上的多个处理器连接起来。这些光学互连比传统的铜线更有效地传输数据,使用较少的能量。根据Graham的说法,这项技术可以简化数据中心架之间和之间的连接,从而提高数据中心的整体效率和经济性。
格雷厄姆告诉辛格:“通过更换数据中心中的铜迹线(在服务器的打印电路板上和机架之间的电缆上都可以替换纤维上的电缆),我们可以显着增加带宽的带宽。” LightMatter目前正在与各种科技公司的新数据中心的设计合作,Graham指出,这些设施是从头开始构建的。该公司已经与Global Foundries建立了合作伙伴关系,Global Foundries是一家在纽约州北部公司运营的合同半导体制造商,该公司为高级微型设备等客户提供服务。
尽管格雷厄姆(Graham)除了这次合作之外没有透露特定的合作伙伴和客户,但他暗示LightMatter与Broadcom或Marvell等硅提供商合作,为Google,Amazon和Microsoft等技术巨头创建定制组件,他们设计了自己的数据中心处理器。
AI数据中心的规模和未来
为了说明AI部署的大小,格雷厄姆指出,至少有十二个新的AI数据中心是计划的,要么正在建设中,每个数据中心都需要吉瓦。他说:“就背景而言,纽约市平均使用了大约五吉瓦的电力。因此,我们谈论的是多个纽约城市的功耗。”他预测,到2026年,全球AI处理将需要40吉瓦的权力,相当于纽约八个城市,特别是针对AI数据中心的城市。
LightMatter最近获得了4亿美元的风险投资,其评价为44亿美元。格雷厄姆(Graham)提到,该公司的目标是在未来几年内开始生产。
当被问及对LightMatter计划的潜在中断时,Graham对不断扩大AI计算基础架构的需求表示信心。但是,他承认,AI算法的突破需要更快地计算或实现人工通用智能(AGI),这可能会挑战有关当前关于指数计算增长需求的假设。
相关文章
AI音乐封面:Kabhi Jo Baadal Barse以Taehyung为特色
如果您是音乐爱好者,您可能会听说过该行业中最新的嗡嗡声:AI生成的音乐封面。想象一下,听到您最喜欢的曲调,但是以您欣赏的艺术家的嗓音,所有这些都是由人工智能制作的。一个杰出的例子是“ Kabhi Jo Baadal Barse”的AI封面,REI
AI驱动的视觉小说夜幕降临的第四章揭示了
欢迎回到夜幕降临的世界,在那里,AI驱动的讲故事编织了幻想,声音表演和意外的跨界挂毯。在最新一章中,我们遵循迈克·瓦佐夫斯基(Mike Wazowski)的古怪不幸经历,他冒险通过一个神秘的领域寻找盟友。为圣
AI营销自动化:提高收入而无需雇用更多员工
2025年,您渴望改变营销方法并看到您的收入飙升而不雇用更多员工,从而彻底改变了您的营销策略?在2025年,人工智能正在重塑企业的运作和扩展方式。是时候研究AI营销自动化并发现
评论 (20)
0/200
FrankClark
2025年04月18日 13:31:52
The idea that AI computing might consume power equivalent to multiple NYCs by 2026 is mind-blowing! It's exciting to see Nvidia pushing the boundaries, but also a bit scary thinking about the energy impact. Can't wait to see how this unfolds! 🌍💡
0
GaryGonzalez
2025年04月19日 13:09:03
2026年までにAIの計算が複数のニューヨーク市の電力を消費するかもしれないという考えは驚くべきものだ!Nvidiaが境界を押し広げるのを見るのはワクワクするけど、エネルギーへの影響を考えるとちょっと怖い。どうなるか楽しみだね!🌍💡
0
RaymondWalker
2025年04月19日 14:32:21
¡La idea de que el cómputo de IA podría consumir energía equivalente a múltiples ciudades de Nueva York para 2026 es alucinante! Es emocionante ver a Nvidia empujando los límites, pero también un poco aterrador pensar en el impacto energético. ¡No puedo esperar a ver cómo se desarrolla esto! 🌍💡
0
JamesGreen
2025年04月19日 02:08:23
Die Vorstellung, dass die KI-Rechenleistung bis 2026 Energie verbrauchen könnte, die mehreren New Yorks entspricht, ist umwerfend! Es ist aufregend zu sehen, wie Nvidia die Grenzen verschiebt, aber auch ein bisschen beängstigend, wenn man an den Energieeinfluss denkt. Kann es kaum erwarten zu sehen, wie sich das entwickelt! 🌍💡
0
LarryWilliams
2025年04月18日 14:24:22
L'idée que le calcul de l'IA pourrait consommer une puissance équivalente à plusieurs villes de New York d'ici 2026 est hallucinante ! C'est excitant de voir Nvidia repousser les limites, mais aussi un peu effrayant de penser à l'impact énergétique. J'ai hâte de voir comment cela va se dérouler ! 🌍💡
0
TerryYoung
2025年04月20日 00:05:08
This AI expansion sounds insane! By 2026, the power consumption could match multiple New York Cities? That's wild! I'm excited to see what kind of AI models they'll be training, but also kinda worried about the environmental impact. Can't wait to see how this pans out! 🤯
0






NVIDIA和合作伙伴在全球范围内扩展AI数据中心
NVIDIA以及其合作伙伴和客户一直在积极扩大全球计算机设施的规模,以满足培训大规模人工智能(AI)模型(如GPT-4)的高计算需求。 Optical Computing Startup LightMatter的联合创始人Thomas Graham表示,随着其他AI模型被部署到生产中,这种扩展将变得更加至关重要。彭博情报公司(Bloomberg Intelligence)的一位高级技术分析师Mandeep Singh最近在纽约接受采访时,格雷厄姆(Graham)强调了对计算资源的日益增长的需求。
格雷厄姆解释说:“对更多计算的需求不仅仅是扩展法律;现在还与现在部署这些AI模型有关。”辛格询问了像GPT-4这样的大语言模型(LLM)的未来,以及它们是否会继续增长。作为回应,格雷厄姆将重点转移到了AI的实际应用,强调了推断的重要性或需要实质性计算能力的部署阶段。
格雷厄姆在“ AI Gen gen:它可以实现生产力承诺可以交付?''彭博情报局主持的会议。
格雷厄姆(Graham)的观点与NVIDIA首席执行官詹森·黄(Jensen Huang)的观点相吻合,他强调向华尔街(Wall Street)强调,推进“代理” AI形式不仅需要更复杂的培训,而且还需要显着增强推论能力,从而导致计算要求的指数增长。
LightMatter在AI基础设施中的作用
LightMatter成立于2018年,是开发芯片技术的最前沿,该技术使用光学连接将单个半导体模具上的多个处理器连接起来。这些光学互连比传统的铜线更有效地传输数据,使用较少的能量。根据Graham的说法,这项技术可以简化数据中心架之间和之间的连接,从而提高数据中心的整体效率和经济性。
格雷厄姆告诉辛格:“通过更换数据中心中的铜迹线(在服务器的打印电路板上和机架之间的电缆上都可以替换纤维上的电缆),我们可以显着增加带宽的带宽。” LightMatter目前正在与各种科技公司的新数据中心的设计合作,Graham指出,这些设施是从头开始构建的。该公司已经与Global Foundries建立了合作伙伴关系,Global Foundries是一家在纽约州北部公司运营的合同半导体制造商,该公司为高级微型设备等客户提供服务。
尽管格雷厄姆(Graham)除了这次合作之外没有透露特定的合作伙伴和客户,但他暗示LightMatter与Broadcom或Marvell等硅提供商合作,为Google,Amazon和Microsoft等技术巨头创建定制组件,他们设计了自己的数据中心处理器。
AI数据中心的规模和未来
为了说明AI部署的大小,格雷厄姆指出,至少有十二个新的AI数据中心是计划的,要么正在建设中,每个数据中心都需要吉瓦。他说:“就背景而言,纽约市平均使用了大约五吉瓦的电力。因此,我们谈论的是多个纽约城市的功耗。”他预测,到2026年,全球AI处理将需要40吉瓦的权力,相当于纽约八个城市,特别是针对AI数据中心的城市。
LightMatter最近获得了4亿美元的风险投资,其评价为44亿美元。格雷厄姆(Graham)提到,该公司的目标是在未来几年内开始生产。
当被问及对LightMatter计划的潜在中断时,Graham对不断扩大AI计算基础架构的需求表示信心。但是,他承认,AI算法的突破需要更快地计算或实现人工通用智能(AGI),这可能会挑战有关当前关于指数计算增长需求的假设。




The idea that AI computing might consume power equivalent to multiple NYCs by 2026 is mind-blowing! It's exciting to see Nvidia pushing the boundaries, but also a bit scary thinking about the energy impact. Can't wait to see how this unfolds! 🌍💡




2026年までにAIの計算が複数のニューヨーク市の電力を消費するかもしれないという考えは驚くべきものだ!Nvidiaが境界を押し広げるのを見るのはワクワクするけど、エネルギーへの影響を考えるとちょっと怖い。どうなるか楽しみだね!🌍💡




¡La idea de que el cómputo de IA podría consumir energía equivalente a múltiples ciudades de Nueva York para 2026 es alucinante! Es emocionante ver a Nvidia empujando los límites, pero también un poco aterrador pensar en el impacto energético. ¡No puedo esperar a ver cómo se desarrolla esto! 🌍💡




Die Vorstellung, dass die KI-Rechenleistung bis 2026 Energie verbrauchen könnte, die mehreren New Yorks entspricht, ist umwerfend! Es ist aufregend zu sehen, wie Nvidia die Grenzen verschiebt, aber auch ein bisschen beängstigend, wenn man an den Energieeinfluss denkt. Kann es kaum erwarten zu sehen, wie sich das entwickelt! 🌍💡




L'idée que le calcul de l'IA pourrait consommer une puissance équivalente à plusieurs villes de New York d'ici 2026 est hallucinante ! C'est excitant de voir Nvidia repousser les limites, mais aussi un peu effrayant de penser à l'impact énergétique. J'ai hâte de voir comment cela va se dérouler ! 🌍💡




This AI expansion sounds insane! By 2026, the power consumption could match multiple New York Cities? That's wild! I'm excited to see what kind of AI models they'll be training, but also kinda worried about the environmental impact. Can't wait to see how this pans out! 🤯












