2026年までに複数のNYCのパワーを消費するAIコンピューティングは、創設者によると

NVIDIAとパートナーは、世界中のAIデータセンターを拡大しています

Nvidiaは、パートナーとクライアントとともに、GPT-4などのトレーニングの大規模な人工知能（AI）モデルの高い計算需要を満たすために、世界中のコンピューター施設の規模を積極的に拡大しています。 Optical Computing Startup LightMatterの共同設立者であるThomas Grahamによると、この拡張は、追加のAIモデルが生産に展開されるため、さらに重要になるように設定されています。ブルームバーグインテリジェンスのシニアテクノロジーアナリストであるマンディープシンとのニューヨークでの最近のインタビューで、グラハムは計算リソースの必要性の高まりを強調しました。

「より多くの計算の需要は、法律のスケーリングだけではありません。これは現在、これらのAIモデルを展開することでもあります」とグラハムは説明しました。 Singhは、GPT-4のような大規模な言語モデル（LLM）の未来と、サイズが大きくなり続けるかどうかについて尋ねました。これに応じて、GrahamはAIの実用的な応用に焦点を移し、推論の重要性、または実質的な計算能力を必要とする展開フェーズを強調しました。

「トレーニングをR＆Dと見なすと、推論は本質的に展開されます。展開すると、モデルを実行するには大規模なコンピューターが必要です」とGrahamは「Gen AI：生産性の約束を実現できますか？」ブルームバーグインテリジェンスが主催する会議。

グラハムの視点は、「エージェント」AIフォームを進めるには、より洗練されたトレーニングだけでなく、推論能力が大幅に強化され、計算要件が指数関数的に増加することをウォール街に強調したNvidiaのCEO Jensen Huangの視点と一致しています。

AIインフラストラクチャにおけるLightmatterの役割

2018年に設立されたLightMatterは、1つの半導体ダイで複数のプロセッサをリンクするために光接続を使用するチップテクノロジーの開発の最前線にあります。これらの光学相互接続は、より少ないエネルギーを使用して、従来の銅線よりも効率的にデータを転送できます。 Grahamによると、このテクノロジーはデータセンターラック内およびデータセンターラック間の接続を合理化し、データセンターの全体的な効率と経済を高めることができます。

「サーバーの印刷回路基板とラック間のケーブルの両方でデータセンターで銅の痕跡を置き換えることにより、光ファイバーを使用して、帯域幅を劇的に増やすことができます」とグラハムはシンに語った。 Lightmatterは現在、新しいデータセンターの設計についてさまざまなハイテク企業と協力しており、Grahamはこれらの施設がゼロから建設されていることを指摘しました。同社はすでに、ニューヨーク州北部で事業を展開している契約半導体メーカーであるGlobal Foundriesとのパートナーシップを確立しており、高度なマイクロデバイスなどのクライアントにサービスを提供しています。

Grahamはこのコラボレーションを超えて特定のパートナーと顧客を開示しませんでしたが、LightMatterはBroadcomやMarvellなどのシリコンプロバイダーと連携して、Google、Amazon、Microsoftなどの技術大手のカスタムコンポーネントを作成し、独自のデータセンタープロセッサを設計することを示唆しました。

AIデータセンターの規模と未来

AIの展開の大きさを説明するために、Grahamは、少なくとも12の新しいAIデータセンターが計画または建設中であり、それぞれがギガワットの電力を必要とすることを指摘しました。 「文脈のために、ニューヨーク市は平均的な日に約5ギガワットの電力を使用しています。したがって、私たちは複数のニューヨークの都市の消費電力について話している」と彼は言った。彼は、2026年までに、グローバルAI処理が40ギガワットの電力を要求すると予測しています。

Lightmatterは最近、4億ドルのベンチャーキャピタル投資を確保し、44億ドルと評価しました。グラハムは、同社は「今後数年間で」生産を開始することを目指していると述べました。

Lightmatterの計画に対する潜在的な混乱について尋ねられたとき、GrahamはAIコンピューティングインフラストラクチャを拡大する継続的な必要性に自信を表明しました。しかし、彼は、AIアルゴリズムのブレークスルーが、人工的な一般情報（AGI）をより迅速に計算または達成する必要があるか、指数計算成長の必要性に関する現在の仮定に挑戦する可能性があることを認めました。