2026年までに複数のNYCのパワーを消費するAIコンピューティングは、創設者によると

Nvidiaとパートナーが世界中でAIデータセンターを拡張

Nvidiaは、パートナーやクライアントとともに、GPT-4のような大規模な人工知能（AI）モデルのトレーニングに伴う高い計算需要を満たすため、世界中のコンピュータ施設の規模を積極的に拡大しています。この拡張は、追加のAIモデルが本番環境に展開されるにつれてさらに重要になると、光学コンピューティングのスタートアップLightmatterの共同創業者であるトーマス・グレアム氏は述べています。ブルームバーグ・インテリジェンスのシニアテクノロジーアナリストであるマンディープ・シン氏との最近のニューヨークでのインタビューで、グレアム氏は計算リソースの需要の増加を強調しました。

「より多くの計算能力への需要は、スケーリング法則だけでなく、AIモデルの展開にも関わっています」とグレアム氏は説明しました。シン氏は、GPT-4のような大規模言語モデル（LLM）の将来と、それらがさらに大きくなるかどうかについて尋ねました。これに対し、グレアム氏はAIの実践的応用に焦点を移し、推論（inferencing）、つまり展開フェーズの重要性を強調し、これにはかなりの計算能力が必要だと述べました。

「トレーニングを研究開発（R&D）と考えるなら、推論は本質的に展開です。展開する際には、モデルを動かすために大規模なコンピュータが必要になります」と、グレアム氏はブルームバーグ・インテリジェンスが主催する「Gen AI：生産性の約束を果たせるか？」会議で述べました。

グレアム氏の見解は、NvidiaのCEOであるジェンセン・フアン氏の考えと一致しています。フアン氏はウォール街に対し、「エージェント型」AIの進化には、より高度なトレーニングだけでなく、推論能力の大幅な強化が必要であり、計算要件が指数関数的に増加すると強調しています。

LightmatterのAIインフラにおける役割

2018年に設立されたLightmatterは、単一の半導体ダイ上で複数のプロセッサを接続するために光学接続を使用するチップ技術の開発で最前線にいます。これらの光学インターコネクトは、従来の銅線よりも効率的にデータを転送し、エネルギー消費を抑えます。この技術は、データセンター内のラック間およびラック内の接続を効率化し、データセンター全体の効率と経済性を向上させると、グレアム氏は述べています。

「データセンター内の銅製トレースを—サーバーのプリント回路基板上やラック間のケーブルで—光ファイバーに置き換えることで、帯域幅を劇的に増やすことができます」と、グレアム氏はシン氏に語りました。Lightmatterは現在、さまざまなテクノロジー企業と新しいデータセンターの設計で協力しており、グレアム氏はこれらの施設がゼロから構築されていると述べました。同社はすでに、ニューヨーク州北部で事業を展開する契約半導体製造企業Global Foundriesと提携しており、Advanced Micro Devicesなどのクライアントにサービスを提供しています。

グレアム氏はこの協力以外の具体的なパートナーや顧客を明らかにしませんでしたが、LightmatterはBroadcomやMarvellなどのシリコンプロバイダと協力して、Google、Amazon、Microsoftなどの技術大手向けにカスタムコンポーネントを作成し、独自のデータセンタープロセッサを設計していると示唆しました。

AIデータセンターの規模と将来

AI展開の規模を示すために、グレアム氏は、少なくとも12の新しいAIデータセンターが計画または建設中であり、それぞれが1ギガワットの電力を必要とすると指摘しました。「参考までに、ニューヨーク市は平均的な日に約5ギガワットの電力を消費します。つまり、複数のニューヨーク市に相当する電力消費量の話です」と彼は述べました。彼は2026年までに、グローバルなAI処理がAIデータセンター専用で40ギガワットの電力を要求し、これはニューヨーク市8つ分に相当すると予測しています。

Lightmatterは最近、4億ドルのベンチャーキャピタル投資を確保し、企業価値を44億ドルと評価されました。グレアム氏は、同社が「今後数年で」生産を開始する予定だと述べました。

Lightmatterの計画に対する潜在的な障害について尋ねられたグレアム氏は、AIコンピューティングインフラの拡張に対する継続的な需要に自信を表明しました。ただし、計算量を大幅に削減するAIアルゴリズムのブレークスルーや、人工汎用知能（AGI）が予想より早く達成された場合、計算の指数関数的成長の必要性に関する現在の前提が挑戦を受ける可能性があると認めました。