AI Computing, um die Leistung mehrerer NYCs bis 2026 zu verbrauchen, sagt Gründer

Nvidia und Partner erweitern weltweit KI-Rechenzentren

Nvidia hat zusammen mit seinen Partnern und Kunden aktiv die Größe von Rechenanlagen weltweit erweitert, um den hohen Rechenbedarf für das Training massiver künstlicher Intelligenz (KI)-Modelle wie GPT-4 zu decken. Diese Erweiterung wird noch entscheidender, da weitere KI-Modelle in die Produktion eingeführt werden, so Thomas Graham, Mitbegründer des optischen Rechen-Startups Lightmatter. In einem kürzlichen Interview in New York mit Mandeep Singh, einem leitenden Technologieanalysten von Bloomberg Intelligence, betonte Graham den wachsenden Bedarf an Rechenressourcen.

"Die Nachfrage nach mehr Rechenleistung dreht sich nicht nur um Skalierungsgesetze; es geht auch darum, diese KI-Modelle jetzt einzusetzen," erklärte Graham. Singh fragte nach der Zukunft großer Sprachmodelle (LLMs) wie GPT-4 und ob diese weiter an Größe zunehmen würden. Daraufhin lenkte Graham den Fokus auf die praktische Anwendung von KI und betonte die Bedeutung der Inferenz, also der Einsatzphase, die erhebliche Rechenleistung erfordert.

"Wenn man das Training als Forschung und Entwicklung betrachtet, ist die Inferenz im Wesentlichen der Einsatz. Beim Einsatz benötigt man große Rechner, um die Modelle auszuführen," sagte Graham während der Konferenz "Gen AI: Kann es das Produktivitätsversprechen einlösen?" von Bloomberg Intelligence.

Grahams Perspektive deckt sich mit der von Nvidia-CEO Jensen Huang, der gegenüber der Wall Street betonte, dass die Weiterentwicklung "agentischer" KI-Formen nicht nur ausgefeilteres Training, sondern auch deutlich verbesserte Inferenzfähigkeiten erfordert, was zu einem exponentiellen Anstieg des Rechenbedarfs führt.

Lightmatters Rolle in der KI-Infrastruktur

Lightmatter, gegründet 2018, steht an der Spitze der Entwicklung von Chip-Technologie, die optische Verbindungen nutzt, um mehrere Prozessoren auf einem einzigen Halbleiterchip zu verbinden. Diese optischen Verbindungen können Daten effizienter übertragen als herkömmliche Kupferdrähte und verbrauchen weniger Energie. Diese Technologie kann Verbindungen innerhalb und zwischen Rechenzentrumsracks optimieren und die Gesamteffizienz sowie Wirtschaftlichkeit des Rechenzentrums verbessern, so Graham.

"Durch den Ersatz von Kupferleitungen in Rechenzentren – sowohl auf der Leiterplatte des Servers als auch in der Verkabelung zwischen den Racks – durch Glasfasern können wir die Bandbreite drastisch erhöhen," sagte Graham zu Singh. Lightmatter arbeitet derzeit mit verschiedenen Technologieunternehmen an der Gestaltung neuer Rechenzentren, und Graham stellte fest, dass diese Einrichtungen von Grund auf neu gebaut werden. Das Unternehmen hat bereits eine Partnerschaft mit Global Foundries, einem Auftragsfertiger für Halbleiter mit Betrieben im Bundesstaat New York, der Kunden wie Advanced Micro Devices bedient.

Obwohl Graham keine spezifischen Partner und Kunden über diese Zusammenarbeit hinaus nannte, deutete er an, dass Lightmatter mit Siliziumanbietern wie Broadcom oder Marvell zusammenarbeitet, um maßgeschneiderte Komponenten für Technologieriesen wie Google, Amazon und Microsoft zu entwickeln, die ihre eigenen Rechenzentrumsprozessoren entwerfen.

Der Umfang und die Zukunft von KI-Rechenzentren

Um die Größenordnung des KI-Einsatzes zu verdeutlichen, wies Graham darauf hin, dass derzeit mindestens ein Dutzend neue KI-Rechenzentren geplant oder im Bau sind, von denen jedes einen Gigawatt Leistung benötigt. "Zum Vergleich: New York City verbraucht an einem durchschnittlichen Tag etwa fünf Gigawatt Leistung. Wir sprechen also vom Stromverbrauch mehrerer New York Cities," sagte er. Er prognostiziert, dass bis 2026 die globale KI-Verarbeitung 40 Gigawatt Leistung benötigen wird, was acht New York Cities entspricht, speziell für KI-Rechenzentren.

Lightmatter hat kürzlich eine Risikokapitalinvestition von 400 Millionen Dollar erhalten, wodurch das Unternehmen mit 4,4 Milliarden Dollar bewertet wird. Graham erwähnte, dass das Unternehmen in den nächsten Jahren mit der Produktion beginnen will.

Auf die Frage nach möglichen Störungen der Pläne von Lightmatter äußerte Graham Vertrauen in den anhaltenden Bedarf an der Erweiterung der KI-Recheninfrastruktur. Er räumte jedoch ein, dass ein Durchbruch in KI-Algorithmen, der deutlich weniger Rechenleistung erfordert oder künstliche allgemeine Intelligenz (AGI) schneller erreicht, die aktuellen Annahmen über die Notwendigkeit eines exponentiellen Rechenwachstums in Frage stellen könnte.