AI Computing, um die Leistung mehrerer NYCs bis 2026 zu verbrauchen, sagt Gründer

Nvidia und Partner erweitern die KI -Rechenzentren weltweit

Nvidia hat zusammen mit seinen Partnern und Kunden die Größe von Computereinrichtungen auf der ganzen Welt aktiv erweitert, um die hohen Rechenanforderungen der Schulung massiver künstlicher Intelligenz (AI) -Modelle wie GPT-4 zu erfüllen. Diese Erweiterung wird voraussichtlich noch wichtiger, da laut Thomas Graham, Mitbegründer des optischen Computer-Start-Lightmatter, zusätzliche KI-Modelle in die Produktion eingesetzt werden. In einem kürzlich in New York mit Mandeep Singh, einem Senior Technology Analyst von Bloomberg Intelligence, betroffenen Interview in New York hob Graham den wachsenden Bedarf an Rechenressourcen hervor.

"Bei der Forderung nach mehr Berechnung geht es nicht nur darum, Gesetze zu skalieren, sondern auch darum, diese KI -Modelle einzusetzen", erklärte Graham. Singh erkundigte sich nach der Zukunft großer Sprachmodelle (LLMs) wie GPT-4 und ob sie weiter wachsen würden. Als Reaktion darauf verlagerte Graham den Fokus auf die praktische Anwendung der KI und betonte die Bedeutung der Inferenz oder die Einsatzphase, die eine erhebliche Rechenleistung erfordert.

"Wenn Sie Schulungen als F & E betrachten, ist die Inferenzierung im Wesentlichen die Bereitstellung. Während Sie bereitstellen, benötigen Sie großflächige Computer, um Ihre Modelle auszuführen", erklärte Graham während des "Gen AI: Kann es das Produktivitätsversprechen liefern?" Konferenz wird von Bloomberg Intelligence veranstaltet.

Die Perspektive von Graham entspricht dem des Nvidia -CEO Jensen Huang, der in der Wall Street betont hat, dass die Fortschritte "Agentic" -Ai -Formen nicht nur eine ausgefeiltere Schulung, sondern auch erheblich verbesserte Inferenzfähigkeiten erfordern, was zu einer exponentiellen Anstieg der Rechenanforderungen führt.

Die Rolle von Lightmatter in der KI -Infrastruktur

Lightmatter wurde 2018 gegründet und steht an der Spitze der Entwicklung der Chip -Technologie, die optische Verbindungen verwendet, um mehrere Prozessoren mit einem einzelnen Halbleiter -Würfel zu verknüpfen. Diese optischen Verbindungen können Daten effizienter übertragen als herkömmliche Kupferdrähte mit weniger Energie. Diese Technologie kann Verbindungen innerhalb und zwischen Rechenzentrumspersonal rationalisieren und laut Graham die Gesamteffizienz und Wirtschaft des Rechenzentrums verbessern.

"Durch das Ersetzen von Kupferspuren in Rechenzentren - sowohl auf der gedruckten Leiterplatte des Servers als auch in der Verkabelung zwischen den Racks - können wir die Bandbreite drastisch erhöhen", sagte Graham gegenüber Singh. Lightmatter arbeitet derzeit mit verschiedenen Technologieunternehmen an der Gestaltung neuer Rechenzentren zusammen, und Graham stellte fest, dass diese Einrichtungen von Grund auf aufgebaut werden. Das Unternehmen hat bereits eine Partnerschaft mit Global Foundries gegründet, einem Vertrags -Halbleiter -Hersteller mit Operations in Upstate New York, der Kunden wie Advanced Micro -Geräte bedient.

Während Graham keine bestimmten Partner und Kunden über diese Zusammenarbeit hinaus offengelegt hat, deutete er an, dass Lightmatter mit Siliziumanbietern wie Broadcom oder Marvell zusammenarbeitet, um benutzerdefinierte Komponenten für Technologiegiganten wie Google, Amazon und Microsoft zu erstellen, die ihre eigenen Rechenzentrumsprozessoren entwerfen.

Die Skala und die Zukunft von AI -Rechenzentren

Um das Ausmaß des KI -Einsatzes zu veranschaulichen, wies Graham darauf hin, dass mindestens ein Dutzend neuer AI -Rechenzentren entweder geplant oder im Bauwesen geplant sind, wobei jeweils ein Gigawatt Strom erforderlich ist. "Für den Kontext verwendet New York City an einem durchschnittlichen Tag etwa fünf Gigawatt Macht. Wir sprechen also über den Stromverbrauch mehrerer New Yorker Städte", sagte er. Er prognostiziert, dass die globale KI -Verarbeitung bis 2026 40 Gigawatt von Macht verlangen wird, die acht New Yorker Städten entsprechen, insbesondere für AI -Rechenzentren.

Lightmatter hat kürzlich eine Risikokapitalinvestition in Höhe von 400 Millionen US -Dollar erhalten und das Unternehmen mit 4,4 Milliarden US -Dollar bewertet. Graham erwähnte, dass das Unternehmen darauf abzielt, die Produktion "in den nächsten Jahren" zu beginnen.

Als Graham nach potenziellen Störungen der Pläne von Lightmatter gefragt wurde, vertraute er in den anhaltenden Bedarf an der Erweiterung der AI -Computerinfrastruktur. Er räumte jedoch ein, dass ein Durchbruch in AI -Algorithmen, die erheblich weniger berechnet oder künstliche allgemeine Intelligenz (AGI) erfordern, die aktuellen Annahmen über die Notwendigkeit eines exponentiellen Berechnungswachstums in Frage stellen könnten.