L'informatique de l'IA pour consommer la puissance de plusieurs New York d'ici 2026, explique le fondateur

Nvidia et les partenaires développent les centres de données d'IA dans le monde entier

Nvidia, ainsi que ses partenaires et clients, ont activement élargi la taille des installations informatiques du monde entier pour répondre aux fortes exigences informatiques de la formation de modèles d'intelligence artificielle massive (IA) comme GPT-4. Cette expansion devrait devenir encore plus cruciale car des modèles d'IA supplémentaires sont déployés dans la production, selon Thomas Graham, co-fondateur de la Lightmatter de startup de calcul optique. Dans une récente interview à New York avec Mandeep Singh, analyste de technologie senior de Bloomberg Intelligence, Graham a souligné le besoin croissant de ressources informatiques.

"La demande de plus de calcul ne concerne pas seulement les lois à l'échelle; il s'agit également de déployer ces modèles d'IA maintenant", a expliqué Graham. Singh s'est renseigné sur l'avenir des modèles de grande langue (LLMS) comme GPT-4 et s'ils continueraient à croître en taille. En réponse, Graham a déplacé l'accent sur l'application pratique de l'IA, soulignant l'importance de l'inférence, ou la phase de déploiement, qui nécessite un pouvoir de calcul substantiel.

"Si vous considérez la formation comme une R&D, l'inférence est essentiellement un déploiement. Au fur et à mesure que vous vous déployez, vous aurez besoin d'ordinateurs à grande échelle pour exécuter vos modèles", a déclaré Graham lors du "Gen AI: peut-il tenir la promesse de productivité?" Conférence organisée par Bloomberg Intelligence.

La perspective de Graham s'aligne sur celle du PDG de Nvidia, Jensen Huang, qui a mis en évidence à Wall Street selon laquelle les formes d'IA "agentiques" avancées nécessiteront non seulement une formation plus sophistiquée, mais également des capacités d'inférence considérablement améliorées, entraînant une augmentation exponentielle des exigences de calcul.

Le rôle de Lightmatter dans l'infrastructure d'IA

Fondée en 2018, Lightmatter est à l'avant-garde du développement de la technologie des puces qui utilise des connexions optiques pour relier plusieurs processeurs sur une seule matrice de semi-conducteurs. Ces interconnexions optiques peuvent transférer des données plus efficacement que les fils de cuivre traditionnels, en utilisant moins d'énergie. Cette technologie peut rationaliser les connexions à l'intérieur et entre les racks de centres de données, améliorant l'efficacité globale et l'économie du centre de données, selon Graham.

"En remplaçant les traces de cuivre dans les centres de données - à la fois sur la carte de circuit imprimé du serveur et dans le câblage entre les racks - avec la fibre optique, nous pouvons augmenter considérablement la bande passante", a déclaré Graham à Singh. LightMatter collabore actuellement avec diverses entreprises technologiques sur la conception de nouveaux centres de données, et Graham a noté que ces installations sont en cours de construction à partir de zéro. La société a déjà établi un partenariat avec Global Foundries, un fabricant de semi-conducteurs contractuels avec des opérations dans le nord de New York, qui sert des clients comme des micro appareils avancés.

Bien que Graham n'ait pas divulgué des partenaires et des clients spécifiques au-delà de cette collaboration, il a laissé entendre que LightMatter travaille avec des fournisseurs de silicium tels que Broadcom ou Marvell pour créer des composants personnalisés pour des géants technologiques comme Google, Amazon et Microsoft, qui conçoivent leurs propres processeurs de centres de données.

L'échelle et l'avenir des centres de données d'IA

Pour illustrer l'ampleur du déploiement de l'IA, Graham a souligné qu'au moins une douzaine de nouveaux centres de données d'IA sont prévus ou en construction, chacun nécessitant un gigawatt de puissance. "Pour le contexte, New York utilise environ cinq gigawatts de puissance en moyenne. Donc, nous parlons de la consommation d'énergie de plusieurs villes de New York", a-t-il déclaré. Il prédit qu'en 2026, le traitement mondial de l'IA exigera 40 gigawatts de pouvoir, équivalent à huit villes de New York, en particulier pour les centres de données d'IA.

Lightmatter a récemment obtenu un investissement en capital-risque de 400 millions de dollars, évaluant la société à 4,4 milliards de dollars. Graham a mentionné que l'entreprise vise à démarrer la production "au cours des prochaines années".

Interrogé sur les perturbations potentielles des plans de Lightmatter, Graham a exprimé sa confiance dans le besoin continu d'élargir l'infrastructure informatique de l'IA. Cependant, il a reconnu qu'une percée dans les algorithmes d'IA nécessitant beaucoup moins de calcul ou d'obtention de l'intelligence générale artificielle (AGI) pourrait plus rapidement remettre en question les hypothèses actuelles sur la nécessité d'une croissance exponentielle de calcul.