Ironwood est la nouvelle puce d'accélérateur d'IA de Google

Lors de la conférence Cloud Next de cette semaine, Google a dévoilé son dernier accélérateur AI TPU, baptisé Ironwood. Cette merveille de septième génération marque un tournant significatif, car c'est le premier TPU spécifiquement conçu pour l'inférence des modèles AI. Prévu pour être déployé plus tard cette année pour les utilisateurs de Google Cloud, Ironwood sera disponible en deux configurations puissantes : un cluster de 256 puces et un cluster massif de 9 216 puces.

Amin Vahdat, vice-président de Google Cloud, a partagé son enthousiasme dans un article de blog, déclarant : « Ironwood est notre TPU le plus puissant, le plus performant et le plus économe en énergie à ce jour. Et il est conçu spécifiquement pour alimenter des modèles AI pensants et inférentiels à grande échelle. » Il est clair que Google voit grand avec cette nouvelle puce.

Le marché des accélérateurs AI s'échauffe, avec Nvidia en tête, mais ne sous-estimez pas les géants de la technologie. Amazon est dans la course avec ses puces Trainium, Inferentia et Graviton, disponibles via AWS, tandis que Microsoft avance avec des instances Azure alimentées par sa puce AI Maia 100.

Selon les benchmarks internes de Google, Ironwood offre une puissance impressionnante avec 4 614 TFLOPs de performance de calcul maximale. Chaque puce est équipée de 192 Go de RAM dédiée, avec une bande passante atteignant près de 7,4 Tbps. C'est une puissance de feu considérable !

Ironwood ne se contente pas de la force brute ; il est aussi intelligent. Il intègre un cœur avancé appelé SparseCore, conçu pour gérer les types de données que l'on trouve dans les systèmes de classement et de recommandation sophistiqués, comme ceux qui suggèrent des vêtements susceptibles de vous plaire. Les ingénieurs de Google ont également travaillé à réduire les mouvements de données et la latence au sein de la puce, ce qui devrait se traduire par des économies d'énergie significatives.

À l'avenir, Google prévoit d'intégrer Ironwood dans son AI Hypercomputer, un cluster informatique modulaire au sein de Google Cloud. Cette intégration est à l'horizon, et Vahdat est confiant, déclarant : « Ironwood représente une percée unique à l'ère de l'inférence, avec une puissance de calcul accrue, une capacité de mémoire augmentée, des avancées en matière de réseau et une fiabilité améliorée. »

Mis à jour à 10h45, heure du Pacifique : une version précédente de cet article mentionnait par erreur la puce Cobalt 100 de Microsoft comme une puce AI. Il s'agit en réalité d'une puce à usage général ; la puce AI correcte de Microsoft est la Maia 100. Nous avons effectué la correction nécessaire.