Ironwood est la nouvelle puce d'accélérateur d'IA de Google

Lors de la conférence Cloud Next Cloud de cette semaine, Google a retiré le rideau lors de sa dernière puce d'accélérateur TPU AI, surnommée Ironwood. Cette Marvel de septième génération marque un changement significatif car c'est le premier TPU spécifiquement adapté à l'inférence du modèle d'IA. Défini pour déployer plus tard cette année pour les utilisateurs de Google Cloud, Ironwood sera disponible dans deux configurations Powerhouse: un cluster de 256 puces et un groupe massif de 9 216 puces.

Amin Vahdat, VP de Google Cloud, a partagé son excitation dans un article de blog, disant: "Ironwood est notre TPU le plus puissant, le plus capable et économe en énergie. Il est clair que Google vise haut avec cette nouvelle puce.

Le marché de l'accélérateur de l'IA se réchauffe, Nvidia menant la charge, mais ne comptez pas les géants de la technologie. Amazon est dans le jeu avec ses puces Trainium, Inferentia et Graviton, disponibles via AWS, tandis que Microsoft fait avancer avec des instances Azure alimentées par sa puce MAIA 100 AI.

Selon les références internes de Google, Ironwood a un coup de poing avec 4 614 Tflops de puissance de calcul de pointe. Chaque puce est équipée de 192 Go de RAM dédiée, offrant une bande passante qui approche de 7,4 tbps. C'est une puissance de feu sérieuse!

Ironwood n'est pas seulement une question brute; C'est intelligent aussi. Il dispose d'un noyau avancé appelé SPARSECORE, conçu pour gérer le type de données que vous verriez dans les systèmes de classement et de recommandation sophistiqués, comme ceux qui suggèrent quels vêtements pourraient attirer votre attention. Les ingénieurs de Google ont également travaillé pour réduire le mouvement des données et la latence au sein de la puce, ce qui devrait se traduire par des économies d'énergie importantes.

Pour l'avenir, Google prévoit de tisser Ironwood dans son hypercomputeur AI, un cluster informatique modulaire dans Google Cloud. Cette intégration est à l'horizon, et Vahdat est confiant, déclarant: "Ironwood représente une percée unique à l'ère de l'inférence, avec une puissance de calcul accrue, une capacité de mémoire, des progrès de mise en réseau et une fiabilité."

Mise à jour de 10 h 45 Pacific: une version précédente de cette histoire a fait par erreur le Cobalt 100 de Microsoft en tant que puce AI. C'est en fait une puce à usage général; La puce AI correcte de Microsoft est le MAIA 100. Nous avons effectué la correction nécessaire.