Ironwood - новейший чип Accelerator в Google

На конференции Cloud Next на этой неделе Google представил свой новейший чип-ускоритель TPU AI, получивший название Ironwood. Это чудо седьмого поколения знаменует значительный сдвиг, поскольку это первый TPU, специально разработанный для вывода моделей AI. Запуск для пользователей Google Cloud запланирован на конец этого года, Ironwood будет доступен в двух мощных конфигурациях: кластер из 256 чипов и массивный кластер из 9,216 чипов.

Амин Вахдат, вице-президент Google Cloud, поделился своим энтузиазмом в блоге, заявив: «Ironwood — наш самый мощный, производительный и энергоэффективный TPU на сегодняшний день. Он создан специально для питания масштабных, выводящих моделей AI». Очевидно, что Google ставит высокие цели с этим новым чипом.

Рынок ускорителей AI накаляется, и Nvidia лидирует, но не стоит сбрасывать со счетов технологических гигантов. Amazon участвует в игре со своими чипами Trainium, Inferentia и Graviton, доступными через AWS, в то время как Microsoft продвигает свои экземпляры Azure, работающие на чипе Maia 100 AI.

Согласно внутренним тестам Google, Ironwood обладает впечатляющей пиковой вычислительной мощностью в 4,614 TFLOPs. Каждый чип оснащён 192 ГБ выделенной оперативной памяти с пропускной способностью, приближающейся к 7.4 Тбит/с. Это серьёзная мощь!

Ironwood — это не только грубая сила; он также умён. Он оснащён продвинутым ядром SparseCore, предназначенным для обработки данных, характерных для сложных систем ранжирования и рекомендаций — например, тех, что предлагают одежду, которая может вам понравиться. Инженеры Google также работали над снижением перемещения данных и задержек внутри чипа, что должно привести к значительной экономии энергии.

В будущем Google планирует интегрировать Ironwood в свой AI Hypercomputer, модульный вычислительный кластер в Google Cloud. Эта интеграция уже на горизонте, и Вахдат уверен, заявляя: «Ironwood представляет собой уникальный прорыв в эпоху вывода, с увеличенной вычислительной мощностью, ёмкостью памяти, улучшениями в сетевых технологиях и надёжностью».

Обновлено в 10:45 по тихоокеанскому времени: В предыдущей версии статьи ошибочно упоминался Cobalt 100 от Microsoft как чип AI. На самом деле это чип общего назначения; правильный чип AI от Microsoft — это Maia 100. Мы внесли необходимые исправления.