アイアンウッドは、Googleの最新のAIアクセラレータチップです

今週のCloud Next Conferenceで、GoogleはIronwoodと呼ばれる最新のTPU AIアクセラレータチップでカーテンを引き戻しました。この第7世代の驚異は、AIモデルの推論に合わせて特別に調整された最初のTPUであるため、大きな変化を示しています。 Google Cloudユーザーのために今年後半に展開する予定であるIronwoodは、256チップクラスターと大規模な9,216チップクラスターの2つのパワーハウス構成で利用できます。

Google Cloud VPのAmin Vahdatは、「Ironwoodはこれまでで最も強力で、能力があり、エネルギー効率の高いTPUです。そして、それは、大規模な推論AIモデルの力、エネルギー効率の良いTPUです。」と述べました。 Googleがこの新しいチップで高く狙っていることは明らかです。

AIアクセラレータ市場は激化しており、Nvidiaは料金をリードしていますが、ハイテクの巨人を数えないでください。 Amazonは、AWSを介して利用可能なトレーニング、インベランティア、グラビトンチップでゲームに参加していますが、MicrosoftはMAIA 100 AIチップを搭載したAzureインスタンスで前進しています。

Googleの内部ベンチマークによると、Ironwoodは4,614 TFLOPSのピークコンピューティングパワーを備えたパンチを詰め込みます。各チップには、192GBの専用RAMが装備されており、7.4 Tbpsに近い帯域幅が誇示されています。それはいくつかの深刻な火力です！

アイアンウッドはブルートフォースだけではありません。それも賢いです。 SparseCoreと呼ばれる高度なコアを備えており、洗練されたランキングと推奨システムで表示されるデータの種類を処理するように設計されています。 Googleのエンジニアは、チップ内のデータの動きと遅延を減らすために取り組んできました。これは、大幅なエネルギー節約につながるはずです。

Googleは、Google Cloud内のモジュラーコンピューティングクラスターであるAI Hyper ComputerにIronwoodを織り込むことを計画しています。この統合は地平線上にあり、Vahdatは自信を持って、「Ironwoodは、計算能力、メモリ容量、ネットワーキングの進歩、信頼性の増加により、推論の時代のユニークなブレークスルーを表しています」と述べています。

更新された午前10時45分パシフィック：このストーリーの以前のバージョンは、MicrosoftのCobalt 100をAIチップと誤って呼びました。実際には汎用チップです。 Microsoftの正しいAIチップはMAIA 100です。必要な修正を行いました。