Ironwood는 Google의 최신 AI 가속기 칩입니다

이번 주 Cloud Next 컨퍼런스에서 Google은 최신 TPU AI 가속기 칩인 Ironwood를 공개했습니다. 이 7세대 칩은 AI 모델 추론에 특화된 최초의 TPU로, 상당한 변화를 나타냅니다. 올해 말 Google Cloud 사용자들에게 출시될 예정인 Ironwood는 256칩 클러스터와 대규모 9,216칩 클러스터라는 두 가지 강력한 구성으로 제공됩니다.

Google Cloud 부사장인 Amin Vahdat는 블로그 포스트에서 그의 열정을 나누며, "Ironwood는 지금까지 가장 강력하고 성능이 뛰어나며 에너지 효율적인 TPU입니다. 그리고 대규모로 사고하고 추론하는 AI 모델을 구동하기 위해 특별히 설계되었습니다."라고 말했습니다. Google이 이 새로운 칩으로 높은 목표를 세우고 있음이 분명합니다.

AI 가속기 시장은 Nvidia가 선두를 달리고 있지만, 기술 대기업들을 간과해서는 안 됩니다. Amazon은 AWS를 통해 Trainium, Inferentia, Graviton 칩을 제공하며 경쟁에 참여하고 있으며, Microsoft는 Maia 100 AI 칩으로 구동되는 Azure 인스턴스로 전진하고 있습니다.

Google의 내부 벤치마크에 따르면, Ironwood는 최대 4,614 TFLOPs의 계산 성능을 자랑합니다. 각 칩에는 192GB의 전용 RAM이 탑재되어 있으며, 대역폭은 7.4 Tbps에 달합니다. 이는 정말 강력한 성능입니다!

Ironwood는 단순한 힘만이 아니라 지능도 갖추고 있습니다. SparseCore라는 고급 코어를 특징으로 하며, 이는 정교한 순위 및 추천 시스템에서 볼 수 있는 데이터 유형을 처리하도록 설계되었습니다—예를 들어, 당신의 눈길을 사로잡을 옷을 제안하는 시스템 같은 것들입니다. Google의 엔지니어들은 또한 칩 내 데이터 이동과 지연을 줄이기 위해 노력하여 상당한 에너지 절약 효과를 가져올 것입니다.

앞으로 Google은 Ironwood를 Google Cloud 내의 모듈식 컴퓨팅 클러스터인 AI Hypercomputer에 통합할 계획입니다. 이러한 통합은 곧 이루어질 예정이며, Vahdat는 "Ironwood는 추론 시대에 독특한 돌파구를 나타내며, 향상된 계산 능력, 메모리 용량, 네트워킹 발전, 그리고 신뢰성을 제공합니다."라고 자신 있게 말했습니다.

태평양 표준시 오전 10:45 업데이트: 이 기사의 이전 버전은 Microsoft의 Cobalt 100을 AI 칩으로 잘못 언급했습니다. 실제로는 범용 칩이며, Microsoft의 올바른 AI 칩은 Maia 100입니다. 필요한 수정을 했습니다.