Ironwood é o mais novo chip acelerador da IA ​​do Google

Na conferência Cloud Next desta semana, a Google revelou seu mais recente chip acelerador de IA TPU, chamado Ironwood. Esta maravilha de sétima geração marca uma mudança significativa, sendo o primeiro TPU especificamente projetado para inferência de modelos de IA. Previsto para ser lançado ainda este ano para usuários do Google Cloud, o Ironwood estará disponível em duas configurações poderosas: um cluster de 256 chips e um massivo cluster de 9.216 chips.

Amin Vahdat, vice-presidente do Google Cloud, compartilhou seu entusiasmo em um post de blog, dizendo: "O Ironwood é nosso TPU mais poderoso, capaz e energeticamente eficiente até agora. E foi projetado especificamente para impulsionar modelos de IA inferenciais e pensantes em escala." Está claro que a Google está mirando alto com este novo chip.

O mercado de aceleradores de IA está aquecendo, com a Nvidia liderando a corrida, mas não descarte os gigantes da tecnologia. A Amazon está no jogo com seus chips Trainium, Inferentia e Graviton, disponíveis através da AWS, enquanto a Microsoft avança com instâncias do Azure alimentadas por seu chip de IA Maia 100.

De acordo com os benchmarks internos da Google, o Ironwood impressiona com 4.614 TFLOPs de potência computacional de pico. Cada chip vem equipado com 192GB de RAM dedicada, ostentando uma largura de banda que se aproxima de 7,4 Tbps. Isso é uma potência considerável!

O Ironwood não é apenas sobre força bruta; ele também é inteligente. Ele possui um núcleo avançado chamado SparseCore, projetado para lidar com o tipo de dados que você veria em sistemas sofisticados de classificação e recomendação — como aqueles que sugerem quais roupas podem chamar sua atenção. Os engenheiros da Google também trabalharam para reduzir o movimento de dados e a latência dentro do chip, o que deve se traduzir em economias significativas de energia.

Olhando para o futuro, a Google planeja integrar o Ironwood em seu AI Hypercomputer, um cluster de computação modular dentro do Google Cloud. Essa integração está no horizonte, e Vahdat está confiante, afirmando: "O Ironwood representa um avanço único na era da inferência, com maior potência computacional, capacidade de memória, avanços em rede e confiabilidade."

Atualizado às 10:45 da manhã, horário do Pacífico: Uma versão anterior desta história referiu-se erroneamente ao Cobalt 100 da Microsoft como um chip de IA. Na verdade, é um chip de uso geral; o chip de IA correto da Microsoft é o Maia 100. Fizemos a correção necessária.