Ironwood é o mais novo chip acelerador da IA ​​do Google

Na próxima conferência da nuvem desta semana, o Google recuou a cortina em seu mais recente chip acelerador de TPU AI, apelidado de Ironwood. Essa Marvel de sétima geração marca uma mudança significativa, pois é a primeira TPU especificamente adaptada para a inferência do modelo de IA. Definido para lançar ainda este ano para os usuários do Google Cloud, o Ironwood estará disponível em duas configurações de potência: um cluster de 256 chip e um enorme cluster de 9.216 chip.

Amin Vahdat, vice-presidente de nuvem do Google, compartilhou sua emoção em um post, dizendo: "O Ironwood é a nossa TPU mais poderosa, capaz e com economia de energia até agora. E é criado para o pensamento infectativo, modelos inferenciais de IA em escala". É claro que o Google está mirando alto com este novo chip.

O mercado de acelerador de IA está esquentando, com a Nvidia liderando a acusação, mas não conte os gigantes da tecnologia. A Amazon está no jogo com seus chips Trainium, Inferentia e Graviton, disponíveis na AWS, enquanto a Microsoft está avançando com instâncias do Azure alimentadas pelo seu chip Maia 100 AI.

De acordo com os benchmarks internos do Google, a Ironwood dá um soco com 4.614 TFLOPS de pico de poder de computação. Cada chip vem equipado com 192 GB de RAM dedicada, com uma largura de banda que está chegando a 7,4 Tbps. Isso é um poder de fogo sério!

Ironwood não é apenas sobre força bruta; É inteligente também. Possui um núcleo avançado chamado SparSecore, projetado para lidar com o tipo de dados que você veria em sistemas sofisticados de classificação e recomendação - como aqueles que sugerem quais roupas podem chamar sua atenção. Os engenheiros do Google também trabalharam para reduzir o movimento e a latência dos dados no chip, o que deve se traduzir em uma economia significativa de energia.

Olhando para o futuro, o Google planeja tecer o Ironwood em seu hipercomputador de IA, um cluster de computação modular no Google Cloud. Essa integração está no horizonte, e Vahdat está confiante, afirmando: "A Ironwood representa um avanço único na era da inferência, com aumento do poder de computação, capacidade de memória, avanços de rede e confiabilidade".

Atualizado 10:45 Pacífico: Uma versão anterior desta história se referiu erroneamente ao Cobalt 100 da Microsoft como um chip de AI. Na verdade, é um chip de uso geral; O chip AI correto da Microsoft é o MAIA 100. Fizemos a correção necessária.