Ai computando para consumir poder de múltiplos NYCs até 2026, diz o fundador

Nvidia e parceiros expandem os data centers de IA em todo o mundo

A NVIDIA, juntamente com seus parceiros e clientes, vem expandindo ativamente o tamanho das instalações de computadores em todo o mundo para atender às altas demandas computacionais do treinamento de modelos maciços de inteligência artificial (AI) como o GPT-4. Essa expansão está definida para se tornar ainda mais crucial à medida que os modelos adicionais de IA são implantados na produção, de acordo com Thomas Graham, co-fundador da startup de computação óptica LightMatter. Em uma entrevista recente em Nova York com Mandeep Singh, analista sênior de tecnologia da Bloomberg Intelligence, Graham destacou a crescente necessidade de recursos computacionais.

"A demanda por mais computação não é apenas sobre escalar leis; também se trata de implantar esses modelos de IA agora", explicou Graham. Singh perguntou sobre o futuro de grandes modelos de idiomas (LLMS) como o GPT-4 e se eles continuariam a crescer em tamanho. Em resposta, Graham mudou o foco para a aplicação prática da IA, enfatizando a importância de inferir ou a fase de implantação, que requer poder computacional substancial.

"Se você considera treinar como P&D, a inferência é essencialmente implantação. À medida que você implanta, precisará de computadores em larga escala para executar seus modelos", afirmou Graham durante o "Gen Ai: ele pode cumprir a promessa de produtividade?" Conferência realizada pela Bloomberg Intelligence.

A perspectiva de Graham se alinha com a do CEO da Nvidia, Jensen Huang, que enfatizou a Wall Street que o avanço dos formulários de IA "Agentic" exigirá não apenas treinamento mais sofisticado, mas também aprimorou significativamente as capacidades de inferência, resultando em um aumento exponencial nos requisitos de computação.

O papel do LightMatter na infraestrutura de IA

Fundada em 2018, a LightMatter está na vanguarda do desenvolvimento da tecnologia Chip que usa conexões ópticas para vincular vários processadores em um único dado de semicondutor. Essas interconexões ópticas podem transferir dados com mais eficiência do que os fios de cobre tradicionais, usando menos energia. Essa tecnologia pode otimizar as conexões dentro e entre os racks de data center, melhorando a eficiência geral e a economia do data center, de acordo com Graham.

"Ao substituir traços de cobre em data centers - tanto na placa de circuito impresso do servidor quanto no cabeamento entre racks - com fibra óptica, podemos aumentar drasticamente a largura de banda", disse Graham à Singh. A LightMatter está atualmente colaborando com várias empresas de tecnologia no design de novos data centers, e Graham observou que essas instalações estão sendo construídas desde o início. A Companhia já estabeleceu uma parceria com a Global Foundries, um fabricante de semicondutores contratados com operações no norte de Nova York, que atende clientes como Micro Dispositivos Avançados.

Embora Graham não tenha divulgado parceiros e clientes específicos além dessa colaboração, ele sugeriu que a LightMatter trabalha com provedores de silício como Broadcom ou Marvell para criar componentes personalizados para gigantes da tecnologia como Google, Amazon e Microsoft, que projetam seus próprios processadores de data center.

A escala e o futuro dos data centers de IA

Para ilustrar a magnitude da implantação da IA, Graham apontou que pelo menos uma dúzia de novos data centers de IA estão planejados ou em construção, cada um exigindo um gigawatt de poder. "Para o contexto, a cidade de Nova York usa cerca de cinco gigawatts de poder em um dia médio. Então, estamos falando sobre o consumo de energia de várias cidades de Nova York", disse ele. Ele prevê que, até 2026, o processamento global de IA exigirá 40 gigawatts de poder, equivalente a oito cidades de Nova York, especificamente para data centers de IA.

A LightMatter recentemente garantiu um investimento de capital de risco de US $ 400 milhões, avaliando a empresa em US $ 4,4 bilhões. Graham mencionou que a empresa pretende iniciar a produção "nos próximos anos".

Quando perguntado sobre possíveis interrupções nos planos da LightMatter, Graham expressou confiança na necessidade contínua de expandir a infraestrutura de computação de IA. No entanto, ele reconheceu que um avanço nos algoritmos de IA que exige significativamente menos computação ou alcançando a inteligência geral artificial (AGI) mais rapidamente poderia desafiar as suposições atuais sobre a necessidade de crescimento de computação exponencial.