Deepseek aumenta os gastos da IA, ao contrário das crenças

A queda do mercado de ações em janeiro, estimulada pelo burburinho em torno da IA ​​da AI, a IA da AI, e seu método de computação econômica, pode levar alguém a acreditar que as empresas estão recuando em seus investimentos em chips e sistemas de IA. No entanto, minha experiência na conferência generativa de IA em Nova York, organizada pela Bloomberg Intelligence, pintou uma imagem diferente. O entusiasmo por expandir o uso de IA generativa foi palpável, sugerindo que os gastos nessa área estão longe de desacelerar.

Além disso: o que é Deepseek AI? É seguro? Aqui está tudo que você precisa saber

A conferência, intitulada "AI generativa: as leis de escala Post Deepseek", foi preenchida com discussões que enfatizavam a demanda em andamento, impulsionando o aumento do investimento na IA.

"Hoje tivemos dez painéis, e nem uma única pessoa nesses painéis disseram que temos mais capacidade do que precisamos", comentou Mandeep Singh, analista sênior de tecnologia da Bloomberg Intelligence e um dos organizadores do evento.

"E ninguém estava falando sobre uma bolha" na infraestrutura, Singh acrescentou, destacando a confiança do setor no futuro da IA.

A infraestrutura da IA ​​Build: onde estamos?

Anurag Rana, colega de Singh na Bloomberg Intelligence e um analista sênior de serviços de TI e software, fez uma pergunta crítica: "A pergunta mais importante agora em frente a todos é a infraestrutura da IA. Sim. Onde estamos nesse ciclo?"

"Ninguém sabe" com certeza, Rana admitiu. No entanto, a esperança desencadeada pela AI Deepseek é que avanços significativos podem ser alcançados com menos despesa.

"Deepseek sacudiu muitas pessoas", disse ele. "Se você não está precisando de muitas GPUs para executar modelos, por que precisamos de US $ 500 bilhões para o projeto Stargate", observou ele, referenciando um projeto de IA planejado, envolvendo o Softbank Group do Japão, Openai e Oracle.

Rana observou que o setor espera que os custos de IA despencem, espelhando o rápido declínio nos custos de computação em nuvem.

Além disso: o novo modelo de imagem de Deepseek é outra vitória para a IA mais barata?

"Essa queda na curva de custo, que provavelmente levou seis, sete, oito anos para armazenar um terabyte de dados na Amazon AWS, quando começou versus hoje, a economia era boa", disse ele. "E é isso que todo mundo está esperando, que do lado da inferência" da IA ​​", se a curva cair para esse nível, oh meu Deus, a taxa de adoção da IA ​​no lado do usuário final, ou, o lado da empresa, será espetacular".

Singh concordou, observando que o surgimento de Deepseek AI "mudou a mentalidade de todos em alcançar a eficiência".

Ao longo do dia, numerosos painéis mergulharam em projetos corporativos de IA, desde o início até a implantação. No entanto, havia um tema recorrente: a necessidade de reduzir drasticamente os custos da IA ​​para ampliar sua acessibilidade.

"Não acho que o Deepseek tenha sido uma surpresa", disse Shawn Edwards, o principal tecnólogo da Bloomberg, em entrevista com David Dwyer, chefe da Bloomberg Intelligence. "O que isso me fez pensar é que seria ótimo se você pudesse acenar uma varinha e fazer com que esses modelos funcionem de maneira incrivelmente eficiente", disse ele, imaginando um futuro em que todos os modelos de IA poderiam operar com tanta eficiência.

A proliferação de modelos de IA

Uma razão pela qual muitos participantes do painel antecipam aumentar, em vez de diminuir, o investimento na infraestrutura de IA é o número crescente de modelos de IA. Um dos principais argumentos do dia foi que não haverá um único modelo de IA para governar todos eles.

"Usamos uma família de modelos", explicou Edwards. "Não existe o melhor modelo".

Os participantes do painel concordaram que, embora os modelos de linguagem grande de "Fundação" ou "Frontier" continuem a evoluir, as empresas individuais podem empregar centenas ou até milhares de modelos de IA.

Além disso: a ascensão dos PCs da IA: como as empresas estão reformulando sua tecnologia para acompanhar

Esses modelos podem ser ajustados nos dados proprietários de uma empresa, um processo de reinicialização de uma rede neural após seu "pré-treinamento" inicial em dados genéricos.

"Os agentes da empresa exigem opcionalidade entre os modelos", disse Jed Dougherty, chefe da estratégia de plataforma para a empresa de ciência de dados apoiada por empreendimentos Dataiku. "Eles precisam da capacidade de controlar e criar e ter auditabilidade" dos modelos de IA.

"Queremos colocar as ferramentas para construir essas coisas nas mãos das pessoas", disse ele. "Não queremos dez PhDs construindo todos os agentes".

Da mesma forma, a Adobe, líder em ferramentas de design, está apostando em modelos personalizados como um caso de uso essencial para criativos. "Podemos treinar extensões de modelos personalizados para sua marca, que podem ajudar para uma nova campanha publicitária", disse o chefe de novos empreendimentos de negócios da Adobe, Hannah Elsakr, em uma discussão com a âncora da Bloomberg TV Romaine Bostick.

Aumento da demanda de processamento

Como nos modelos de IA, a proliferação de agentes de IA nas empresas está impulsionando as demandas de processamento, sugeriram muitos palestrantes.

"Você não fará um processo inteiro em um agente, você o divide em partes", disse Ray Smith, chefe de agentes e automação da Microsoft Chefe de Copilot Studio.

Smith previu que, através de uma única interface, como a Copilot, "vamos interagir com centenas de agentes - eles são apenas aplicativos no novo mundo" da programação.

"Daremos ao agente o processo de negócios, diremos o que queremos realizar", e o agente realizará tarefas. "Os aplicativos Agentic são apenas uma nova maneira de fluxo de trabalho", disse ele.

Além disso: a NVIDIA domina em benchmarks da Gen AI, batendo 2 chips rivais da AI

Esses cenários cotidianos são "todos tecnologicamente possíveis", observou Smith, "é apenas o ritmo em que construímos".

O impulso para trazer "agentes" de IA para mais pessoas dentro das organizações está necessitando ainda mais de reduções de custos, disse James McNiven, chefe de gerenciamento de produtos da Microprocessor Maker Arm Holdings, em uma conversa com o Hyde da Bloomberg.

"Como fornecemos acesso a mais e mais dispositivos", ele posou. "Estamos vendo modelos em um nível de doutorado" da capacidade de tarefas, disse ele.

McNiven sugeriu que esses agentes serviram como assistentes a seres humanos, desenhando um paralelo a quando os sistemas de pagamento foram introduzidos nos países em desenvolvimento através de telefones celulares há uma década: "Como levamos isso a pessoas que podem usar essa habilidade?"

A proliferação de modelos de fundação

Até os modelos genéricos de fundação estão proliferando a uma taxa surpreendente.

A Amazon AWS possui 1.800 modelos diferentes de IA disponíveis, Dave Brown, chefe da AWS Computing and Networking, disse à âncora da Bloomberg TV Caroline Hyde. A empresa está "fazendo muito para reduzir o custo" de administrar os modelos, disse ele, incluindo o desenvolvimento de chips de IA personalizados, como o Trainium.

A AWS está "usando mais de nossos próprios processadores do que os processadores de outras empresas", disse Brown, aludindo a Nvidia, AMD, Intel e outros fornecedores de chip de uso geral.

Além disso: o novo gerador de imagens do ChatGPT destruiu minhas expectativas - e agora é grátis para tentar

"Os clientes fariam mais se o custo fosse menor", disse Brown.

A AWS trabalha diariamente com os fabricantes antrópicos da família Modelo de Língua Claude, observou Brown. O chefe antrópico de interfaces de programação de aplicativos, Michael Gerstenhaber, na mesma conversa com Hyde, observou que "os modelos de pensamento fazem com que muita capacidade seja usada", referindo-se à tendência dos chamados modelos de raciocínio, como as respostas finais R1 e GPT-O1, para produzir declarações verbosas sobre os argumentos finais para suas respostas finais.

A Anthropic está trabalhando em estreita colaboração com a AWS em maneiras de reduzir o orçamento de computação, como "cache rápido", armazenando os cálculos de respostas anteriores.

Apesar dessa tendência, ele disse: "precisa de centenas de milhares de aceleradores", ou seja, chips de silicone focados na IA ", em muitos data centers" para executar seus modelos.

Além disso, o crescente custo energético da alimentação da IA ​​não mostra sinais de desaceleração, disse Brown. Os data centers atuais estão consumindo centenas de megawatts, ele observou, e acabará por exigir Gigawatts. "O poder que consome", que significa ai, "é grande, e a pegada é grande em muitos data centers".

Além disso: a computação global de IA usará 'vários NYCs' de poder até 2026, diz o fundador

Incerteza econômica e investimento de IA

Apesar dos cenários ambiciosos, um fator pode atrapalhar todos os casos de uso e planos de investimento: a economia.

À medida que a conferência estava terminando na noite de quarta-feira, os participantes do painel e os hóspedes estavam monitorando o mergulho após o horário comercial no mercado de ações. O presidente dos EUA, Donald Trump, acabara de anunciar um pacote global de tarifas maiores e mais amplas do que a maioria em Wall Street havia previsto.

As áreas tradicionais de investimento em tecnologia, como servidores e armazenamento, e não a IA, podem ser as vítimas iniciais de qualquer contração econômica, disse o Rana da Bloomberg.

"A outra grande coisa em que estamos focados são os gastos com tecnologia não ai", disse ele sobre as tarifas. "Quando olhamos para IBM, Accenture, Microsoft e todos os outros, quando deixamos de lado a IA por um segundo, isso é algo que será uma luta nessa temporada de ganhos".

Os CFOs das principais empresas podem priorizar a IA e mudar fundos, mesmo que tenham que cortar seus orçamentos em meio à incerteza econômica e recessão potencial, sugeriu Rana.

No entanto, essa perspectiva otimista não é garantida.

"O que estou mais interessado em descobrir é que, se todas essas grandes empresas manterão intactas suas metas Cap-Ex [gastos com capital]", disse Rana, incluindo data centers de IA, "ou eles vão dizer, você sabe o quê? É muito incerto".