Sua empresa vai confiar em centenas de modelos de IA. Aqui está o porquê

No cenário tecnológico atual, assim como as empresas frequentemente gerenciam múltiplos serviços em nuvem e bancos de dados para diferentes necessidades, há uma tendência crescente de usar múltiplos modelos de IA para diversos propósitos. Uma pesquisa recente envolvendo mais de 1.000 tomadores de decisão em TI revela que os adotantes mais avançados de IA estão atualmente gerenciando centenas de modelos ao mesmo tempo.

Entramos no que está sendo chamado de era do "multi-modelo de IA". De acordo com a pesquisa da S&P Global Market Intelligence, patrocinada pela Vultr, o número médio de modelos de IA em uso é de 158, com expectativas de que esse número suba para 176 no próximo ano.

A pesquisa também constatou que os usuários mais avançados de IA estão operando com uma média de 175 modelos, com projeções de aumentar esse número em 14% para 200 modelos no próximo ano. Aqueles no segundo nível mais alto de maturidade em IA preveem um crescimento anual de 18% no número de modelos. Além disso, dois terços dos gerentes pesquisados (66%) estão desenvolvendo seus próprios modelos ou utilizando opções de código aberto.

Há razões sólidas para usar múltiplos modelos em diferentes aplicações. Por exemplo, um estudo do MIT destaca um sistema que emprega três modelos treinados em dados de linguagem, visão e ação para auxiliar robôs no planejamento e execução de tarefas em ambientes domésticos, de construção e manufatura. "Cada modelo de fundação captura um aspecto diferente do processo de tomada de decisão e colabora quando é hora de tomar decisões", explicaram os pesquisadores do MIT.

Essa tendência está levando ao que é conhecido como uma abordagem de "ensemble" para IA, onde múltiplos modelos trabalham juntos para produzir resultados, como Erica Dingman descreveu em um post da MovableInk. "A diferença entre usar um único modelo e um modelo de ensemble é como comparar um violino solo a uma orquestra completa", ela observou. "Embora cada instrumento tenha seu valor, juntos eles criam algo verdadeiramente mágico." Além disso, usar conjuntos de dados diversos e atualizar e treinar continuamente um ensemble de modelos pode ajudar a mitigar ou eliminar vieses nos resultados de IA.

A adoção generalizada e a diversidade de sistemas que suportam modelos de IA estão impulsionando essa proliferação. A IA está sendo cada vez mais implantada na borda, de acordo com a pesquisa da S&P e Vultr. "Arquiteturas de IA distribuídas, com a borda desempenhando um papel crucial em aplicações que abrangem a infraestrutura de uma organização, provavelmente se tornarão o padrão", afirmaram os autores da pesquisa. A grande maioria (85%) dos tomadores de decisão em TI acredita que essa mudança é provável ou extremamente provável em seus ambientes, com 32% considerando-a "extremamente provável".

A pesquisa identificou organizações líderes na adoção de IA, rotulando-as como tendo "práticas transformacionais de IA". Metade desses líderes está desempenhando "significativamente melhor" do que seus pares da indústria em níveis operacionais. Quase todos esses líderes relataram melhorias em seu desempenho anual de 2022 a 2023 em várias métricas, incluindo satisfação do cliente (90%), receita (91%), redução de custos/expansão de margens (88%), gerenciamento de riscos (87%), marketing (89%) e participação de mercado (89%).

Em todas as organizações pesquisadas, espera-se que os gastos com IA superem os gastos gerais com TI. Quase nove em cada dez empresas (88%) planejam aumentar os gastos com IA em 2025, com 49% prevendo aumentos moderados a significativos.

No entanto, o rápido crescimento no uso de IA traz desafios, particularmente em relação às infraestruturas de TI existentes. "Quando se trata de atividades de IA de alta demanda, como inferência em tempo real, os entrevistados estão preocupados que sua infraestrutura atual pode não ser suficiente", observaram os autores da pesquisa. As três principais preocupações incluem recursos insuficientes de CPU ou GPU (65%), problemas de localidade de dados (53%) e problemas de desempenho de armazenamento (50%).

Os dados qualitativos da pesquisa ecoaram essas preocupações, com entrevistados mencionando atrasos na programação de instâncias de GPU de maior capacidade em nuvens públicas e possíveis impactos na disponibilidade de dados. Além disso, há uma crescente preocupação com o custo da infraestrutura. "O custo frequentemente se torna uma preocupação mais urgente quando os projetos estão em produção. Historicamente, as organizações têm lutado para prever esses custos com precisão", concluíram os autores.