A eficiência de custos da IA atende às preocupações com a soberania dos dados

A tensão entre a eficiência de custos da IA e a soberania dos dados está levando as organizações globais a reavaliar suas estratégias de gestão de riscos empresariais.

Por mais de um ano, a conversa sobre IA generativa centrou-se em uma corrida de capacidades, frequentemente avaliando o sucesso por meio de contagens de parâmetros e pontuações de benchmark imperfeitas. As discussões nas salas de reunião estão agora passando por uma mudança necessária de foco.

Embora o apelo de modelos de baixo custo e alto desempenho apresente um caminho atraente para a inovação rápida, os riscos ocultos relacionados à residência de dados e à influência do Estado estão levando a uma reavaliação das escolhas de fornecedores. O laboratório de IA DeepSeek, com sede na China, surgiu recentemente como um exemplo central nessa discussão em todo o setor.

Bill Conner, ex-consultor da Interpol e do GCHQ e atual CEO da Jitterbit, observa que o DeepSeek foi inicialmente bem recebido por desafiar as normas estabelecidas, provando que “modelos de linguagem de alto desempenho nem sempre precisam de financiamento no nível do Vale do Silício”.

Para empresas que buscam reduzir as despesas substanciais de programas-piloto de IA generativa, essa relação custo-benefício era naturalmente atraente. Conner destaca que esses “custos de treinamento supostamente baixos reviveram inequivocamente o diálogo do setor sobre eficiência, otimização e soluções de IA ‘boas o suficiente’”.

Riscos da IA e da soberania dos dados

O entusiasmo pelo desempenho econômico esbarrou nas realidades geopolíticas. A eficiência operacional não pode ser separada da segurança dos dados, especialmente quando os dados alimentam modelos hospedados em regiões com padrões legais diferentes para privacidade e acesso governamental.

Informações recentes sobre o DeepSeek mudaram o cálculo de risco para as empresas ocidentais. Conner enfatiza “divulgações recentes do governo dos EUA sugerindo que o DeepSeek não apenas armazena dados na China, mas também os fornece ativamente a agências de inteligência do Estado”.

Esse desenvolvimento eleva a questão além da conformidade padrão com o GDPR ou CCPA. O “nível de risco sobe acima das questões convencionais de privacidade e entra no território da segurança nacional”.

Para os líderes corporativos, isso cria um perigo distinto. A integração do LLM normalmente não é uma ação isolada; envolve vincular o modelo a repositórios de dados proprietários, sistemas de informações de clientes e bancos de dados de propriedade intelectual. Se o modelo central de IA contiver uma “porta dos fundos” ou for obrigado a compartilhar dados com um serviço de inteligência estrangeiro, a soberania dos dados será perdida e a organização efetivamente prejudicará suas próprias defesas de segurança, anulando qualquer economia de custos.

Conner adverte que “as conexões da DeepSeek com redes de aquisições militares e os supostos métodos para contornar os controles de exportação devem servir como um alerta crucial para CEOs, CIOs e diretores de risco”. O uso dessa tecnologia pode, sem querer, envolver uma empresa em violações de sanções ou vulnerabilidades na cadeia de suprimentos.

O sucesso agora depende não apenas da geração de código ou dos recursos de resumo de documentos, mas também dos padrões legais e éticos do provedor. Em setores como finanças, saúde e defesa, não há tolerância para incertezas sobre a origem dos dados.

As equipes técnicas podem se concentrar nas métricas de desempenho da IA e na facilidade de integração durante as etapas de prova de conceito, possivelmente negligenciando o contexto geopolítico da ferramenta e os requisitos de soberania de dados. Os diretores de risco e CIOs devem implementar uma governança que questione a origem e a propriedade do modelo, não apenas sua funcionalidade.

Governança sobre a eficiência de custos da IA

A decisão de adotar ou proibir um determinado modelo de IA é uma questão de responsabilidade corporativa. Os acionistas e clientes esperam que seus dados permaneçam seguros e sejam usados exclusivamente para os fins comerciais acordados.

Conner articula isso claramente para a liderança ocidental, afirmando que “para CEOs, CIOs e diretores de risco ocidentais, não se trata de desempenho do modelo ou economia de custos”. Em vez disso, “é uma questão de governança, responsabilidade e dever fiduciário”.

As empresas “não podem implementar razoavelmente um sistema em que a localização dos dados, os objetivos de uso e a influência do governo são essencialmente obscuros”. Essa falta de transparência cria um risco inaceitável. Mesmo que um modelo ofereça 95% do desempenho de um concorrente pela metade do preço, a possibilidade de penalidades regulatórias, danos à reputação e perda de propriedade intelectual pode imediatamente anular essas economias.

O exemplo da DeepSeek incentiva as organizações a revisarem suas cadeias de suprimentos de IA atuais. Os executivos devem garantir visibilidade completa sobre onde ocorre o processamento do modelo e quem controla o acesso aos dados fundamentais.

À medida que o mercado de IA generativa evolui, a confiança, a transparência e a soberania dos dados provavelmente se tornarão mais valiosas do que a pura eficiência de custos.

Veja também: SAP e Fresenius construirão backbone de IA soberano para a área da saúde

Interessado em aprender mais sobre IA e big data com especialistas do setor? Visite a AI & Big Data Expo que acontecerá em Amsterdã, Califórnia e Londres. Este extenso evento faz parte da TechEx e acontece paralelamente a outras importantes conferências de tecnologia, incluindo a Cyber Security & Cloud Expo. Encontre mais detalhes aqui.

O AI News é desenvolvido pela TechForge Media. Descubra outros eventos e webinars de tecnologia empresarial que estão por vir aqui.