Satya Nadella faz uma advertência severa às empresas que utilizam IA

Entre os muitos debates em torno das possíveis desvantagens da IA, uma preocupação tem deixado os entusiastas da IA do Vale do Silício particularmente apreensivos: a possibilidade de que os principais laboratórios de IA que vendem modelos proprietários possam estar agindo como cavalos de Tróia.

O receio é que, à medida que startups e empresas adotam modelos de IA de laboratórios como a OpenAI e a Anthropic, esses laboratórios obtenham acesso cada vez maior aos dados comerciais mais confidenciais das empresas. Os criadores dos modelos poderiam então usar esse conhecimento em benefício próprio, tornando-se potencialmente concorrentes de seus próprios clientes. Alertas sobre esse risco vêm de vozes que vão desde o investidor de capital de risco Jason Calacanis até o CEO da Palantir, Alex Karp.

Agora, em uma surpreendente postagem no blog na segunda-feira, o CEO da Microsoft, Satya Nadella, juntou sua voz a essas vozes. Nadella alerta que os usuários de IA — a quem ele chama de “compradores” — estão pagando duas vezes. Eles pagam conscientemente pelo uso de tokens de IA, mas também, sem saber, entregam dados valiosos nesse processo.

“Você basicamente paga pela inteligência duas vezes: uma com dinheiro e outra com algo ainda mais valioso — o conhecimento proprietário que você precisa revelar para tornar essa inteligência útil. Quanto melhor você quiser que o modelo funcione, mais desse conhecimento você terá que fornecer a ele!”, escreve ele.

O mais perigoso, argumenta ele, é que as empresas estão, essencialmente, ensinando aos modelos as nuances de seus próprios negócios.

“Os modelos aprendem com os ‘exhaust’ (dados de treinamento), com as instruções que as pessoas escrevem, com as ferramentas que os agentes usam e, especialmente, com as correções que as pessoas fazem quando o modelo erra. Cada correção é transformada em know-how institucional”, escreve ele.

Esse é “o tipo de conhecimento que um concorrente nunca poderia comprar”, mas as empresas estão dando de graça.

Nadella argumenta que, se as empresas de IA têm permissão para vasculhar livremente a internet para treinar seus modelos, é justo que as empresas possam estudar — ou “destilar” — esses modelos em troca. “Destilação” refere-se ao uso dos próprios resultados de um modelo para entender como ele funciona e treinar um novo modelo, muitas vezes mais barato, com base nessas percepções. Em fevereiro, a Anthropic acusou modelos chineses de código aberto de enviar milhões de prompts ao Claude para aprimorar seus próprios modelos, instando o governo dos EUA a endurecer os controles de exportação.

O argumento de Nadella é que os criadores de modelos não podem ter as duas coisas ao mesmo tempo. É hipócrita da parte deles treinar livremente com os dados do mundo inteiro enquanto impedem que outros façam o mesmo com seus modelos.

“Embora seja necessária a grande inovação que decorre do fato de os fornecedores de modelos terem direitos de uso justo para treinar modelos com dados públicos, acho irônico que o status quo seja, em seguida, dar uma guinada e impor termos restritivos à destilação”, escreve o CEO da Microsoft.

Nadella se mostra particularmente preocupado quando os criadores de modelos “se reservam o direito de aprender com os dados de uso e interação dos clientes”.

A solução de Nadella é o tipo de sugestão que se esperaria de um CEO de um grande provedor de nuvem. Ele quer que as empresas “mantenham a propriedade” de seus dados, incluindo prompts, feedback e muito mais. Por isso, ele as incentiva a construir seus próprios “ambientes de aprendizado proprietários” na nuvem — onde seus dados provavelmente já residem de qualquer maneira e, convenientemente, isso poderia significar a nuvem da Microsoft, o Azure. Ele também recomenda que as empresas implementem o que chama de “camadas de orquestração” — essencialmente uma maneira de alternar facilmente entre modelos de IA de diferentes provedores, em vez de ficarem presas a um único. Ferramentas como os “gateways” de IA, que permitem exatamente isso, têm se tornado cada vez mais populares.

Embora Nadella nunca use a expressão “código aberto” como método para manter a propriedade, esse é um subtexto óbvio. No entanto, há também outro subtexto.

Grandes empresas, muitas das quais ainda operam seus próprios data centers além de usar a nuvem, já estão migrando para modelos de código aberto instalados em suas próprias instalações (“on-prem”, no jargão do setor). Idit Levine, fundadora e CEO da Solo.io — que desenvolve software de rede e segurança para ajudar empresas a gerenciar sistemas de IA —, afirma estar observando exatamente essa mudança em seus próprios clientes. Depois de experimentarem criadores de modelos proprietários, eles começam a perguntar: “Posso pegar um modelo de código aberto e executá-lo no local? Ele fará quase 90% do que os grandes estão fazendo. Vai custar bem menos”, ela diz ao TechCrunch. “Eles entendem isso e podem controlá-lo.”

A tecnologia da Solo.io foi selecionada no ano passado como a base tecnológica do projeto Agentgateway da Linux Foundation. Sua empresa conta com empresas como T-Mobile, ADP e SAP entre seus clientes. Ela observa que as empresas estão cada vez mais instalando modelos de código aberto no local e vê isso como a próxima grande onda no uso da IA corporativa.

Ela não está sozinha. A Vercel — mais conhecida como plataforma para criação e hospedagem de sites, que recentemente adicionou ferramentas de alternância de modelos de IA — e a OpenRouter, uma empresa que ajuda desenvolvedores a direcionar solicitações entre diferentes modelos de IA — estão ambas observando um aumento no tráfego para modelos de código aberto. De fato, os modelos abertos representaram 29% de todo o tráfego roteado pelo gateway da Vercel no mês passado.

Com o CEO da Microsoft — empresa que investiu tanto na OpenAI quanto na Anthropic — agora exortando abertamente as empresas a serem cautelosas quanto ao uso de modelos proprietários, esperamos que essa tendência continue crescendo. “Ao consumir inteligência, você está criando inteligência. E o que você cria deve pertencer a você”, escreve Nadella.