A OpenAI teme modelos de pesos abertos. Os Estados Unidos deveriam se preocupar?

O lançamento do Kimi K3, o maior modelo de linguagem de grande escala de pesos abertos do laboratório chinês Moonshot, acendeu um debate que confunde duas questões distintas: as estratégias econômicas dos gigantes americanos de IA e a trajetura tecnológica dos LLMs.

Dean W. Ball, diretor de futuros estratégicos da OpenAI, sugeriu que o governo dos Estados Unidos deveria gerar medo e incerteza regulatórios em torno dos novos modelos, argumentando que as arquiteturas de pesos abertos inevitavelmente desestimulam os gastos de capital dos laboratórios de ponta.

A reação foi rápida, com líderes tecnológicos como Yann LeCun e Martin Casado sustentando que o software aberto acelera a inovação e pode coexistir com projetos proprietários. Ball posteriormente retratou suas afirmações de que uma repressão regulatória era a “melhor estratégia” da Casa Branca e que os modelos de pesos abertos necessariamente impediam o progresso tecnológico.

No entanto, o Axios relata que a administração Trump está considerando proibir o K3 e outros modelos chineses avançados a pedido dos laboratórios de ponta americanos. Por outro lado, um relatório do Politico indica que o Departamento de Comércio não planeja tomar tal ação no futuro próximo.

A vantagem para as grandes empresas de IA é clara: os modelos de pesos abertos, que podem ser executados em infraestrutura independente ou dentro de empresas, fornecem inteligência mais barata do que as ofertas proprietárias da Anthropic ou da OpenAI. Se os usuários gastarem cada vez mais fora dos laboratórios fechados, o retorno sobre os enormes investimentos em treinamento dos laboratórios de ponta diminui.

Essa perspectiva vai além da OpenAI. “Modelos de código aberto de alto nível e de ponta apertarão as margens e reduzirão os preços para as empresas de ponta”, disse Braden Hancock, cofundador da Snorkel AI e parceiro de pesquisa do Instituto Laude, à TechCrunch. “Isso não necessariamente reduzirá o uso de IA; é mais provável que ocorra exatamente o oposto.”

Para aqueles que não têm participação na Anthropic ou na OpenAI, isso não é um problema. A IA continuará a proliferar. Então, o que justifica o governo bloquear os americanos de comprar produtos em mercados supostamente livres?

As preocupações em relação aos modelos chineses variam. Um argumento envolve proteger os dados dos EUA do governo chinês, semelhante à proibição de modernos carros elétricos chineses devido a preocupações com a privacidade dos dados. No entanto, os especialistas acreditam que os modelos de pesos abertos hospedados em servidores dos EUA dificilmente vazariam dados de volta para a China, embora isso ainda seja uma possibilidade.

Outra preocupação é que esses modelos possam conter viés implícito em favor da RPC, embora as implicações para tarefas como programação ainda não estejam claras.

Uma terceira preocupação comum é que os modelos chineses não possuam as salvaguardas exigidas pelo governo dos EUA (por meio de um processo opaco) para evitar a exploração de sistemas fechados ou a criação de armas. No entanto, essas mesmas salvaguardas podem tornar as empresas americanas mais vulneráveis: David Sacks, capitalista de risco e conselheiro de Trump, destacou casos em que empresas dos EUA recorrem a LLMs chineses para contornar as restrições de segurança impostas pelos modelos de fronteira dos EUA.

A motivação mais significativa para restringir esses modelos, no entanto, é o medo de que a China ultrapasse os EUA se os laboratórios de ponta desacelerarem seu desenvolvimento.

Sam Bresnick, pesquisador focado na China no Centro de Segurança e Tecnologias Emergentes da Universidade de Georgetown, argumenta que a crescente importância da IA para as operações militares dos EUA justifica o investimento contínuo nos laboratórios de ponta. No entanto, ele observa que toda a questão é repleta de complexidades.

“Por que o peso do governo dos EUA deve ser direcionado a proteger essas empresas de concorrentes que estão sendo excluídos do mercado dos EUA com base em sua origem?”, pergunta Bresnick.

Os defensores da IA aberta argumentam que as empresas de ponta estão criando uma falsa dicotomia entre inovação e modelos fechados.

“O impacto maior de ter esses modelos de código aberto vindos da China não é que eles estejam se infiltrando por portas dos fundos, mas sim que estão assumindo a inovação”, disse Hancock à TechCrunch. “Você acaba tendo, efetivamente, uma força de trabalho ampliada trabalhando no seu modelo. O PyTorch se tornou o padrão da indústria porque era de código aberto, e assim toda a comunidade poderia contribuir para ele, em vez de apenas uma empresa, e ele cresceu e cresceu, enquanto todas as outras bibliotecas de aprendizado profundo praticamente morreram em comparação.”

Hancock e outros defensores temem que os LLMs chineses se tornem o centro da pesquisa internacional. Já, os programas de pós-graduação dos EUA baseiam-se principalmente em modelos chineses de pesos abertos, e Hancock afirma que metade dos artigos que os estudantes estudam originam-se de instituições chinesas, à medida que os laboratórios de fronteira dos EUA hesitam cada vez mais em compartilhar seu trabalho amplamente.

“Restringir modelos abertos não tornaria a IA mais segura”, disse Clem Delangue, CEO da Hugging Face, uma plataforma para colaboração em IA aberta. “Simplesmente ocultaria os riscos, concentraria o poder nas mãos de poucos e tornaria mais difícil para a próxima geração de construtores, pesquisadores, academia, organizações sem fins lucrativos e governos participarem da criação de uma IA mais segura e benéfica para todos.”

Bresnick sugere que a verdadeira maneira de desacelerar o progresso da China é focar nos controles de exportação de chips. Uma estratégia melhor para preservar a liderança dos EUA em IA seria parar de vender processadores Nvidia H200 para a China. “Isso”, diz ele, “potencialmente nos manteria fora deste debate espinhoso sobre a proibição de tecnologias de código aberto que um grande número de empresas dos EUA deseja usar.”

Parte do problema reside na incerteza em torno da economia da IA. “O modelo de negócios aberto, o modelo de negócios proprietário — nenhum deles está definido. As empresas de IA estão tendo dificuldades para descobrir como ganhar dinheiro com suas ferramentas, especialmente à medida que os custos de treinamento precisam aumentar cada vez mais”, aponta Bresnick.

Os mesmos desafios que ocorrem nos EUA também são evidentes na China, onde as empresas de IA têm dificuldades para gerar receita e acessar poder de computação. O governo chinês incentiva o lançamento aberto por razões políticas, apesar das dificuldades em capitalizá-los.

Algumas empresas dos EUA, incluindo a Thinking Machines Lab e a Nvidia, estão tentando construir um negócio em torno do lançamento de modelos abertos. Hancock observa que a Nvidia se beneficiaria mais “se houver dezenas ou centenas de empresas construindo IA do que se houver apenas duas ou três com capital suficiente para produzir seus próprios chips”, o que explica seu investimento na Nemotron, uma coleção de modelos abertos.

“O ponto principal é que os EUA seriam muito bem servidos por ter seus próprios modelos abertos muito capazes e muito mais baratos”, disse Bresnick. “Isso apenas entra em conflito com a abordagem que os laboratórios de ponta adotaram.”

Com reportagem adicional de Rebecca Bellan.