OpenAI divulga mais detalhes sobre parceria com o Pentágono

O CEO da OpenAI, Sam Altman, reconheceu que o acordo da empresa com o Departamento de Defesa foi finalizado muito rapidamente e que a percepção do público é desfavorável.

Após o rompimento das negociações entre a Anthropic e o Pentágono na sexta-feira, o presidente Donald Trump ordenou que as agências federais parassem de usar a tecnologia da Anthropic após uma transição de seis meses. O secretário de Defesa, Pete Hegseth, classificou a empresa de IA como um risco para a cadeia de suprimentos.

A OpenAI anunciou prontamente seu próprio acordo para implantar modelos em ambientes confidenciais. Com a Anthropic afirmando que proibiria o uso de sua tecnologia em armas totalmente autônomas ou vigilância doméstica em massa — e Altman afirmando que a OpenAI mantém as mesmas restrições — surgiram perguntas: a OpenAI estava sendo transparente sobre suas salvaguardas? Por que ela fechou um acordo quando a Anthropic não conseguiu?

Enquanto os executivos da OpenAI defendiam o acordo nas redes sociais, a empresa também publicou um post no blog detalhando sua estratégia.

A postagem destacou três aplicações específicas nas quais os modelos da OpenAI não são permitidos: vigilância doméstica em massa, sistemas de armas autônomas e “decisões automatizadas de alto risco (como sistemas de ‘crédito social’)”.

A OpenAI afirmou que, ao contrário de outras empresas de IA que “enfraqueceram ou removeram medidas de segurança e dependem principalmente de políticas de uso como salvaguardas em implantações de segurança nacional”, seu acordo mantém suas linhas vermelhas “por meio de uma abordagem mais ampla e em várias camadas”.

“Mantemos controle total sobre nossa infraestrutura de segurança, implantamos via nuvem, temos pessoal autorizado da OpenAI envolvido e aplicamos fortes proteções contratuais”, explicou o blog. “Isso se soma às proteções robustas já fornecidas pela legislação dos EUA.”

A empresa observou ainda: “Não sabemos ao certo por que a Anthropic não conseguiu chegar a um acordo semelhante, e esperamos que ela e outros laboratórios considerem esse caminho”.

Após a publicação do post, Mike Masnick, do Techdirt, argumentou que o acordo “permite a vigilância doméstica”, uma vez que afirma que a coleta de dados privados seguirá a Ordem Executiva 12333 e outras leis. Masnick caracterizou essa ordem como “a base legal que a NSA usa para conduzir vigilância doméstica, interceptando comunicações fora dos EUA, mesmo quando envolvem cidadãos americanos”.

Em uma postagem no LinkedIn, Katrina Mulligan, chefe de parcerias de segurança nacional da OpenAI, argumentou que grande parte do debate sobre a linguagem do contrato pressupõe que “a única barreira contra o uso de IA para vigilância doméstica em massa e armas autônomas é uma única cláusula em um contrato com o Departamento de Guerra”.

“Não é assim que o sistema funciona”, afirmou Mulligan, acrescentando: “A arquitetura de implantação é mais crítica do que a redação do contrato. Ao restringir nossa implantação à API em nuvem, podemos impedir que nossos modelos sejam integrados diretamente a armas, sensores ou outro hardware operacional”.

Altman também abordou questões sobre o acordo no X, admitindo que foi precipitado e provocou uma reação significativa contra a OpenAI — tanto que o Claude, da Anthropic, ultrapassou o ChatGPT da OpenAI na Apple App Store naquele sábado. Então, por que prosseguir?

“Buscamos genuinamente diminuir as tensões e acreditamos que o acordo proposto era benéfico”, disse Altman. “Se estivermos certos e isso levar a uma redução do atrito entre o Departamento de Guerra e a indústria, seremos vistos como visionários — uma empresa que enfrentou dificuldades consideráveis para apoiar o setor. Caso contrário, continuaremos a ser criticados por agir precipitadamente e sem o devido cuidado.”