A proibição dos modelos da Anthropic nos EUA não teve a ver com o “jailbreak” da IA

Uma recente carta de fiscalização enviada pelo governo dos EUA à Anthropic, que efetivamente obrigou a empresa a tirar seus mais novos modelos de IA do ar pouco antes do fim de semana, deve servir como um forte alerta para qualquer empresa de tecnologia dos EUA — seja ela um laboratório de IA ou não.

Aqui vai um breve resumo: na tarde de sexta-feira, o Departamento de Comércio dos EUA enviou à Anthropic uma carta citando uma regra pouco conhecida de controle de exportação que proibia não americanos — incluindo os próprios funcionários da Anthropic — de acessar o Fable 5 e o Mythos 5, alegando uma preocupação não especificada com a segurança nacional. A Anthropic afirmou acreditar que a carta se refere a uma violação das medidas de segurança do modelo, mas não tem certeza, pois a carta carece de detalhes específicos. A carta não foi divulgada publicamente.

Em resposta, a Anthropic desativou seus dois principais modelos para todos os clientes, a fim de garantir o cumprimento da diretiva. Como resultado, o governo dos EUA conseguiu forçar uma empresa de tecnologia a tirar seus modelos do ar por meio de uma ação rápida e unilateral que, ao que parece, não exigiu aprovação judicial.

A intervenção da administração Trump na sexta-feira mostra que o setor de IA não está imune à interferência governamental. Ela também envia uma mensagem mais ampla ao mundo da tecnologia: cumpram as regras, ou podemos desativar tanto vocês quanto seus produtos.

Citando fontes, a Axios descreveu uma situação tensa no fim de semana entre as duas principais partes, sugerindo que “diferenças de personalidade” entre a Anthropic e o governo Trump — e não uma falha técnica nos produtos de IA — desencadearam a diretiva de exportação.

Novos detalhes que surgiram no fim de semana agora lançam ainda mais dúvidas sobre o raciocínio já questionável do governo.

Katie Moussouris, veterana em segurança cibernética, pesquisadora e fundadora da Luta Security, escreveu em uma postagem de blog que a Anthropic recentemente compartilhou com ela uma cópia privada de um artigo de pesquisadores de segurança descrevendo uma suposta brecha na proteção do Fable 5. (O Wall Street Journal informa que os autores do artigo são pesquisadores de segurança da Amazon.) Moussouris disse que a Anthropic entrou em contato para pedir sua opinião sobre o artigo.

Em sua postagem no blog, Moussouris descreveu como os pesquisadores acionaram a burla da barreira de segurança, mas observou que a burla em si “nunca deveria ter acionado um controle de exportação”. A principal diferença está entre pedir a um modelo de IA para “analisar o código em busca de problemas de segurança” e pedir que ele “corrija esse código”. O resultado final é basicamente o mesmo, mesmo quando as perguntas são formuladas de maneira ligeiramente diferente.

“O comportamento descrito no artigo não pode ser corrigido de forma significativa, e qualquer tentativa apenas enfraqueceria o modelo de defesa”, disse Moussouris, que criticou a diretiva de controle de exportação como precipitada, autoritária e equivocada.

Moussouris, juntamente com dezenas de outros pesquisadores e especialistas de segurança de ponta, tem, desde então, instado o governo Trump a revogar a ordem de controle de exportação, classificando como “perigosa” a medida de retirar recursos avançados de segurança cibernética dos defensores de rede nos EUA.

Administrações anteriores tomaram decisões abrangentes com base em lacunas de conhecimento. Por exemplo, a linguagem utilizada pelo governo dos EUA durante a década de 2010 para ajustar as leis de exportação relativas a ferramentas de segurança cibernética que também poderiam ser usadas para ataques cibernéticos era tão ampla que, inadvertidamente, quase criminalizou pesquisas legítimas sobre segurança e vulnerabilidades.

No entanto, a diretiva do governo Trump parece ser uma medida retaliatória.

Justin Hendrix, editor da Tech Policy Press, afirmou que a medida do governo Trump “provavelmente causará preocupação em capitais estrangeiras quanto à confiabilidade da IA americana para aplicações críticas”. A mensagem é que não se pode confiar que as empresas de IA nos Estados Unidos operem sem interferência do governo americano.

O governo Trump não confirmou por que invocou a diretiva de controle de exportação. Será que as autoridades interpretaram mal o relatório e reagiram de forma exagerada? Será que o CEO da Amazon, Andy Jassy, disse algo a altos funcionários do governo que motivou a resposta, por precaução ou por rancor? Houve algum equívoco na tradução, ou essa foi uma maneira de pressionar a Anthropic, com quem o governo já mantém uma relação tensa? É possível que a Casa Branca não estivesse ciente das consequências de longo alcance da exigência contida na carta e que as autoridades estejam agora se esforçando para reparar o dano que causaram.

Para citar Hendrix, “o clima é de uma nuvem de suspeita de que altos funcionários estejam favorecendo alguns com base em fatores pessoais e políticos”. O resultado é que o governo estabeleceu um precedente perigoso em relação ao grau de controle que pretende exercer sobre o lançamento de softwares desenvolvidos nos Estados Unidos.

Desta vez, o governo questionou a Anthropic; amanhã, pode ser qualquer outra empresa.