As advertências de segurança da Anthropic saem pela culatra, enquanto o governo suspende sua IA mais poderosa

Na sexta-feira, o governo dos EUA determinou que a Anthropic desativasse imediatamente o acesso a dois de seus sistemas de IA mais avançados, o Claude Fable 5 e o Claude Mythos 5, alegando riscos à segurança nacional. A Anthropic confirmou o cumprimento da determinação pelo X, mas afirmou acreditar que a decisão do governo foi equivocada.

Segundo a Anthropic, a diretiva chegou às 17h21 (horário da costa leste) na sexta-feira, exigindo que a empresa bloqueasse ambos os modelos para todos os usuários globais, indo além dos estrangeiros originalmente visados pela ordem de controle de exportação. Outros modelos da Anthropic não foram afetados.

Por que isso importa? O Mythos representa a IA mais poderosa da Anthropic, apresentada em pré-estreia no início de abril e mantida sob restrições rigorosas devido à sua capacidade excepcional de identificar vulnerabilidades de segurança em softwares. A Anthropic relata que o Mythos encontrou falhas em todos os principais sistemas operacionais e navegadores da web testados. Consequentemente, em vez de um lançamento amplo, a empresa lançou o Projeto Glasswing, um programa controlado que distribui acesso a aproximadamente 50 organizações selecionadas, incluindo Amazon, Apple, Google, Microsoft e CrowdStrike, para fins defensivos de segurança cibernética.

O Fable 5, lançado há apenas três dias, atende às pressões comerciais ao oferecer uma versão do Mythos com restrições que bloqueiam respostas em setores de alto risco, como segurança cibernética e biologia. A Anthropic argumenta que isso o torna seguro para uso geral, e testes de benchmark realizados pela Vals AI, que acompanha o desempenho de IA, confirmam que ele é atualmente o modelo de IA público mais capaz.

Créditos da imagem:Vals AI /

Embora o governo apresente isso como uma medida de controle de exportação que limita o acesso estrangeiro, a Anthropic argumenta, em uma postagem detalhada no blog, que a verdadeira questão é uma suposta “jailbreak” do Fable 5. A empresa afirma que o governo apresentou apenas evidências verbais de uma “possível fuga restrita e não universal”, que envolve instruir o modelo a analisar uma base de código específica em busca de falhas de software. A Anthropic observa que essa capacidade já está amplamente disponível em outros modelos públicos, como o GPT-5.5 da OpenAI, e é rotineiramente utilizada por profissionais de segurança cibernética para fins de defesa.

O argumento central da Anthropic é que suas proteções mais robustas dependem de sistemas classificadores independentes, separados do próprio modelo. Isso significa que, mesmo que um usuário contorne uma recusa, as proteções subjacentes contra resultados perigosos permanecem ativas.

Apesar dessas salvaguardas, o governo seguiu adiante com sua ação, e a Anthropic expressou abertamente sua frustração. “Discordamos que a descoberta de uma possibilidade restrita de ‘jailbreak’ deva ser motivo para a retirada de um modelo comercial implantado para centenas de milhões de pessoas”, escreveu a empresa. “Se esse padrão fosse aplicado em todo o setor, acreditamos que isso basicamente interromperia todas as novas implantações de modelos por parte de todos os fornecedores de modelos de ponta.”

Espera-se amplamente que a Anthropic realize uma oferta pública inicial (IPO) este ano, posicionando-se como a alternativa preocupada com a segurança em relação aos concorrentes. Observadores apontam a ironia de que a cautela que a Anthropic exerceu ao restringir o Mythos — promovendo-o como perigoso demais para lançamento público — tenha agora desencadeado exatamente o escrutínio governamental que poderia prejudicar seus negócios.

Sam Altman, da OpenAI, parece estar se divertindo com a situação. Em abril, ele disse ao podcaster Ashlee Vance que a maneira como a Anthropic lidou com o Mythos foi “marketing baseado no medo”. “É claramente uma estratégia de marketing incrível dizer: ‘Nós construímos uma bomba. Estávamos prestes a jogá-la na sua cabeça. Vamos vender a você um abrigo antiaéreo por US$ 100 milhões’”, disse Altman. Embora Altman, cuja empresa também planeja uma oferta pública inicial (IPO) iminente, não tenha previsto uma intervenção governamental, ele destacou uma consequência da estratégia da Anthropic: ao passar meses alertando que sua IA é excepcionalmente perigosa, a empresa garantiu que o governo dos EUA prestasse atenção.