Criptografia, spyware, Mythos: a história mostra que os controles de exportação cibernética não funcionam

Na última sexta-feira, alegando preocupações não especificadas com a segurança nacional, a Casa Branca ordenou que a Anthropic restringisse as exportações de seus poderosos modelos de IA, Fable e Mythos, para qualquer pessoa fora dos Estados Unidos — incluindo estrangeiros que se encontram no país. Pouco depois, a empresa de IA desativou rapidamente ambos os modelos, que já estão indisponíveis há uma semana.

Esse episódio marca o primeiro teste real para verificar se o governo dos EUA pode usar controles de exportação para conter a IA de ponta, da mesma forma que tentou anteriormente — com resultados mistos — controlar a criptografia e os programas espiões. Por mais dramático que pareça, a forma como esse impasse for resolvido poderá definir não apenas o acesso da Anthropic aos mercados estrangeiros, mas também as regras que outros laboratórios de IA terão de seguir.

Alguns antecedentes: desde que a Anthropic lançou o Mythos em abril, a empresa o comercializou como uma espécie de máquina cibernética apocalíptica que poderia causar estragos na internet se fosse divulgada de forma muito ampla. É por isso que, antes da proibição, apenas cerca de 150 empresas e organizações governamentais previamente avaliadas tinham acesso a ele. O objetivo era ajudar os defensores a proteger seus softwares e serviços antes que agentes mal-intencionados pudessem alcançar capacidades semelhantes às do Mythos.

Então, o que desencadeou a proibição? Dois eventos subsequentes, segundo relatos. Primeiro, a Anthropic concedeu acesso ao Mythos a uma empresa de telecomunicações sul-coreana por meio de seu programa de parceria limitada. Autoridades americanas ficaram alarmadas após identificarem a empresa como uma que suspeitavam ter ligações com a China. (A empresa, amplamente identificada como a SK Telecom, negou qualquer conexão com a China.) Em segundo lugar, o CEO da Amazon, Andy Jassy, teria alertado o governo depois que os próprios pesquisadores da Amazon, segundo ele, encontraram uma maneira de contornar as proteções do Fable 5. A Anthropic contesta o rótulo de “jailbreak”, chamando-o de um problema específico e já corrigido, em vez de uma derrota total das medidas de segurança do modelo.

O resultado foi o mesmo: o Departamento de Comércio emitiu uma diretiva de controle de exportação, e a Anthropic teve que agir rapidamente para limitar o acesso aos seus produtos em cerca de 90 minutos após ser notificada, segundo alguns relatos.

No entanto, nada disso é novidade. Há décadas os governos tentam usar controles de exportação para limitar a disseminação do que consideram tecnologia cibernética perigosa, mas seu histórico tem sido, na melhor das hipóteses, mediano.

O governo dos EUA esteve por trás do que talvez tenha sido o fracasso mais espetacular dessa abordagem na história, no início e meados da década de 1990. Naquela época, cientistas da computação estavam desenvolvendo tecnologias de criptografia para proteger dados enquanto eles trafegavam pela internet. Um desses produtos de criptografia era o Pretty Good Privacy (PGP), um software popular capaz de criptografar dados e tornar praticamente impossível decifrá-los, mesmo que fossem interceptados durante o trajeto até o destinatário pretendido.

Inicialmente, o governo dos EUA viu o PGP como uma arma perigosa, temendo que ele impedisse as agências de inteligência de espionar e-mails enquanto estes passavam por suas redes. Para impedir sua distribuição, o Serviço de Alfândega dos EUA abriu uma investigação criminal contra o criador do PGP, Phil Zimmermann, por supostamente violar os controles de exportação de armas. Ele reagiu publicando o código-fonte do PGP em um livro impresso, dando início ao que hoje é conhecido como as “Guerras da Criptografia”.

Zimmermann venceu posteriormente uma batalha decisiva quando a investigação foi encerrada, abrindo caminho para algoritmos cruciais de criptografia de ponta a ponta, como o utilizado por bilhões de usuários do Signal e do WhatsApp.

Mais tarde, no início da década de 2010, pesquisadores começaram a descobrir softwares espiões de fabricação ocidental usados contra dissidentes no Oriente Médio. Em resposta, vários governos concordaram em ampliar o Acordo de Wassenaar, um tratado internacional que limita a exportação de softwares e tecnologias de dupla utilização, empregados tanto em aplicações civis quanto militares.

A ideia era classificar softwares de vigilância e hacking como de dupla utilização, obrigando os fabricantes de spyware a obter licenças de exportação para vender seus produtos no exterior.

Entre em contato conosco

Mas o Acordo de Wassenaar sempre teve duas fraquezas inerentes. Vários países não aderem ao acordo, incluindo Israel, que abriga alguns dos fabricantes de spyware mais ativos do mundo.

O acordo também depende de que os países o apliquem às empresas dentro de suas fronteiras a seu próprio critério. Por um tempo, o governo italiano concedeu a um de seus principais fabricantes de spyware da época, a Hacking Team, uma licença para exportar suas ferramentas para todo o mundo, apesar do histórico da empresa de vender spyware a governos opressivos que o utilizavam para invadir as contas de jornalistas e ativistas de direitos humanos.

Desde então, outros países europeus têm sido tão negligentes quanto a Itália com os fabricantes de spyware. Apesar dos inúmeros escândalos, a Europa — que abriga muitos fabricantes de spyware e ferramentas de hacking — tem falhado continuamente em coibir as exportações de spyware para regimes autoritários. Críticos afirmam que um esforço recentemente renovado em todo o bloco de 27 membros para combater o crescente problema das exportações de spyware para Estados autoritários “não vai longe o suficiente”.

Vários fabricantes de spyware, como a Intellexa — um consórcio de empresas de spyware sujeito a sanções —, simplesmente transferiram suas operações para países com controles de exportação mais frouxos. Outros fabricantes de spyware tentaram transferir suas operações para a Arábia Saudita por motivos semelhantes.

Houve algumas vitórias. A FinFisher, fabricante de spyware sediada na Alemanha, encerrou suas atividades em 2022 após uma investigação de vários anos conduzida por promotores alemães contra a empresa por supostamente vender spyware à Turquia sem licença de exportação. Investigadores haviam constatado anteriormente que o spyware da FinFisher havia sido instalado nos telefones de críticos do governo turco.

Até o momento da redação deste artigo, o impasse entre a Anthropic e o governo Trump permanece. Há uma chance razoável de que o governo ceda e suspenda a restrição, com o objetivo de manter as empresas americanas de IA competitivas em todo o mundo — uma medida que equivaleria a um reconhecimento tácito de que laboratórios de IA em outros países, inclusive na China, provavelmente alcançarão capacidades semelhantes, independentemente das restrições dos EUA. Ou então, as empresas americanas de IA podem acabar precisando de aprovação do governo antes mesmo de atender clientes estrangeiros — um ônus de conformidade que inevitavelmente prejudicaria seus resultados financeiros.

Considerando experiências anteriores com governos que tentaram controlar o alcance de softwares, é improvável que controles de exportação impostos pelo governo sejam a abordagem correta para impedir que agentes mal-intencionados abusem de poderosas tecnologias cibernéticas de dupla utilização.