Eric Schmidt se opõe ao projeto AGI Manhattan

Em um documento de política divulgado na quarta-feira, o ex-CEO do Google, Eric Schmidt, junto com o CEO da Scale AI, Alexandr Wang, e o Diretor do Centro para Segurança de IA, Dan Hendrycks, desaconselharam os EUA a lançarem uma iniciativa no estilo do Projeto Manhattan para desenvolver sistemas de IA com inteligência "sobre-humana", comumente referida como AGI.

Intitulado "Estratégia de Superinteligência", o documento alerta que um esforço dos EUA para monopolizar a IA superinteligente poderia provocar uma forte resposta da China, possivelmente na forma de um ciberataque, o que poderia perturbar as relações globais.

Os coautores argumentam: "Um Projeto Manhattan para AGI assume que os rivais aceitarão um desequilíbrio duradouro ou um omnicídio em vez de agirem para preveni-lo. O que começa como uma busca por uma superarma e controle global arrisca provocar contramedidas hostis e escalar tensões, minando assim a própria estabilidade que a estratégia pretende garantir."

Este documento, redigido por três figuras-chave no setor de IA americano, chega logo após uma comissão congressional dos EUA sugerir uma iniciativa no estilo do "Projeto Manhattan" para financiar o desenvolvimento de AGI, traçando paralelos com o projeto da bomba atômica dos EUA na década de 1940. O Secretário de Energia dos EUA, Chris Wright, declarou recentemente que os EUA estão "no início de um novo Projeto Manhattan" em IA, falando em um local de supercomputadores ao lado do cofundador da OpenAI, Greg Brockman.

O documento Estratégia de Superinteligência desafia a recente pressão de vários líderes políticos e industriais americanos que acreditam que um programa de AGI apoiado pelo governo é a melhor maneira de acompanhar a China.

Schmidt, Wang e Hendrycks veem os EUA em uma situação semelhante a um impasse sobre AGI, similar ao conceito de destruição mutuamente assegurada. Assim como as nações evitam monopolizar armas nucleares para prevenir ataques preemptivos, os autores sugerem que os EUA devem ser cautelosos ao buscar dominar sistemas de IA altamente avançados.

Embora comparar IA a armas nucleares possa parecer exagerado, líderes globais já veem a IA como um ativo militar crucial. O Pentágono observou que a IA está acelerando a cadeia de eliminação militar.

Os autores introduzem a ideia de Mau Funcionamento Mutuamente Assegurado de IA (MAIM), onde governos podem tomar ações preemptivas para desativar projetos de IA ameaçadores em vez de esperar que adversários weaponizem AGI.

Schmidt, Wang e Hendrycks recomendam que os EUA mudem seu foco de "vencer a corrida para a superinteligência" para desenvolver métodos para dissuadir outros países de criar IA superinteligente. Eles sugerem que o governo deveria "expandir seu arsenal de ciberataques para desativar projetos de IA ameaçadores" controlados por outras nações e restringir o acesso de adversários a chips de IA avançados e modelos de código aberto.

O documento destaca uma divisão na comunidade de políticas de IA entre os "catastrofistas", que acreditam que resultados catastróficos de IA são inevitáveis e defendem a desaceleração do progresso da IA, e os "avestruzes", que pressionam por acelerar o desenvolvimento de IA e esperam pelo melhor.

Os autores propõem um terceiro caminho: uma abordagem cautelosa ao desenvolvimento de AGI que enfatiza estratégias defensivas.

Essa postura é particularmente notável vinda de Schmidt, que anteriormente destacou a necessidade dos EUA competirem agressivamente com a China no desenvolvimento de IA. Apenas meses atrás, Schmidt escreveu um artigo de opinião afirmando que o DeepSeek marcou um momento crucial na corrida de IA entre EUA e China.

Apesar da determinação do governo Trump em avançar o desenvolvimento de IA da América, os coautores lembram que as decisões dos EUA sobre AGI têm implicações globais.

Enquanto o mundo observa o avanço da América em IA, Schmidt e seus coautores sugerem que uma estratégia mais defensiva pode ser a escolha mais sábia.