Um plano para o futuro da IA aguarda implementação

Embora o rompimento entre Washington e a Anthropic tenha revelado uma ausência total de regras coerentes para a inteligência artificial, um grupo bipartidário de especialistas elaborou algo que o governo ainda não conseguiu oferecer: um quadro claro para o desenvolvimento responsável da IA.

A Declaração Pró-Humana foi finalizada antes do impasse entre o Pentágono e a Anthropic na semana passada, mas o momento não passou despercebido pelos envolvidos.

“Algo bastante notável aconteceu nos Estados Unidos nos últimos quatro meses”, disse Max Tegmark, físico do MIT e pesquisador de IA que ajudou a organizar a iniciativa. “Pesquisas recentes mostram que 95% dos americanos agora se opõem a uma corrida desregulamentada em direção à superinteligência.”

O documento recém-publicado, assinado por centenas de especialistas, ex-funcionários e figuras públicas, começa com uma observação contundente: a humanidade está em uma encruzilhada. Um caminho, chamado de “a corrida para substituir”, leva os humanos a serem substituídos primeiro como trabalhadores, depois como tomadores de decisão, à medida que o poder flui para instituições que não prestam contas e suas máquinas. O outro caminho leva a uma IA que expande drasticamente o potencial humano.

Esse futuro positivo repousa sobre cinco pilares: manter os humanos no controle, impedir a concentração de poder, proteger a experiência humana, preservar a liberdade individual e responsabilizar legalmente as empresas de IA. Suas disposições mais rigorosas incluem a proibição do desenvolvimento de superinteligência até que um consenso científico confirme a segurança e o apoio público esteja garantido; interruptores de desligamento obrigatórios para sistemas poderosos; e a proibição de IA capaz de se auto-replicar, de se autoaperfeiçoar de forma autônoma ou de resistir ao desligamento.

O lançamento da declaração ocorre em um momento que ressalta sua urgência. Na última sexta-feira de fevereiro, o secretário de Defesa Pete Hegseth classificou a Anthropic — cuja IA já opera em plataformas militares confidenciais — como um “risco à cadeia de suprimentos” depois que a empresa se recusou a conceder ao Pentágono o uso ilimitado de sua tecnologia. Horas depois, a OpenAI fechou seu próprio acordo com o Departamento de Defesa, que, segundo especialistas jurídicos, será difícil de ser cumprido de forma significativa. O episódio destaca o custo crescente da inércia do Congresso em relação à IA.

Como Dean Ball, pesquisador sênior da Fundação para a Inovação Americana, disse ao The New York Times: “Isso não é apenas uma disputa contratual. Esta é a primeira conversa real do nosso país sobre quem controla os sistemas de IA.”

Tegmark ofereceu uma analogia compreensível. “Você nunca se preocupa com a possibilidade de uma empresa farmacêutica lançar um medicamento prejudicial antes que sua segurança seja comprovada”, disse ele, “porque a FDA não permite que nada seja lançado até que seja seguro o suficiente”.

As disputas de poder em Washington raramente geram a pressão pública necessária para mudar leis. Em vez disso, Tegmark vê a segurança infantil como a questão com maior probabilidade de quebrar o impasse atual. A declaração exige testes obrigatórios antes da implantação de produtos de IA — especialmente chatbots e aplicativos de companhia para usuários jovens — para riscos como aumento de pensamentos suicidas, agravamento da saúde mental e manipulação emocional.

"Se um adulto assustador enviar uma mensagem para uma criança de 11 anos, fingindo ser uma menina e incitando o menino a cometer suicídio, essa pessoa pode ir para a prisão", disse Tegmark. "Já temos leis contra isso. Então, por que deveria ser diferente se for uma máquina a fazer isso?"

Ele acredita que, uma vez estabelecidos os testes pré-lançamento para produtos infantis, seu escopo inevitavelmente se expandirá. “As pessoas começarão a acrescentar outros requisitos. Talvez devêssemos também testar se ela não pode ajudar terroristas a criar armas biológicas. Talvez devêssemos garantir que uma superinteligência não possa derrubar o governo dos EUA.”

É significativo que o ex-assessor de Trump, Steve Bannon, e a assessora de Segurança Nacional do presidente Obama, Susan Rice, tenham assinado o mesmo documento — ao lado do ex-presidente do Estado-Maior Conjunto, Mike Mullen, e de líderes religiosos progressistas.

“O que eles concordam, é claro, é que todos são humanos”, observou Tegmark. “Quando se trata de escolher um futuro para os humanos ou um futuro para as máquinas, é claro que eles estarão do mesmo lado.”