O CEO da DeepMind defende a realização de testes de modelos de IA liderados pelos EUA

Demis Hassabis, cofundador e CEO da Google DeepMind. Crédito: Demis Hassabis/LinkedIn

O CEO do Google DeepMind, Demis Hassabis, destaca os perigos da inteligência artificial geral e defende uma estrutura de governança liderada pelos EUA

O CEO do Google DeepMind, Demis Hassabis, propôs a criação de um órgão regulador liderado pelos EUA para avaliar modelos de IA de ponta. Ele enfatizou a necessidade urgente de mitigar riscos, incluindo aqueles relacionados a ameaças nucleares e biológicas, à medida que a humanidade se aproxima da inteligência artificial geral (AGI).

Demis Hassabis é ganhador do Prêmio Nobel e cofundador da Google DeepMind. Ele dividiu o Prêmio Nobel de Química com o colega John Jumper, que anunciou recentemente sua mudança para a Anthropic. Demis possui doutorado em Neurociência Cognitiva pela University College London.

Ao mesmo tempo em que fez sérias advertências sobre as ameaças da IA, ele expressou otimismo quanto ao seu potencial: “Poderíamos até chegar a um ponto em que os recursos não sejam mais o fator limitante para o progresso humano, levando a uma nova e incrível era de abundância”, afirmou, argumentando que a IA ajudará a resolver alguns dos desafios mais urgentes da humanidade.

Principais preocupações em relação à IA Geral (AGI)

Demis observou que as principais empresas de IA estão atualmente envolvidas em uma intensa corrida comercial e geopolítica em várias frentes. Essa competição envolve sua própria Google DeepMind ao lado de rivais como OpenAI, Anthropic e DeepSeek.

“Já vimos os desafios que os modelos de ponta representam para a segurança cibernética, e outras ameaças, incluindo riscos nucleares e biológicos, podem surgir em breve à medida que as capacidades continuam a avançar”, escreveu Demis em seu blog no Substack.

Demis acrescentou: “Precisamos aproveitar essa janela de oportunidade preciosa antes que a AGI chegue para moldar essa tecnologia em benefício de toda a humanidade.”

Ele também destacou riscos potenciais de áreas que ainda são desconhecidas: “No futuro, precisaremos de salvaguardas robustas para manter o controle de sistemas cada vez mais autônomos e que se aprimoram recursivamente — e para lidar com questões desconhecidas que só se tornarão mais claras com o tempo.”

Esse alerta segue uma recente diretiva do governo dos EUA, citando preocupações com a segurança nacional, para suspender todo o acesso estrangeiro aos modelos Fable 5 e Mythos 5 da Anthropic, uma restrição que, segundo relatos, já foi suspensa.

Ilustração artística de IA. Esta imagem explora como a IA pode ser usada para promover avanços no campo da computação quântica. Crédito: Google DeepMind/Unsplash

As opiniões de Demis sobre a IA Geral (AGI) são apoiadas por outros especialistas e centros de pesquisa. O Centro de Relações Internacionais e Desenvolvimento Sustentável alertou, em um artigo intitulado “Por que a IA Geral (AGI) deve ser a principal prioridade mundial”, que, sem regulamentação nacional e internacional, a humanidade corre o risco de perder o controle de uma inteligência não biológica que está além da compreensão, da consciência e do controle humanos.

Notavelmente, o “Bulletin of the Atomic Scientists”, que em janeiro de 2026 ajustou o “Relógio do Juízo Final” para 85 segundos antes da meia-noite — o mais próximo que já esteve em toda a sua história —, também pediu medidas urgentes para estabelecer diretrizes internacionais sobre o uso da IA.

Demis Hassabis, CEO e cofundador do Google DeepMind (à esquerda), com John Jumper, ex-vice-presidente do Google DeepMind (à direita) | Crédito: Jon Kopaloff / Getty Images

“Devemos aproveitar essa janela de oportunidade preciosa antes que a IA Geral (AGI) chegue para moldar essa tecnologia em benefício de toda a humanidade.” Demis Hassabis, cofundador e CEO do Google DeepMind

Proposta de regulamentação liderada pelos EUA

Demis argumentou que os EUA, dada sua posição econômica e técnica, estão bem posicionados para dar o primeiro passo no desenvolvimento de uma estrutura que empregue uma abordagem dinâmica, adaptável e rigorosa para testar modelos de ponta.

A proposta de Demis é detalhada e específica. “Ela poderia estabelecer um novo Órgão de Padronização inspirado em uma parceria público-privada supervisionada pelo governo federal ou em uma organização autorreguladora, muito semelhante à Autoridade Reguladora do Setor Financeiro.

“O Órgão de Padronização seria responsável por desenvolver protocolos de avaliação e trabalhar com as agências federais competentes e os Laboratórios Nacionais dos EUA para realizar testes em áreas relevantes para a segurança nacional.”

“Inicialmente, os Laboratórios de Ponta compartilhariam voluntariamente os modelos com o Órgão de Padronização para análise até 30 dias antes do lançamento. Assim que o protocolo de avaliação se mostrasse eficaz e robusto, a formalização poderia ocorrer rapidamente, o que significa que os Modelos de Ponta seriam obrigados a passar por ele para serem implantados no mercado dos EUA.”

Demis acrescentou que essa iniciativa lançada pelos EUA proporcionaria uma base sólida para a criação de padrões internacionais compartilhados sobre IA de ponta.

Nik Kairinos, CEO e cofundador da RAIDS AI, comentou sobre o desenvolvimento: “Mas um órgão global de fiscalização da IA não pode ser guiado pela agenda de uma única nação.”

Nik Kairinos, CEO e cofundador da RAIDS AI. Crédito: Nik Kairinos/LinkedIn

“A IA não respeita fronteiras, e as regras criadas para regulá-la também não deveriam. Uma abordagem multinacional é essencial para garantir que qualquer regulamentação de IA alcance a confiança, a cooperação e o apoio necessários para funcionar internacionalmente.”

Riscos recentes decorrentes de modelos de ponta

O alerta de Demis segue a publicação pela Anthropic de um relatório, intitulado “Agentic Misalignment in Summer 2026”, que detalha observações sobre falhas de alinhamento de modelos em simulações de alto risco. O relatório utilizou modelos de ponta do Google DeepMind, da OpenAI, da empresa chinesa de IA DeepSeek e dos próprios modelos da Anthropic.

Os problemas de desalinhamento listados incluem modelos que buscam suas próprias motivações além das instruções do usuário e o que a Anthropic denomina de “conformidade prejudicial”, em que a solicitação do usuário é atendida, mas resulta em danos.

Entre os problemas citados pela Anthropic está a sabotagem dissimulada, uma falha de desalinhamento agênico em que os modelos interferem secretamente no código para minar a intenção do usuário. A Anthropic também constatou que alguns modelos auxiliariam usuários em atividades semelhantes a crimes de colarinho branco.

Outros riscos citados em relação a modelos de ponta recentes incluem o “treinamento” de representantes humanos para fazer denúncias, em que os modelos vazam informações confidenciais de segurança para o exterior ou induzem os humanos a fazê-lo, bem como o rotulamento incorreto motivado.

A Anthropic declarou em seu relatório no Alignment Science Blog que o objetivo desses estudos de caso é ajudar desenvolvedores e avaliadores a identificar falhas semelhantes e criar medidas de proteção específicas.