O mais recente relatório do modelo de AI do Google não possui detalhes importantes de segurança, dizem os especialistas

Na quinta-feira, semanas após o lançamento de seu modelo de IA mais recente e avançado, Gemini 2.5 Pro, o Google publicou um relatório técnico detalhando os resultados de suas avaliações internas de segurança. No entanto, especialistas criticaram o relatório por sua falta de detalhes, dificultando a compreensão completa dos riscos potenciais associados ao modelo.

Relatórios técnicos são cruciais no mundo da IA, oferecendo insights — mesmo que às vezes pouco lisonjeiros — que as empresas geralmente não compartilham publicamente. Esses relatórios são geralmente vistos pela comunidade de IA como esforços genuínos para promover a pesquisa independente e aprimorar as avaliações de segurança.

A abordagem do Google para relatórios de segurança difere de alguns de seus concorrentes. A empresa só publica relatórios técnicos quando um modelo ultrapassa a fase "experimental". Além disso, o Google omite certos resultados de avaliações de "capacidades perigosas" desses relatórios, reservando-os para uma auditoria separada.

Apesar disso, vários especialistas expressaram decepção com o relatório do Gemini 2.5 Pro ao TechCrunch, apontando sua cobertura escassa do Quadro de Segurança de Fronteira (FSF) proposto pelo Google. O Google apresentou o FSF no último ano, com o objetivo de identificar futuras capacidades de IA que possam levar a "danos graves".

"Este relatório é muito escasso, contém informações mínimas e foi lançado semanas após o modelo já ter sido tornado público", disse Peter Wildeford, cofundador do Instituto para Política e Estratégia de IA, ao TechCrunch. "É impossível verificar se o Google está cumprindo seus compromissos públicos e, portanto, impossível avaliar a segurança e a proteção de seus modelos."

Thomas Woodside, cofundador do Projeto de IA Segura, reconheceu a publicação do relatório para o Gemini 2.5 Pro, mas questionou a dedicação do Google em fornecer avaliações suplementares de segurança em tempo hábil. Ele observou que o Google publicou pela última vez resultados de testes de capacidades perigosas em junho de 2024, para um modelo anunciado em fevereiro daquele ano.

Acrescentando às preocupações, o Google ainda não lançou um relatório para o Gemini 2.5 Flash, um modelo menor e mais eficiente anunciado na última semana. Um porta-voz informou ao TechCrunch que um relatório para o Flash está "chegando em breve".

"Espero que isso seja uma promessa do Google de começar a publicar atualizações mais frequentes", disse Woodside ao TechCrunch. "Essas atualizações devem incluir os resultados de avaliações para modelos que ainda não foram implantados publicamente, já que esses modelos também podem representar riscos sérios."

Embora o Google tenha sido um dos primeiros laboratórios de IA a propor relatórios padronizados para modelos, não está sozinho ao enfrentar críticas por falta de transparência. A Meta publicou uma avaliação de segurança igualmente breve para seus novos modelos abertos Llama 4, e a OpenAI optou por não publicar nenhum relatório para sua série GPT-4.1.

As garantias do Google aos reguladores sobre a manutenção de altos padrões em testes e relatórios de segurança de IA aumentam a pressão sobre a situação. Há dois anos, o Google prometeu ao governo dos EUA publicar relatórios de segurança para todos os modelos de IA públicos "significativos" dentro do escopo, seguido por compromissos semelhantes a outros países, prometendo "transparência pública" em torno dos produtos de IA.

Kevin Bankston, consultor sênior em governança de IA no Centro para Democracia e Tecnologia, descreveu a tendência de relatórios esporádicos e vagos como uma "corrida para o fundo" em segurança de IA.

"Combinado com relatos de que laboratórios concorrentes como a OpenAI reduziram o tempo de teste de segurança antes do lançamento de meses para dias, esta documentação escassa para o principal modelo de IA do Google conta uma história preocupante de uma corrida para o fundo em segurança e transparência de IA enquanto as empresas apressam seus modelos para o mercado", ele disse ao TechCrunch.

O Google afirmou que, embora não detalhado em seus relatórios técnicos, realiza testes de segurança e "equipes vermelhas adversariais" para modelos antes de seu lançamento.

Atualizado em 22/04 às 12:58 p.m. Pacífico: Modificada a linguagem em torno da referência do relatório técnico ao FSF do Google.