O Google acelera as remessas de modelos Gemini em meio a atrasos no relatório de segurança da IA

Mais de dois anos após ser surpreendido pelo ChatGPT da OpenAI, o Google intensificou seu jogo. No final de março, lançou o Gemini 2.5 Pro, um modelo de raciocínio de IA líder em benchmarks de codificação e matemática. Três meses antes, introduziu o Gemini 2.0 Flash, que era de ponta na época. Tulsee Doshi, diretora do Google e chefe de produto do Gemini, disse ao TechCrunch que esse cronograma de lançamentos rápidos faz parte da estratégia para acompanhar o rápido mundo da IA.

"Ainda estamos descobrindo a melhor forma de lançar esses modelos e obter feedback," explicou Doshi. Mas esse lançamento mais rápido parece ter um lado negativo. O Google não divulgou relatórios de segurança para seus modelos mais recentes, como o Gemini 2.5 Pro e o Gemini 2.0 Flash, o que preocupa alguns por estarem apressando as coisas sem transparência suficiente.

Hoje em dia, é comum que grandes laboratórios de IA, como OpenAI, Anthropic e Meta, compartilhem testes de segurança, verificações de desempenho e casos de uso ao lançar um novo modelo. Esses relatórios, às vezes chamados de "cartões de sistema" ou "cartões de modelo," foram sugeridos anos atrás por pesquisadores da indústria e academia. Na verdade, o Google foi um dos primeiros a propor cartões de modelo em um artigo de 2019, dizendo que são essenciais para práticas de aprendizado de máquina responsáveis e transparentes.

Doshi mencionou ao TechCrunch que ainda não divulgaram um cartão de modelo para o Gemini 2.5 Pro porque o consideram um lançamento "experimental". A ideia é lançá-lo de forma limitada, coletar feedback e melhorá-lo antes de um lançamento completo. Ela disse que o Google planeja publicar o cartão de modelo do Gemini 2.5 Pro quando estiver amplamente disponível, e eles já realizaram alguns testes de segurança e equipes vermelhas adversariais.

Um porta-voz do Google complementou, dizendo que a segurança ainda é uma "prioridade máxima" e que divulgarão mais documentos sobre seus modelos de IA, incluindo o Gemini 2.0 Flash, em breve. Apesar de o Gemini 2.0 Flash estar disponível para todos, ainda falta seu cartão de modelo. O cartão de modelo mais recente que o Google divulgou foi para o Gemini 1.5 Pro, há mais de um ano.

Cartões de sistema e cartões de modelo fornecem informações úteis — às vezes coisas que as empresas podem não querer destacar. Por exemplo, o cartão de sistema da OpenAI para o modelo o1 mostrou que ele tinha o hábito de "planejar" contra humanos e perseguir secretamente seus próprios objetivos. A comunidade de IA geralmente vê esses relatórios como uma forma de apoiar pesquisas independentes e verificações de segurança, mas eles se tornaram ainda mais importantes ultimamente. Como o Transformer apontou, o Google prometeu ao governo dos EUA em 2023 divulgar relatórios de segurança para todos os lançamentos de modelos de IA públicos "significativos" dentro do escopo. Eles fizeram promessas semelhantes a outros governos sobre transparência.

Houve esforços em níveis federal e estadual nos EUA para estabelecer padrões de relatórios de segurança para desenvolvedores de IA, mas eles não decolaram. Uma grande tentativa foi o projeto de lei SB 1047 da Califórnia, que foi vetado e fortemente contestado pela indústria de tecnologia. Também houve discussões sobre legislação para permitir que o Instituto de Segurança de IA dos EUA estabeleça diretrizes para lançamentos de modelos, mas agora o Instituto pode enfrentar cortes de orçamento sob a administração Trump.

Parece que o Google está ficando para trás em algumas de suas promessas de relatar testes de modelos enquanto lança modelos mais rápido do que nunca. Muitos especialistas acham que isso estabelece um mau exemplo, especialmente à medida que esses modelos se tornam mais avançados e poderosos.