El último informe del modelo de inteligencia artificial de Google carece de detalles clave de seguridad, dicen los expertos

El jueves, semanas después de lanzar su modelo de IA más reciente y avanzado, Gemini 2.5 Pro, Google publicó un informe técnico detallando los resultados de sus evaluaciones internas de seguridad. Sin embargo, expertos han criticado el informe por su falta de detalles, lo que dificulta comprender completamente los riesgos potenciales asociados con el modelo.

Los informes técnicos son cruciales en el mundo de la IA, ofreciendo perspectivas—aunque a veces poco halagadoras—que las empresas normalmente no comparten públicamente. Estos informes son generalmente vistos por la comunidad de IA como esfuerzos genuinos para fomentar la investigación independiente y mejorar las evaluaciones de seguridad.

El enfoque de Google para los informes de seguridad difiere del de algunos competidores. La empresa solo publica informes técnicos una vez que un modelo supera la fase "experimental". Además, Google omite ciertos resultados de evaluaciones de "capacidades peligrosas" en estos informes, reservándolos para una auditoría separada.

A pesar de esto, varios expertos expresaron su decepción con el informe de Gemini 2.5 Pro a TechCrunch, señalando su escasa cobertura del Marco de Seguridad Frontier (FSF) propuesto por Google. Google presentó el FSF el año pasado, con el objetivo de identificar capacidades futuras de IA que podrían causar "daños graves".

"Este informe es muy escaso, contiene información mínima y se publicó semanas después de que el modelo ya estuviera disponible públicamente," dijo Peter Wildeford, cofundador del Instituto para la Política y Estrategia de IA, a TechCrunch. "Es imposible verificar si Google cumple con sus compromisos públicos y, por lo tanto, imposible evaluar la seguridad de sus modelos."

Thomas Woodside, cofundador del Proyecto Secure AI, reconoció la publicación del informe para Gemini 2.5 Pro, pero cuestionó la dedicación de Google para proporcionar evaluaciones de seguridad complementarias oportunas. Notó que Google publicó por última vez resultados de pruebas de capacidades peligrosas en junio de 2024, para un modelo anunciado en febrero de ese año.

Aumentando las preocupaciones, Google aún no ha publicado un informe para Gemini 2.5 Flash, un modelo más pequeño y eficiente anunciado la semana pasada. Un portavoz informó a TechCrunch que un informe para Flash "está por venir pronto".

"Espero que esto sea una promesa de Google para comenzar a publicar actualizaciones más frecuentes," dijo Woodside a TechCrunch. "Esas actualizaciones deberían incluir los resultados de evaluaciones para modelos que aún no se han implementado públicamente, ya que esos modelos también podrían representar riesgos serios."

Aunque Google estuvo entre los primeros laboratorios de IA en proponer informes estandarizados para modelos, no es el único en enfrentar críticas por falta de transparencia. Meta publicó una evaluación de seguridad igualmente breve para sus nuevos modelos abiertos Llama 4, y OpenAI optó por no publicar ningún informe para su serie GPT-4.1.

Las garantías de Google a los reguladores sobre mantener altos estándares en pruebas y reportes de seguridad de IA añaden presión a la situación. Hace dos años, Google prometió al gobierno de EE. UU. publicar informes de seguridad para todos los modelos de IA públicos "significativos" dentro del alcance, seguido de compromisos similares con otros países, prometiendo "transparencia pública" en torno a los productos de IA.

Kevin Bankston, asesor senior en gobernanza de IA en el Centro para la Democracia y la Tecnología, describió la tendencia de informes esporádicos y vagos como una "carrera hacia el fondo" en seguridad de IA.

"Combinado con informes de que laboratorios competidores como OpenAI han reducido su tiempo de pruebas de seguridad antes del lanzamiento de meses a días, esta escasa documentación para el modelo de IA principal de Google cuenta una historia preocupante de una carrera hacia el fondo en seguridad y transparencia de IA mientras las empresas apresuran sus modelos al mercado," dijo a TechCrunch.

Google ha declarado que, aunque no se detalla en sus informes técnicos, realiza pruebas de seguridad y "equipos rojos adversarios" para los modelos antes de su lanzamiento.

Actualizado el 22/4 a las 12:58 p.m. Pacífico: Modificado el lenguaje en torno a la referencia del informe técnico al FSF de Google.