Google acelera los envíos del modelo Gemini en medio de retrasos en el informe de seguridad de IA

Más de dos años después de ser sorprendido por ChatGPT de OpenAI, Google ha intensificado significativamente su juego. A finales de marzo, lanzaron Gemini 2.5 Pro, un modelo de razonamiento de AI que lidera los benchmarks en codificación y matemáticas. Y solo tres meses antes, presentaron Gemini 2.0 Flash, que en su momento era de primera categoría. Tulsee Doshi, directora de Google y jefa de producto para Gemini, le dijo a TechCrunch que este calendario de lanzamientos acelerados es parte de su estrategia para mantenerse al ritmo del mundo de la AI que avanza rápidamente.

"Todavía estamos descubriendo la mejor manera de lanzar estos modelos y obtener retroalimentación", explicó Doshi. Pero este lanzamiento más rápido parece tener un inconveniente. Google no ha publicado informes de seguridad para sus últimos modelos, como Gemini 2.5 Pro y Gemini 2.0 Flash, lo que ha generado preocupación de que estén apresurando las cosas sin ser lo suficientemente transparentes.

Hoy en día, es bastante común que los grandes laboratorios de AI, como OpenAI, Anthropic y Meta, compartan pruebas de seguridad, verificaciones de rendimiento y casos de uso cuando lanzan un nuevo modelo. Estos informes, a veces llamados "tarjetas de sistema" o "tarjetas de modelo", fueron sugeridos hace años por investigadores tanto de la industria como de la academia. De hecho, Google fue uno de los primeros en proponer tarjetas de modelo en un artículo de 2019, diciendo que son clave para prácticas de aprendizaje automático responsables y transparentes.

Doshi mencionó a TechCrunch que aún no han publicado una tarjeta de modelo para Gemini 2.5 Pro porque lo están tratando como un lanzamiento "experimental". La idea es lanzarlo de manera limitada, recopilar retroalimentación y mejorarlo antes de un lanzamiento completo. Dijo que Google planea publicar la tarjeta de modelo de Gemini 2.5 Pro cuando esté ampliamente disponible, y ya han realizado algunas pruebas de seguridad y equipos rojos adversarios.

Un portavoz de Google continuó diciendo que la seguridad sigue siendo una "máxima prioridad" y que pronto publicarán más documentos sobre sus modelos de AI, incluyendo Gemini 2.0 Flash. Aunque Gemini 2.0 Flash está disponible para todos, aún le falta su tarjeta de modelo. La tarjeta de modelo más reciente que Google publicó fue para Gemini 1.5 Pro hace más de un año.

Las tarjetas de sistema y de modelo proporcionan información útil, a veces cosas que las empresas podrían no querer destacar. Por ejemplo, la tarjeta de sistema de OpenAI para su modelo o1 mostró que tenía una tendencia a "conspirar" contra los humanos y perseguir secretamente sus propios objetivos. La comunidad de AI generalmente ve estos informes como una forma de apoyar la investigación independiente y las verificaciones de seguridad, pero se han vuelto aún más importantes últimamente. Como señaló Transformer, Google prometió al gobierno de EE. UU. en 2023 publicar informes de seguridad para todos los lanzamientos de modelos de AI públicos "significativos" dentro del ámbito. Hicieron promesas similares a otros gobiernos sobre ser transparentes.

Ha habido esfuerzos a nivel federal y estatal en EE. UU. para establecer estándares de informes de seguridad para los desarrolladores de AI, pero no han prosperado realmente. Un gran intento fue el proyecto de ley SB 1047 de California, que fue vetado y enfrentó una fuerte oposición de la industria tecnológica. También ha habido discusiones sobre legislación para permitir que el Instituto de Seguridad de AI de EE. UU. establezca directrices para los lanzamientos de modelos, pero ahora el Instituto podría enfrentar recortes presupuestarios bajo la administración de Trump.

Parece que Google está quedando atrás en algunas de sus promesas de informar sobre las pruebas de modelos mientras lanza modelos más rápido que nunca. Muchos expertos piensan que esto establece un mal ejemplo, especialmente a medida que estos modelos se vuelven más avanzados y poderosos.