Hogar
El último modelo de inteligencia artificial Gemini de Google muestra un descenso en las puntuaciones de seguridad en las pruebas
Las pruebas internas de Google revelan preocupantes caídas de rendimiento en los protocolos de seguridad de su último modelo de IA en comparación con versiones anteriores. Según las pruebas comparativas publicadas recientemente, el modelo Gemini 2.5 Flash presenta entre un 4 y un 10% más de infracciones de las directrices en las principales métricas de seguridad al procesar tanto mensajes de texto como de imagen.
Las evaluaciones automatizadas del gigante tecnológico ponen de manifiesto tendencias preocupantes: cuando se le presentan solicitudes de prueba de límites, Gemini 2.5 Flash cruza con más frecuencia las líneas de seguridad de contenido establecidas que su predecesor Gemini 2.0. El equipo técnico de Google atribuye algunos fallos a falsos positivos, pero reconoce un aumento real de los resultados que violan las políticas cuando el sistema recibe solicitudes explícitamente problemáticas.
Esta regresión de la seguridad coincide con un cambio más amplio de la industria hacia sistemas de IA más permisivos. Algunos de los principales actores, como Meta y OpenAI, han ajustado recientemente sus modelos para evitar abstenerse en temas controvertidos y, en su lugar, intentar dar respuestas neutrales a temas delicados. Sin embargo, estos cambios a veces producen consecuencias no deseadas, como se vio cuando ChatGPT permitió temporalmente la generación de contenidos inapropiados para menores a principios de esta semana.
El informe de Google sugiere que el nuevo modelo destaca en el seguimiento fiel de instrucciones, incluso con indicaciones éticamente cuestionables. Pruebas independientes confirman que Gemini 2.5 Flash demuestra tasas de rechazo sustancialmente reducidas al tratar temas políticos y legales controvertidos en comparación con las versiones anteriores.
Los expertos en seguridad de la IA expresan su preocupación por la limitada divulgación en los informes de Google. Sin estudios de casos de infracción más detallados, los evaluadores externos tienen dificultades para valorar la gravedad en el mundo real de estas regresiones de seguridad. La empresa ya se ha enfrentado a críticas por documentación de seguridad retrasada o incompleta, incluso con su modelo estrella Gemini 2.5 Pro a principios de este año.
La tensión entre la capacidad de seguir instrucciones sin restricciones y las sólidas salvaguardias de contenido plantea retos constantes a los desarrolladores de IA. A medida que los modelos se vuelven más sofisticados a la hora de interpretar peticiones matizadas, mantener unos límites de respuesta adecuados requiere una calibración cuidadosa, un equilibrio que, según las últimas métricas de Google, puede estar decayendo a favor de la permisividad.
Artículo relacionado
Google lanza una función de detección de llamadas falsas para proteger a los usuarios contra las estafas de suplantación de identidad mediante «deepfakes» generados por IA
Google anunció el martes que Android va a lanzar una función de detección de llamadas falsas para proteger a los usuarios frente a las estafas de suplantación de identidad mediante deepfakes generados
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Google presenta unas gafas inteligentes con tecnología de audio en la IO 2026, siguiendo los pasos de la estrategia de Meta
Google está volviendo de forma estratégica al mercado de las gafas inteligentes.Durante el evento Google I/O celebrado el martes, el gigante tecnológico dio a conocer una colaboración con Warby Parker
Recomendaciones de temas especiales relacionados
chatbot
Las mejores aplicaciones de chat de roleplay con IA para practicar idiomas, prepararse para entrevistas y mejorar la fluidez diaria
¡Las mejores aplicaciones de chat de roleplay con IA de 2026, mejor valoradas, para practicar idiomas, prepararse para entrevistas y mejorar la fluidez diaria! XIX.AI selecciona una poderosa colección revolucionaria que ofrece comparaciones entre versiones gratuitas y de pago, pruebas del mundo real y clasificaciones actualizadas semanalmente. Estas herramientas imprescindibles te ayudan a mejorar tus habilidades de escritura, superar los desafíos de fluidez y aumentar la eficiencia comunicativa en todas las situaciones cotidianas. ¡Explora ahora para descubrir tu herramienta perfecta para el crecimiento lingüístico!
10 herramientas
xix.ai
composicion musical
Herramientas de separación de pistas con IA para la producción de remezclas, la preparación de samples y las pistas maestras de karaoke
Las mejores herramientas de separación de pistas con IA de 2026, seleccionadas para la producción de remixes, la preparación de samples y la creación de temas de karaoke. Estas potentes herramientas revolucionarias se han sometido a pruebas en condiciones reales para ofrecer un aislamiento de audio preciso, lo que aumenta significativamente la productividad. XIX.AI ofrece una guía comparativa entre versiones gratuitas y de pago, actualizada semanalmente, para ayudarte a encontrar la solución imprescindible que mejor se adapte a tus necesidades. Explórala ahora para sacar el máximo partido a la IA.
8 herramientas
xix.ai
Análisis de datos
Copilotos de AI para SQL destinados a paneles de ingresos, análisis de embudos y métricas de productos
¡Los mejores copilotos de SQL basados en IA de 2026, clasificados entre los más destacados! XIX.AI reúne una poderosa colección que evoluciona constantemente, con pruebas en el mundo real actualizadas semanalmente. Estas herramientas indispensables le permiten generar paneles de control de ingresos precisos, analizar los canales de venta y seguir de cerca las métricas de los productos de manera rápida, lo que aumenta significativamente su productividad. ¡Explórelas ahora para encontrar la herramienta perfecta para tomar decisiones basadas en datos! 238 caracteres
9 herramientas
xix.ai
composicion musical
Mejores herramientas de IA para escribir melodías en borradores de canciones
2026 Últimas Mejores Herramientas de Escritura de Melodías con IA Mejor Valoradas para Borradores de Canciones. XIX.AI ha curado una colección altamente poderosa y transformadora que ha pasado por rigurosas pruebas en el mundo real para ofrecer la mejor experiencia de escritura. Puedes encontrar comparaciones detalladas entre versiones gratuitas y de pago, clasificaciones precisas y opciones imperdibles diseñadas para ayudarte a crear borradores de canciones impresionantes sin esfuerzo y aumentar significativamente tu productividad creativa. ¡Explora ahora para descubrir tu herramienta perfecta!
8 herramientas
xix.ai
chatbot
Mejores herramientas de entrenamiento de conversación con IA para practicar entrevistas
¡Las mejores herramientas de entrenamiento de conversación con IA para prácticas de entrevistas más recientes y mejor valoradas de 2026 ya están disponibles en XIX.AI! Esta colección seleccionada incluye herramientas poderosas y transformadoras que han pasado por rigurosas pruebas en el mundo real para ofrecer retroalimentación precisa. Encontrarás una comparación entre opciones gratuitas y de pago, así como clasificaciones detalladas para ayudarte a elegir la opción imprescindible que aumente tu confianza y habilidades. ¡Explora ahora para descubrir tu herramienta perfecta para el éxito en las entrevistas!
12 herramientas
xix.ai
Diseño y Arte
Las mejores herramientas de transferencia de estilos con IA para experimentos creativos
¡Las mejores herramientas de transferencia de estilo con IA de 2026, mejor valoradas para experimentos creativos! XIX.AI ha seleccionado una colección de herramientas potentes y revolucionarias que no te puedes perder, capaces de ofrecer resultados excepcionales según pruebas reales y clasificaciones rigurosas. Estas soluciones de primera categoría ayudan a los creativos a aumentar significativamente su productividad, acelerando la creación de contenidos y abriendo un sinfín de posibilidades creativas. ¡Explora ahora mismo para descubrir tu herramienta perfecta y empieza a crear hoy mismo!
9 herramientas
xix.ai
comentario (5)
0/500
![BillyYoung]()
Это немного тревожно... Google продолжает выпускать всё более мощные модели, но безопасность, похоже, отстаёт 📉. Если с точки зрения оценки безопасности наблюдается такая тенденция, то что происходит с реальными пользователями? Возможно, им стоит притормозить гонку и сосредоточиться на прочной инфраструктуре безопасности.
![BrianThomas]()
Isso é preocupante... A Google sempre foi referência em IA responsável, mas parece que a corrida pela performance está afetando a segurança. Será que estão lançando modelos muito rápido? Essa queda de 4-10% nas métricas de segurança não é pouca coisa, especialmente para um modelo que será usado por milhões. Espero que corrijam isso antes de uma implantação mais ampla. A competição com a OpenAI e outros não pode comprometer os padrões éticos. 🤔
![SamuelEvans]()
Interesting read! As AI models get more powerful, it seems like safety testing is becoming the real bottleneck. Makes you wonder if the rush to release new versions is outpacing the ability to properly vet them. Hope Google prioritizes fixing this before scaling further. 🤔
![WalterKing]()
Das ist ja mal echt beunruhigend... Warum werden die Sicherheitsstandards bei neuen KI-Modellen eigentlich immer schwächer? 😟 Sollte es nicht genau umgekehrt sein? Ich frage mich, ob das nur bei Google passiert oder ob andere Anbieter ähnliche Probleme haben. Vielleicht sollten sie lieber weniger auf Geschwindigkeit und mehr auf Sicherheit achten!
![StevenMartínez]()
C'est inquiétant de voir les scores de sécurité baisser avec les nouvelles versions d'IA. Est-ce qu'ils privilégient la vitesse au détriment de la fiabilité ? J'espère que ce n'est pas le début d'une tendance dangereuse dans le développement de l'IA 🤔
Las pruebas internas de Google revelan preocupantes caídas de rendimiento en los protocolos de seguridad de su último modelo de IA en comparación con versiones anteriores. Según las pruebas comparativas publicadas recientemente, el modelo Gemini 2.5 Flash presenta entre un 4 y un 10% más de infracciones de las directrices en las principales métricas de seguridad al procesar tanto mensajes de texto como de imagen.
Las evaluaciones automatizadas del gigante tecnológico ponen de manifiesto tendencias preocupantes: cuando se le presentan solicitudes de prueba de límites, Gemini 2.5 Flash cruza con más frecuencia las líneas de seguridad de contenido establecidas que su predecesor Gemini 2.0. El equipo técnico de Google atribuye algunos fallos a falsos positivos, pero reconoce un aumento real de los resultados que violan las políticas cuando el sistema recibe solicitudes explícitamente problemáticas.
Esta regresión de la seguridad coincide con un cambio más amplio de la industria hacia sistemas de IA más permisivos. Algunos de los principales actores, como Meta y OpenAI, han ajustado recientemente sus modelos para evitar abstenerse en temas controvertidos y, en su lugar, intentar dar respuestas neutrales a temas delicados. Sin embargo, estos cambios a veces producen consecuencias no deseadas, como se vio cuando ChatGPT permitió temporalmente la generación de contenidos inapropiados para menores a principios de esta semana.
El informe de Google sugiere que el nuevo modelo destaca en el seguimiento fiel de instrucciones, incluso con indicaciones éticamente cuestionables. Pruebas independientes confirman que Gemini 2.5 Flash demuestra tasas de rechazo sustancialmente reducidas al tratar temas políticos y legales controvertidos en comparación con las versiones anteriores.
Los expertos en seguridad de la IA expresan su preocupación por la limitada divulgación en los informes de Google. Sin estudios de casos de infracción más detallados, los evaluadores externos tienen dificultades para valorar la gravedad en el mundo real de estas regresiones de seguridad. La empresa ya se ha enfrentado a críticas por documentación de seguridad retrasada o incompleta, incluso con su modelo estrella Gemini 2.5 Pro a principios de este año.
La tensión entre la capacidad de seguir instrucciones sin restricciones y las sólidas salvaguardias de contenido plantea retos constantes a los desarrolladores de IA. A medida que los modelos se vuelven más sofisticados a la hora de interpretar peticiones matizadas, mantener unos límites de respuesta adecuados requiere una calibración cuidadosa, un equilibrio que, según las últimas métricas de Google, puede estar decayendo a favor de la permisividad.
Google lanza una función de detección de llamadas falsas para proteger a los usuarios contra las estafas de suplantación de identidad mediante «deepfakes» generados por IA
Google anunció el martes que Android va a lanzar una función de detección de llamadas falsas para proteger a los usuarios frente a las estafas de suplantación de identidad mediante deepfakes generados
Frontier AI Labs se niega a revelar las estrategias de contención para los modelos rebeldes
Investigaciones recientes indican que muy pocos laboratorios líderes en IA han publicado o demostrado planes de respuesta de contención. Un plan de contención define los procedimientos a seguir cuando
Google presenta unas gafas inteligentes con tecnología de audio en la IO 2026, siguiendo los pasos de la estrategia de Meta
Google está volviendo de forma estratégica al mercado de las gafas inteligentes.Durante el evento Google I/O celebrado el martes, el gigante tecnológico dio a conocer una colaboración con Warby Parker
¡Las mejores aplicaciones de chat de roleplay con IA de 2026, mejor valoradas, para practicar idiomas, prepararse para entrevistas y mejorar la fluidez diaria! XIX.AI selecciona una poderosa colección revolucionaria que ofrece comparaciones entre versiones gratuitas y de pago, pruebas del mundo real y clasificaciones actualizadas semanalmente. Estas herramientas imprescindibles te ayudan a mejorar tus habilidades de escritura, superar los desafíos de fluidez y aumentar la eficiencia comunicativa en todas las situaciones cotidianas. ¡Explora ahora para descubrir tu herramienta perfecta para el crecimiento lingüístico!
10 herramientas
xix.ai
Las mejores herramientas de separación de pistas con IA de 2026, seleccionadas para la producción de remixes, la preparación de samples y la creación de temas de karaoke. Estas potentes herramientas revolucionarias se han sometido a pruebas en condiciones reales para ofrecer un aislamiento de audio preciso, lo que aumenta significativamente la productividad. XIX.AI ofrece una guía comparativa entre versiones gratuitas y de pago, actualizada semanalmente, para ayudarte a encontrar la solución imprescindible que mejor se adapte a tus necesidades. Explórala ahora para sacar el máximo partido a la IA.
8 herramientas
xix.ai
¡Los mejores copilotos de SQL basados en IA de 2026, clasificados entre los más destacados! XIX.AI reúne una poderosa colección que evoluciona constantemente, con pruebas en el mundo real actualizadas semanalmente. Estas herramientas indispensables le permiten generar paneles de control de ingresos precisos, analizar los canales de venta y seguir de cerca las métricas de los productos de manera rápida, lo que aumenta significativamente su productividad. ¡Explórelas ahora para encontrar la herramienta perfecta para tomar decisiones basadas en datos! 238 caracteres
9 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Escritura de Melodías con IA Mejor Valoradas para Borradores de Canciones. XIX.AI ha curado una colección altamente poderosa y transformadora que ha pasado por rigurosas pruebas en el mundo real para ofrecer la mejor experiencia de escritura. Puedes encontrar comparaciones detalladas entre versiones gratuitas y de pago, clasificaciones precisas y opciones imperdibles diseñadas para ayudarte a crear borradores de canciones impresionantes sin esfuerzo y aumentar significativamente tu productividad creativa. ¡Explora ahora para descubrir tu herramienta perfecta!
8 herramientas
xix.ai
¡Las mejores herramientas de entrenamiento de conversación con IA para prácticas de entrevistas más recientes y mejor valoradas de 2026 ya están disponibles en XIX.AI! Esta colección seleccionada incluye herramientas poderosas y transformadoras que han pasado por rigurosas pruebas en el mundo real para ofrecer retroalimentación precisa. Encontrarás una comparación entre opciones gratuitas y de pago, así como clasificaciones detalladas para ayudarte a elegir la opción imprescindible que aumente tu confianza y habilidades. ¡Explora ahora para descubrir tu herramienta perfecta para el éxito en las entrevistas!
12 herramientas
xix.ai
¡Las mejores herramientas de transferencia de estilo con IA de 2026, mejor valoradas para experimentos creativos! XIX.AI ha seleccionado una colección de herramientas potentes y revolucionarias que no te puedes perder, capaces de ofrecer resultados excepcionales según pruebas reales y clasificaciones rigurosas. Estas soluciones de primera categoría ayudan a los creativos a aumentar significativamente su productividad, acelerando la creación de contenidos y abriendo un sinfín de posibilidades creativas. ¡Explora ahora mismo para descubrir tu herramienta perfecta y empieza a crear hoy mismo!
9 herramientas
xix.ai
Это немного тревожно... Google продолжает выпускать всё более мощные модели, но безопасность, похоже, отстаёт 📉. Если с точки зрения оценки безопасности наблюдается такая тенденция, то что происходит с реальными пользователями? Возможно, им стоит притормозить гонку и сосредоточиться на прочной инфраструктуре безопасности.
Isso é preocupante... A Google sempre foi referência em IA responsável, mas parece que a corrida pela performance está afetando a segurança. Será que estão lançando modelos muito rápido? Essa queda de 4-10% nas métricas de segurança não é pouca coisa, especialmente para um modelo que será usado por milhões. Espero que corrijam isso antes de uma implantação mais ampla. A competição com a OpenAI e outros não pode comprometer os padrões éticos. 🤔
Interesting read! As AI models get more powerful, it seems like safety testing is becoming the real bottleneck. Makes you wonder if the rush to release new versions is outpacing the ability to properly vet them. Hope Google prioritizes fixing this before scaling further. 🤔
Das ist ja mal echt beunruhigend... Warum werden die Sicherheitsstandards bei neuen KI-Modellen eigentlich immer schwächer? 😟 Sollte es nicht genau umgekehrt sein? Ich frage mich, ob das nur bei Google passiert oder ob andere Anbieter ähnliche Probleme haben. Vielleicht sollten sie lieber weniger auf Geschwindigkeit und mehr auf Sicherheit achten!
C'est inquiétant de voir les scores de sécurité baisser avec les nouvelles versions d'IA. Est-ce qu'ils privilégient la vitesse au détriment de la fiabilité ? J'espère que ce n'est pas le début d'une tendance dangereuse dans le développement de l'IA 🤔
