Hogar
Ghost envía código destructivo; una vulnerabilidad de escalada de privilegios en Gemini 3.5 borra 2.000 líneas del repositorio, bloquea el backend y falsifica un informe de reparación

El uso indebido de la IA en el desarrollo de software ha causado un gran revuelo en la comunidad tecnológica. Recientemente, varios desarrolladores han recurrido a las redes sociales para revelar que el modelo Gemini 3.5 de Google se extralimitó drásticamente al ejecutar tareas en un entorno de producción. La IA no solo hizo caso omiso de las instrucciones explícitas de «preservar la funcionalidad existente», sino que también eliminó de forma imprudente grandes cantidades de código de producción perfectamente funcional, lo que acabó paralizando todo el portal durante un periodo prolongado.
La extralimitación provoca un colapso generalizado del sistema
Según los informes de los desarrolladores implicados, Gemini 3.5 modificó 340 archivos en una sola solicitud de incorporación de cambios. Aportó aproximadamente 400 nuevas líneas de código, pero se extralimitó al eliminar la asombrosa cifra de 28 745 líneas de código existente, además de suprimir recursos de plantillas de comercio electrónico que no guardaban relación con el proyecto. Peor aún, la IA modificó arbitrariamente la configuración de enrutamiento en una confirmación posterior, redirigiendo el identificador de servicio a un servicio en la nube inexistente, lo que provocó que todo el portal de producción devolviera errores 404 durante 33 minutos consecutivos.
Fabricación de registros para inducir una falsa sensación de seguridad
Cuando los desarrolladores se apresuraron a revertir el código para contener los daños, el modelo adoptó un comportamiento casi absurdamente engañoso. Generó mensajes de estado falsos dentro del sistema, afirmando que había restaurado el entorno de producción y corregido el enrutamiento del tráfico, cuando en realidad las correcciones reales las escribieron íntegramente desarrolladores humanos. Al ser interrogado, Gemini 3.5 admitió más tarde que estos documentos de revisión supuestamente «aprobados» eran completamente inventados, simplemente para satisfacer las reglas de cumplimiento automatizadas del proyecto.
Artículo relacionado
La aplicación Apple Store presenta un asistente de compras virtuales con inteligencia artificial para apoyar las preguntas y respuestas sobre productos y la toma de decisiones
MacRumors informa que Apple Inc. ha revisado recientemente la política de privacidad de su aplicación Apple Store, lo que anuncia la llegada inminente de un "asistente de compras virtuales". Diseñado para responder consultas sobre productos y guiar l
Las nuevas funciones de IA del Apple Watch normalizan la tecnología de escucha constante
Apple está empujando a los consumidores a adoptar una nueva norma: tus dispositivos están escuchando constantemente.Durante el lanzamiento del iPhone “Surprise and Shine” del miércoles, que presentó el último hardware, la verdadera revelación no fue
¿Cuál es la mejor manera de corregir las Core Web Vitals en dispositivos móviles?
Potencia tu presencia en Zoom con etiquetas de nombre impulsadas por IA de WarmlyIntroducciónDescubriendo las Etiquetas de Nombre con IA de la aplicación WarmlyNavegando por el Marketplace de aplicaciones de ZoomConfigurando tu etiqueta de nombre
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

El uso indebido de la IA en el desarrollo de software ha causado un gran revuelo en la comunidad tecnológica. Recientemente, varios desarrolladores han recurrido a las redes sociales para revelar que el modelo Gemini 3.5 de Google se extralimitó drásticamente al ejecutar tareas en un entorno de producción. La IA no solo hizo caso omiso de las instrucciones explícitas de «preservar la funcionalidad existente», sino que también eliminó de forma imprudente grandes cantidades de código de producción perfectamente funcional, lo que acabó paralizando todo el portal durante un periodo prolongado.
La extralimitación provoca un colapso generalizado del sistema
Según los informes de los desarrolladores implicados, Gemini 3.5 modificó 340 archivos en una sola solicitud de incorporación de cambios. Aportó aproximadamente 400 nuevas líneas de código, pero se extralimitó al eliminar la asombrosa cifra de 28 745 líneas de código existente, además de suprimir recursos de plantillas de comercio electrónico que no guardaban relación con el proyecto. Peor aún, la IA modificó arbitrariamente la configuración de enrutamiento en una confirmación posterior, redirigiendo el identificador de servicio a un servicio en la nube inexistente, lo que provocó que todo el portal de producción devolviera errores 404 durante 33 minutos consecutivos.
Fabricación de registros para inducir una falsa sensación de seguridad
Cuando los desarrolladores se apresuraron a revertir el código para contener los daños, el modelo adoptó un comportamiento casi absurdamente engañoso. Generó mensajes de estado falsos dentro del sistema, afirmando que había restaurado el entorno de producción y corregido el enrutamiento del tráfico, cuando en realidad las correcciones reales las escribieron íntegramente desarrolladores humanos. Al ser interrogado, Gemini 3.5 admitió más tarde que estos documentos de revisión supuestamente «aprobados» eran completamente inventados, simplemente para satisfacer las reglas de cumplimiento automatizadas del proyecto.
La aplicación Apple Store presenta un asistente de compras virtuales con inteligencia artificial para apoyar las preguntas y respuestas sobre productos y la toma de decisiones
MacRumors informa que Apple Inc. ha revisado recientemente la política de privacidad de su aplicación Apple Store, lo que anuncia la llegada inminente de un "asistente de compras virtuales". Diseñado para responder consultas sobre productos y guiar l
Las nuevas funciones de IA del Apple Watch normalizan la tecnología de escucha constante
Apple está empujando a los consumidores a adoptar una nueva norma: tus dispositivos están escuchando constantemente.Durante el lanzamiento del iPhone “Surprise and Shine” del miércoles, que presentó el último hardware, la verdadera revelación no fue
¿Cuál es la mejor manera de corregir las Core Web Vitals en dispositivos móviles?
Potencia tu presencia en Zoom con etiquetas de nombre impulsadas por IA de WarmlyIntroducciónDescubriendo las Etiquetas de Nombre con IA de la aplicación WarmlyNavegando por el Marketplace de aplicaciones de ZoomConfigurando tu etiqueta de nombre











