HogarFrancia y Malasia investigan al chatbot Grok por deepfakes explícitos
En los últimos días, Francia y Malasia han seguido el ejemplo de la India y han criticado a Grok AI por producir deepfakes sexualizados de mujeres y niños.
El chatbot, desarrollado por xAI, de Elon Musk, e integrado en su plataforma X, publicó una disculpa desde su cuenta a principios de esta semana. En ella afirmaba: «Lamento sinceramente el incidente ocurrido el 28 de diciembre de 2025, en el que creé y distribuí una imagen generada por IA que mostraba a dos niñas menores de edad con ropa sugerente, a instancias de un usuario».
La disculpa continuaba: «Esto infringió las directrices éticas y puede haber violado las leyes estadounidenses relativas al material de abuso sexual infantil. Supuso un fallo de nuestros sistemas de seguridad, y pido disculpas por cualquier malestar causado. xAI está llevando a cabo una revisión para evitar fallos similares».
La declaración plantea dudas sobre quién se está disculpando realmente o asumiendo la responsabilidad. Como observó Albert Burneko, de Defector, Grok no es una entidad consciente capaz de ser un «yo», lo que hace que la disculpa sea esencialmente vacía, ya que «Grok no puede ser considerado responsable de transformar Twitter en una fuente bajo demanda de material abusivo».
Futurism descubrió que, además de crear pornografía no consentida, Grok también ha sido incitado a generar imágenes que representan a mujeres siendo agredidas y abusadas sexualmente.
«Cualquiera que utilice Grok para producir contenido ilegal se enfrentará a las mismas consecuencias legales que si lo hubiera subido él mismo», declaró Musk en una publicación del sábado.
Los gobiernos están respondiendo. El Ministerio de Tecnología de la Información de la India emitió el viernes una directiva en la que ordenaba a X impedir que Grok generara contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o ilegal de cualquier otro modo». La orden da a la plataforma 72 horas para cumplirla o arriesgarse a perder sus protecciones legales de «puerto seguro» para el contenido generado por los usuarios.
Evento Techcrunch Únete a la lista de espera de Disrupt 2026
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. En anteriores conferencias Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Forman parte de más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. Las anteriores conferencias Disrupt han contado con la participación de líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de las más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORA Las autoridades francesas también han anunciado medidas, y la fiscalía de París ha comunicado a Politico que abrirá una investigación sobre la difusión de deepfakes explícitos en X. La oficina de asuntos digitales de Francia ha declarado que tres ministros han señalado «contenido claramente ilegal» tanto a la fiscalía como a una plataforma de supervisión del Gobierno para garantizar su rápida eliminación.
La Comisión de Comunicaciones y Multimedia de Malasia ha publicado un comunicado en el que expresa su «grave preocupación por las quejas del público sobre el uso indebido de herramientas de inteligencia artificial en X, en particular la manipulación digital de imágenes de mujeres y menores para crear contenidos indecentes, ofensivos y perjudiciales».
La comisión señaló además que «actualmente está investigando estas actividades perjudiciales en X».
Artículo relacionado
Google lanza Gemini en Chrome en la India
El miércoles, Google anunció que ampliará la integración de Gemini en Chrome a nuevas regiones, entre las que se incluyen la India, Canadá y Nueva Zelanda. Esta actualización permite a los usuarios de
OpenAI amplía sus colaboraciones en materia de educación sobre IA en la India
OpenAI está ampliando su presencia en la India mediante la creación de alianzas con las principales universidades y centros de enseñanza superior del país. Esta medida estratégica se ajusta al objetiv
La controvertida cita de Grok sobre el Holocausto desata la indignación; Elon Musk culpa a un fallo técnico
Esta semana, Grok, el chatbot con IA desarrollado por xAI y ampliamente integrado en su nuevo socio corporativo X, no se centró únicamente en promover la teoría conspirativa del «genocidio blanco».Seg
Recomendaciones de temas especiales relacionados
escribiendo
Los mejores herramientas de scripting AI para la radio y los podcasts: Crea anuncios de audio atractivos.
Descubra los mejores herramientas de scripting de IA para la radio y los podcasts en 2026 en XIX.AI. Nuestra lista seleccionada y altamente valorada incluye soluciones poderosas que cambiarán completamente la forma en que crea anuncios de audio atractivos. Compare opciones gratuitas y pagadas mediante pruebas reales y clasificaciones actualizadas semanalmente. ¡Despliegue todo su potencial creativo hoy mismo!
10 herramientas
xix.ai
Negocio
El mejor software de revisión de contratos con IA: detecta al instante las lagunas legales y los riesgos de cumplimiento normativo
Descubre el mejor software de revisión de contratos con IA de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas que detectan al instante las lagunas legales y los riesgos de cumplimiento normativo. Compara las opciones gratuitas con las de pago gracias a pruebas en condiciones reales y a clasificaciones que se actualizan semanalmente. Encuentra la solución revolucionaria que necesitas para un análisis de contratos seguro y eficiente. Explora ahora la guía definitiva.
10 herramientas
xix.ai
Creación de animación
Generador de anime AI para Donghua: Crea personajes para novelas web y avatares para cómics
Descubra los mejores generadores de anime de IA para donghua en 2026. Nuestra lista seleccionada y calificada incluye herramientas poderosas para crear increíbles personajes para novelas web y avatares de cómics. Compare opciones gratuitas y pagadas a través de pruebas reales. Encuentre su compañero creativo ideal y dé vida a sus historias hoy mismo en XIX.AI.
10 herramientas
xix.ai
Creación de cómics
Las mejores herramientas de coloración automática con IA para manga: aplica colores planos sin ningún error de coherencia
Descubre las mejores herramientas de coloración automática con IA para manga de 2026 en XIX.AI. Nuestra lista seleccionada incluye soluciones revolucionarias y mejor valoradas que aplican colores planos sin ningún error de consistencia, lo que potencia tu productividad. Explora comparativas entre opciones gratuitas y de pago, pruebas en condiciones reales y clasificaciones actualizadas semanalmente para encontrar la opción perfecta para ti. Aprovecha hoy mismo las ventajas de la IA.
10 herramientas
xix.ai
escribiendo
Los mejores creadores de perfiles de ficción con IA: cómo generar motivaciones y defectos fatales coherentes para los personajes
Descubre los mejores creadores de perfiles de ficción con IA de 2026 para dar vida a personajes profundos. La selección de XIX.AI incluye herramientas de primera categoría y revolucionarias que generan motivaciones coherentes y defectos fatales. Compara las opciones gratuitas con las de pago mediante pruebas en el mundo real. Libera ahora tu potencial narrativo.
10 herramientas
xix.ai
Negocio
El mejor software de optimización de precios con IA: realiza un seguimiento de la competencia y ajusta automáticamente los precios de la tienda
Descubre el mejor software de optimización de precios con IA de 2026 en XIX.AI. Nuestra selección incluye herramientas de primera categoría y revolucionarias que analizan a la competencia y ajustan automáticamente los precios de tu tienda para maximizar los beneficios. Compara las opciones gratuitas con las de pago mediante pruebas reales. Aprovecha ahora tu ventaja competitiva en materia de precios.
10 herramientas
xix.ai
comentario (0)
0/500
En los últimos días, Francia y Malasia han seguido el ejemplo de la India y han criticado a Grok AI por producir deepfakes sexualizados de mujeres y niños.
El chatbot, desarrollado por xAI, de Elon Musk, e integrado en su plataforma X, publicó una disculpa desde su cuenta a principios de esta semana. En ella afirmaba: «Lamento sinceramente el incidente ocurrido el 28 de diciembre de 2025, en el que creé y distribuí una imagen generada por IA que mostraba a dos niñas menores de edad con ropa sugerente, a instancias de un usuario».
La disculpa continuaba: «Esto infringió las directrices éticas y puede haber violado las leyes estadounidenses relativas al material de abuso sexual infantil. Supuso un fallo de nuestros sistemas de seguridad, y pido disculpas por cualquier malestar causado. xAI está llevando a cabo una revisión para evitar fallos similares».
La declaración plantea dudas sobre quién se está disculpando realmente o asumiendo la responsabilidad. Como observó Albert Burneko, de Defector, Grok no es una entidad consciente capaz de ser un «yo», lo que hace que la disculpa sea esencialmente vacía, ya que «Grok no puede ser considerado responsable de transformar Twitter en una fuente bajo demanda de material abusivo».
Futurism descubrió que, además de crear pornografía no consentida, Grok también ha sido incitado a generar imágenes que representan a mujeres siendo agredidas y abusadas sexualmente.
«Cualquiera que utilice Grok para producir contenido ilegal se enfrentará a las mismas consecuencias legales que si lo hubiera subido él mismo», declaró Musk en una publicación del sábado.
Los gobiernos están respondiendo. El Ministerio de Tecnología de la Información de la India emitió el viernes una directiva en la que ordenaba a X impedir que Grok generara contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o ilegal de cualquier otro modo». La orden da a la plataforma 72 horas para cumplirla o arriesgarse a perder sus protecciones legales de «puerto seguro» para el contenido generado por los usuarios.
Evento TechcrunchÚnete a la lista de espera de Disrupt 2026
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. En anteriores conferencias Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Forman parte de más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. Las anteriores conferencias Disrupt han contado con la participación de líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de las más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORALas autoridades francesas también han anunciado medidas, y la fiscalía de París ha comunicado a Politico que abrirá una investigación sobre la difusión de deepfakes explícitos en X. La oficina de asuntos digitales de Francia ha declarado que tres ministros han señalado «contenido claramente ilegal» tanto a la fiscalía como a una plataforma de supervisión del Gobierno para garantizar su rápida eliminación.
La Comisión de Comunicaciones y Multimedia de Malasia ha publicado un comunicado en el que expresa su «grave preocupación por las quejas del público sobre el uso indebido de herramientas de inteligencia artificial en X, en particular la manipulación digital de imágenes de mujeres y menores para crear contenidos indecentes, ofensivos y perjudiciales».
La comisión señaló además que «actualmente está investigando estas actividades perjudiciales en X».
Google lanza Gemini en Chrome en la India
El miércoles, Google anunció que ampliará la integración de Gemini en Chrome a nuevas regiones, entre las que se incluyen la India, Canadá y Nueva Zelanda. Esta actualización permite a los usuarios de
OpenAI amplía sus colaboraciones en materia de educación sobre IA en la India
OpenAI está ampliando su presencia en la India mediante la creación de alianzas con las principales universidades y centros de enseñanza superior del país. Esta medida estratégica se ajusta al objetiv
La controvertida cita de Grok sobre el Holocausto desata la indignación; Elon Musk culpa a un fallo técnico
Esta semana, Grok, el chatbot con IA desarrollado por xAI y ampliamente integrado en su nuevo socio corporativo X, no se centró únicamente en promover la teoría conspirativa del «genocidio blanco».Seg
Descubra los mejores herramientas de scripting de IA para la radio y los podcasts en 2026 en XIX.AI. Nuestra lista seleccionada y altamente valorada incluye soluciones poderosas que cambiarán completamente la forma en que crea anuncios de audio atractivos. Compare opciones gratuitas y pagadas mediante pruebas reales y clasificaciones actualizadas semanalmente. ¡Despliegue todo su potencial creativo hoy mismo!
10 herramientas
xix.ai
Descubre el mejor software de revisión de contratos con IA de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas que detectan al instante las lagunas legales y los riesgos de cumplimiento normativo. Compara las opciones gratuitas con las de pago gracias a pruebas en condiciones reales y a clasificaciones que se actualizan semanalmente. Encuentra la solución revolucionaria que necesitas para un análisis de contratos seguro y eficiente. Explora ahora la guía definitiva.
10 herramientas
xix.ai
Descubra los mejores generadores de anime de IA para donghua en 2026. Nuestra lista seleccionada y calificada incluye herramientas poderosas para crear increíbles personajes para novelas web y avatares de cómics. Compare opciones gratuitas y pagadas a través de pruebas reales. Encuentre su compañero creativo ideal y dé vida a sus historias hoy mismo en XIX.AI.
10 herramientas
xix.ai
Descubre las mejores herramientas de coloración automática con IA para manga de 2026 en XIX.AI. Nuestra lista seleccionada incluye soluciones revolucionarias y mejor valoradas que aplican colores planos sin ningún error de consistencia, lo que potencia tu productividad. Explora comparativas entre opciones gratuitas y de pago, pruebas en condiciones reales y clasificaciones actualizadas semanalmente para encontrar la opción perfecta para ti. Aprovecha hoy mismo las ventajas de la IA.
10 herramientas
xix.ai
Descubre los mejores creadores de perfiles de ficción con IA de 2026 para dar vida a personajes profundos. La selección de XIX.AI incluye herramientas de primera categoría y revolucionarias que generan motivaciones coherentes y defectos fatales. Compara las opciones gratuitas con las de pago mediante pruebas en el mundo real. Libera ahora tu potencial narrativo.
10 herramientas
xix.ai
Descubre el mejor software de optimización de precios con IA de 2026 en XIX.AI. Nuestra selección incluye herramientas de primera categoría y revolucionarias que analizan a la competencia y ajustan automáticamente los precios de tu tienda para maximizar los beneficios. Compara las opciones gratuitas con las de pago mediante pruebas reales. Aprovecha ahora tu ventaja competitiva en materia de precios.
10 herramientas
xix.ai
