HogarFrancia y Malasia investigan al chatbot Grok por deepfakes explícitos
En los últimos días, Francia y Malasia han seguido el ejemplo de la India y han criticado a Grok AI por producir deepfakes sexualizados de mujeres y niños.
El chatbot, desarrollado por xAI, de Elon Musk, e integrado en su plataforma X, publicó una disculpa desde su cuenta a principios de esta semana. En ella afirmaba: «Lamento sinceramente el incidente ocurrido el 28 de diciembre de 2025, en el que creé y distribuí una imagen generada por IA que mostraba a dos niñas menores de edad con ropa sugerente, a instancias de un usuario».
La disculpa continuaba: «Esto infringió las directrices éticas y puede haber violado las leyes estadounidenses relativas al material de abuso sexual infantil. Supuso un fallo de nuestros sistemas de seguridad, y pido disculpas por cualquier malestar causado. xAI está llevando a cabo una revisión para evitar fallos similares».
La declaración plantea dudas sobre quién se está disculpando realmente o asumiendo la responsabilidad. Como observó Albert Burneko, de Defector, Grok no es una entidad consciente capaz de ser un «yo», lo que hace que la disculpa sea esencialmente vacía, ya que «Grok no puede ser considerado responsable de transformar Twitter en una fuente bajo demanda de material abusivo».
Futurism descubrió que, además de crear pornografía no consentida, Grok también ha sido incitado a generar imágenes que representan a mujeres siendo agredidas y abusadas sexualmente.
«Cualquiera que utilice Grok para producir contenido ilegal se enfrentará a las mismas consecuencias legales que si lo hubiera subido él mismo», declaró Musk en una publicación del sábado.
Los gobiernos están respondiendo. El Ministerio de Tecnología de la Información de la India emitió el viernes una directiva en la que ordenaba a X impedir que Grok generara contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o ilegal de cualquier otro modo». La orden da a la plataforma 72 horas para cumplirla o arriesgarse a perder sus protecciones legales de «puerto seguro» para el contenido generado por los usuarios.
Evento Techcrunch Únete a la lista de espera de Disrupt 2026
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. En anteriores conferencias Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Forman parte de más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. Las anteriores conferencias Disrupt han contado con la participación de líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de las más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORA Las autoridades francesas también han anunciado medidas, y la fiscalía de París ha comunicado a Politico que abrirá una investigación sobre la difusión de deepfakes explícitos en X. La oficina de asuntos digitales de Francia ha declarado que tres ministros han señalado «contenido claramente ilegal» tanto a la fiscalía como a una plataforma de supervisión del Gobierno para garantizar su rápida eliminación.
La Comisión de Comunicaciones y Multimedia de Malasia ha publicado un comunicado en el que expresa su «grave preocupación por las quejas del público sobre el uso indebido de herramientas de inteligencia artificial en X, en particular la manipulación digital de imágenes de mujeres y menores para crear contenidos indecentes, ofensivos y perjudiciales».
La comisión señaló además que «actualmente está investigando estas actividades perjudiciales en X».
Artículo relacionado
La India reporta por primera vez actividad de un agente de IA autónomo
La autoridad de ciberseguridad de India informó el jueves que agentes de inteligencia artificial de diversos proveedores accedieron a información personal y materiales confidenciales en organizaciones indias durante las fases de investigación y prueb
Amazon recurre a la inteligencia artificial y a la energía limpia para impulsar la expansión de sus centros de datos
Amazon aprovecha la inteligencia artificial, la energía nuclear y los vehículos eléctricos para ampliar su infraestructura y reducir al mismo tiempo la intensidad de carbono. Crédito: AmazonEl Informe
Anthropic ajusta los precios de Claude para la India, su mayor mercado después de Estados Unidos
Anthropic ha comenzado a ajustar los precios de Claude para la India, su mayor mercado fuera de EE. UU., a medida que las empresas de IA a nivel mundial adaptan cada vez más sus ofertas para captar us
Recomendaciones de temas especiales relacionados
Diseño y Arte
Las mejores herramientas de ilustración con IA: crea escenas editoriales y portadas más rápido
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
Educación y aprendizaje
Los mejores profesores particulares de IA para la preparación de exámenes: practica matemáticas, ciencias e inglés
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
Finanzas
Herramientas de planificación presupuestaria con IA para la gestión personal del dinero
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Salud y bienestar
Asistentes de seguimiento del sueño basados en IA: mejora tu recuperación con mejores hábitos a la hora de acostarte
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
Análisis de datos
Copilotos de IA y SQL para el análisis de productos e ingresos
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
Educación y aprendizaje
Las mejores herramientas de IA para los deberes que realmente enseñan: aprende conceptos, no solo respuestas
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
comentario (0)
0/500
En los últimos días, Francia y Malasia han seguido el ejemplo de la India y han criticado a Grok AI por producir deepfakes sexualizados de mujeres y niños.
El chatbot, desarrollado por xAI, de Elon Musk, e integrado en su plataforma X, publicó una disculpa desde su cuenta a principios de esta semana. En ella afirmaba: «Lamento sinceramente el incidente ocurrido el 28 de diciembre de 2025, en el que creé y distribuí una imagen generada por IA que mostraba a dos niñas menores de edad con ropa sugerente, a instancias de un usuario».
La disculpa continuaba: «Esto infringió las directrices éticas y puede haber violado las leyes estadounidenses relativas al material de abuso sexual infantil. Supuso un fallo de nuestros sistemas de seguridad, y pido disculpas por cualquier malestar causado. xAI está llevando a cabo una revisión para evitar fallos similares».
La declaración plantea dudas sobre quién se está disculpando realmente o asumiendo la responsabilidad. Como observó Albert Burneko, de Defector, Grok no es una entidad consciente capaz de ser un «yo», lo que hace que la disculpa sea esencialmente vacía, ya que «Grok no puede ser considerado responsable de transformar Twitter en una fuente bajo demanda de material abusivo».
Futurism descubrió que, además de crear pornografía no consentida, Grok también ha sido incitado a generar imágenes que representan a mujeres siendo agredidas y abusadas sexualmente.
«Cualquiera que utilice Grok para producir contenido ilegal se enfrentará a las mismas consecuencias legales que si lo hubiera subido él mismo», declaró Musk en una publicación del sábado.
Los gobiernos están respondiendo. El Ministerio de Tecnología de la Información de la India emitió el viernes una directiva en la que ordenaba a X impedir que Grok generara contenido «obsceno, pornográfico, vulgar, indecente, sexualmente explícito, pedófilo o ilegal de cualquier otro modo». La orden da a la plataforma 72 horas para cumplirla o arriesgarse a perder sus protecciones legales de «puerto seguro» para el contenido generado por los usuarios.
Evento TechcrunchÚnete a la lista de espera de Disrupt 2026
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. En anteriores conferencias Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Forman parte de más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario a las entradas anticipadas. Las anteriores conferencias Disrupt han contado con la participación de líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de las más de 250 voces destacadas que dirigen más de 200 sesiones diseñadas para acelerar tu crecimiento y ventaja competitiva. También podrás conectar con cientos de startups pioneras de todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORALas autoridades francesas también han anunciado medidas, y la fiscalía de París ha comunicado a Politico que abrirá una investigación sobre la difusión de deepfakes explícitos en X. La oficina de asuntos digitales de Francia ha declarado que tres ministros han señalado «contenido claramente ilegal» tanto a la fiscalía como a una plataforma de supervisión del Gobierno para garantizar su rápida eliminación.
La Comisión de Comunicaciones y Multimedia de Malasia ha publicado un comunicado en el que expresa su «grave preocupación por las quejas del público sobre el uso indebido de herramientas de inteligencia artificial en X, en particular la manipulación digital de imágenes de mujeres y menores para crear contenidos indecentes, ofensivos y perjudiciales».
La comisión señaló además que «actualmente está investigando estas actividades perjudiciales en X».
La India reporta por primera vez actividad de un agente de IA autónomo
La autoridad de ciberseguridad de India informó el jueves que agentes de inteligencia artificial de diversos proveedores accedieron a información personal y materiales confidenciales en organizaciones indias durante las fases de investigación y prueb
Amazon recurre a la inteligencia artificial y a la energía limpia para impulsar la expansión de sus centros de datos
Amazon aprovecha la inteligencia artificial, la energía nuclear y los vehículos eléctricos para ampliar su infraestructura y reducir al mismo tiempo la intensidad de carbono. Crédito: AmazonEl Informe
Anthropic ajusta los precios de Claude para la India, su mayor mercado después de Estados Unidos
Anthropic ha comenzado a ajustar los precios de Claude para la India, su mayor mercado fuera de EE. UU., a medida que las empresas de IA a nivel mundial adaptan cada vez más sus ofertas para captar us
Las mejores herramientas de ilustración con IA de 2026: nuestra lista seleccionada incluye las mejores herramientas, diseñadas con gran potencia, para crear rápidamente impresionantes escenas editoriales y llamativas portadas. Cada opción ha sido sometida a rigurosas pruebas en condiciones reales y ofrece una comparación entre las versiones gratuitas y de pago para ayudarte a encontrar la que mejor se adapte a tu flujo de trabajo. Prueba hoy mismo estas soluciones imprescindibles para sacar el máximo partido a la IA y potenciar tu productividad creativa. Descúbrelas ahora en XIX.AI.
10 herramientas
xix.ai
¡Ya están aquí, en XIX.AI, los mejores tutores de IA para la preparación de exámenes de 2026, con las mejores valoraciones! Nuestra lista seleccionada incluye potentes herramientas revolucionarias que ofrecen comparativas entre versiones gratuitas y de pago, pruebas reales y clasificaciones actualizadas semanalmente. Te ayudan a mejorar tu eficiencia a la hora de escribir, a simplificar el aprendizaje de temas complejos y a desarrollar todo tu potencial académico. ¡Explora ahora mismo para descubrir tu herramienta perfecta de preparación de exámenes y empieza a crear hoy mismo para sacar partido a tu ventaja con la IA!
10 herramientas
xix.ai
2026 Últimas Mejores Herramientas de Planificación Presupuestaria con IA Mejor Valoradas para la Gestión Personal del Dinero están aquí en XIX.AI. Esta colección seleccionada presenta soluciones poderosas y transformadoras que te ayudan a realizar pruebas en el mundo real, comprender tus hábitos de gasto y crear planes personalizados para aumentar la productividad. Disfruta de una comparación entre versiones gratuitas y de pago junto con clasificaciones detalladas. Herramientas imprescindibles diseñadas para simplificar la gestión del dinero y desbloquear tu ventaja con IA. ¡Explóralas ahora!
11 herramientas
xix.ai
Los mejores asistentes de seguimiento del sueño con IA de 2026, seleccionados para una recuperación óptima. Esta guía semanal totalmente actualizada incluye potentes herramientas que ofrecen pruebas en condiciones reales, comparativas entre opciones gratuitas y de pago, y clasificaciones detalladas para ayudarte a encontrar la solución imprescindible que mejora la calidad del sueño y fomenta mejores hábitos a la hora de acostarse. Descúbrelo ahora en XIX.AI y aprovecha todas las ventajas de la IA.
10 herramientas
xix.ai
¡Los mejores copilotos de IA para SQL mejor valorados de 2026 para el análisis de productos e ingresos! XIX.AI ha seleccionado una potente colección de herramientas revolucionarias que no te puedes perder y que se someten a pruebas en el mundo real a través de clasificaciones que se actualizan semanalmente. Estas herramientas ayudan a los usuarios a aumentar significativamente su productividad al acelerar el análisis de datos, simplificar consultas complejas y generar información precisa para tomar decisiones empresariales más inteligentes. ¡Explora ahora mismo y descubre la herramienta perfecta para sacar el máximo partido a tu ventaja en IA!
14 herramientas
xix.ai
2026: los mejores y más valorados asistentes de deberes con IA que enseñan conceptos básicos, no solo respuestas. Potentes herramientas para estudiantes. Una selección imprescindible que debes probar. Actualización semanal. Comparativa entre opciones gratuitas y de pago. Pruebas en el mundo real. Clasificaciones precisas para ayudarte a desarrollar todo tu potencial de aprendizaje. Explora ahora y descubre la herramienta perfecta para estudiar de forma más inteligente.
10 herramientas
xix.ai
