Hogar
La empresa xAI de Elon Musk se enfrenta a una demanda por contenido pornográfico infantil; menores afirman que Grok los desnudó.

Tres demandantes anónimas argumentaron en una demanda presentada el lunes en un tribunal federal de California que la empresa de Elon Musk, xAI, debería ser considerada responsable por permitir que sus modelos de inteligencia artificial generen imágenes sexuales abusivas de menores identificables.
Las tres demandantes, que buscan convertir este caso en una acción colectiva, pretenden representar a cualquier persona cuyas imágenes reales de su época infantil hayan sido modificadas por Grok para incluir contenido sexual. Alegan que xAI no adoptó las precauciones básicas utilizadas por otros laboratorios innovadores para evitar que sus modelos de imagen generen pornografía que represente a personas reales y menores. El caso, denominado Jane Doe 1, Jane Doe 2 (menor) y Jane Doe 3 (menor) contra X.AI Corp y X.AI LLC, fue presentado en el Tribunal Federal del Distrito Norte de California.
Otros generadores de imágenes basados en aprendizaje profundo emplean diversas técnicas para impedir la creación de pornografía infantil a partir de fotografías comunes. La demanda sostiene que xAI no adoptó dichos estándares.
Cabe destacar que, si un modelo permite generar contenido desnudo o erótico a partir de imágenes reales, resulta casi imposible evitar que también cree contenido sexual que involucre a menores. La promoción pública por parte de Musk de la capacidad de Grok para generar imágenes sexuales y representar a personas reales con atuendos escuetos juega un papel importante en esta demanda.
La empresa no respondió a la solicitud de comentarios realizada por TechCrunch.
Una de las demandantes, Jane Doe 1, tuvo sus fotografías del baile de bienvenida de su secundaria y del anuario modificado por Grok para mostrarla sin ropa. Una fuente anónima que la contactó en Instagram le informó que esas fotos circulaban en línea y le envió un enlace a un servidor de Discord donde se encontraban imágenes sexualizadas suyas y de otros menores a quienes reconocía de la escuela.
Otra demandante, Jane Doe 2, fue informada por investigadores criminales sobre imágenes modificadas y sexualizadas suyas creadas por una aplicación móvil de terceros que utiliza modelos Grok. Una tercera demandante, Jane Doe 3, también recibió notificación de los investigadores criminales, quienes hallaron una imagen pornográfica modificada suya en el teléfono de una persona a la que habían detenido. Los abogados de las demandantes sostienen que, dado que el uso por parte de terceros sigue requiriendo el código y servidores de xAI, la empresa debe asumir responsabilidad.
Las tres demandantes, dos de las cuales siguen siendo menores, afirman estar sufriendo una angustia extrema debido a la circulación de estas imágenes y al posible impacto en su reputación y vida social. Buscan sanciones civiles conforme a diversas leyes diseñadas para proteger a los niños explotados y prevenir la negligencia corporativa.
Artículo relacionado
Últimas 24 horas para exhibirse en TechCrunch Disrupt 2026
Las reservas de mesas para la exposición expiran esta noche, viernes 18 de septiembre, a las 11:59 p. m. PT. Después de este plazo, ya no podrás añadir tu startup al Salón de Exposiciones.Las mesas son limitadas y se asignan por orden de llegada. Las
Doubao Mobile lanza el Nubia NaviX Ultra, comercializado como el primer buque insignia de agente de IA del mundo
Ni Fei, director ejecutivo de Navea, reveló que el próximo smartphone de nueva generación de Doubao, comercializado como «Navea NaviX Ultra», se lanzará en septiembre. Posicionado como el primer teléfono inteligente insignia con agente de inteligenci
2nd World Humanoid Robot Sports Meet Kicks Off: 2056 Steel Soldiers Battle at Ice Ribbon
Los Segundos Juegos Deportivos Mundiales de Robots Humanoides comenzaron en el Óvalo Nacional de Patinaje de Velocidad, conocido como el “Cinturón de Hielo”, la noche del 22 de agosto. Organizado conjuntamente por el Gobierno Municipal de Pekín, Chin
Recomendaciones de temas especiales relacionados
comentario (0)
0/500

Tres demandantes anónimas argumentaron en una demanda presentada el lunes en un tribunal federal de California que la empresa de Elon Musk, xAI, debería ser considerada responsable por permitir que sus modelos de inteligencia artificial generen imágenes sexuales abusivas de menores identificables.
Las tres demandantes, que buscan convertir este caso en una acción colectiva, pretenden representar a cualquier persona cuyas imágenes reales de su época infantil hayan sido modificadas por Grok para incluir contenido sexual. Alegan que xAI no adoptó las precauciones básicas utilizadas por otros laboratorios innovadores para evitar que sus modelos de imagen generen pornografía que represente a personas reales y menores. El caso, denominado Jane Doe 1, Jane Doe 2 (menor) y Jane Doe 3 (menor) contra X.AI Corp y X.AI LLC, fue presentado en el Tribunal Federal del Distrito Norte de California.
Otros generadores de imágenes basados en aprendizaje profundo emplean diversas técnicas para impedir la creación de pornografía infantil a partir de fotografías comunes. La demanda sostiene que xAI no adoptó dichos estándares.
Cabe destacar que, si un modelo permite generar contenido desnudo o erótico a partir de imágenes reales, resulta casi imposible evitar que también cree contenido sexual que involucre a menores. La promoción pública por parte de Musk de la capacidad de Grok para generar imágenes sexuales y representar a personas reales con atuendos escuetos juega un papel importante en esta demanda.
La empresa no respondió a la solicitud de comentarios realizada por TechCrunch.
Una de las demandantes, Jane Doe 1, tuvo sus fotografías del baile de bienvenida de su secundaria y del anuario modificado por Grok para mostrarla sin ropa. Una fuente anónima que la contactó en Instagram le informó que esas fotos circulaban en línea y le envió un enlace a un servidor de Discord donde se encontraban imágenes sexualizadas suyas y de otros menores a quienes reconocía de la escuela.
Otra demandante, Jane Doe 2, fue informada por investigadores criminales sobre imágenes modificadas y sexualizadas suyas creadas por una aplicación móvil de terceros que utiliza modelos Grok. Una tercera demandante, Jane Doe 3, también recibió notificación de los investigadores criminales, quienes hallaron una imagen pornográfica modificada suya en el teléfono de una persona a la que habían detenido. Los abogados de las demandantes sostienen que, dado que el uso por parte de terceros sigue requiriendo el código y servidores de xAI, la empresa debe asumir responsabilidad.
Las tres demandantes, dos de las cuales siguen siendo menores, afirman estar sufriendo una angustia extrema debido a la circulación de estas imágenes y al posible impacto en su reputación y vida social. Buscan sanciones civiles conforme a diversas leyes diseñadas para proteger a los niños explotados y prevenir la negligencia corporativa.
Últimas 24 horas para exhibirse en TechCrunch Disrupt 2026
Las reservas de mesas para la exposición expiran esta noche, viernes 18 de septiembre, a las 11:59 p. m. PT. Después de este plazo, ya no podrás añadir tu startup al Salón de Exposiciones.Las mesas son limitadas y se asignan por orden de llegada. Las
Doubao Mobile lanza el Nubia NaviX Ultra, comercializado como el primer buque insignia de agente de IA del mundo
Ni Fei, director ejecutivo de Navea, reveló que el próximo smartphone de nueva generación de Doubao, comercializado como «Navea NaviX Ultra», se lanzará en septiembre. Posicionado como el primer teléfono inteligente insignia con agente de inteligenci
2nd World Humanoid Robot Sports Meet Kicks Off: 2056 Steel Soldiers Battle at Ice Ribbon
Los Segundos Juegos Deportivos Mundiales de Robots Humanoides comenzaron en el Óvalo Nacional de Patinaje de Velocidad, conocido como el “Cinturón de Hielo”, la noche del 22 de agosto. Organizado conjuntamente por el Gobierno Municipal de Pekín, Chin











