Hogar
Una demanda en Nueva Jersey pone de relieve el reto que supone la lucha contra la pornografía deepfake
Durante más de dos años, una aplicación llamada ClothOff ha sometido a las mujeres jóvenes en Internet a una campaña de terror, y detenerla ha resultado ser una tarea tremendamente difícil. La aplicación ha sido retirada de las dos tiendas de aplicaciones más grandes y prohibida en la mayoría de las plataformas sociales, pero sigue siendo accesible a través de la web y de un bot de Telegram. En octubre, una clínica de la Facultad de Derecho de Yale inició una demanda con el objetivo de desmantelar definitivamente la aplicación, obligando a sus propietarios a eliminar todas las imágenes y cesar por completo sus operaciones. Sin embargo, el simple hecho de identificar y localizar a los demandados ha supuesto un reto importante.
«La entidad está constituida en las Islas Vírgenes Británicas», explica el profesor John Langford, co-abogado principal de la demanda, «pero creemos que está dirigida por un hermano y una hermana con sede en Bielorrusia. Incluso podría formar parte de una red global más amplia».
Este caso ofrece una lección aleccionadora tras la reciente avalancha de pornografía sintética no consentida generada por xAI, de Elon Musk, que incluía numerosas víctimas menores de edad. El material de abuso sexual infantil (CSAM) es el contenido más tóxico desde el punto de vista legal en Internet: su producción, transmisión o almacenamiento es ilegal, y se busca activamente en todos los principales servicios en la nube. Sin embargo, a pesar de las estrictas prohibiciones legales, herramientas como ClothOff siguen siendo difíciles de abordar, como ilustra el caso de Langford. Si bien se puede procesar a los usuarios individuales, la vigilancia de plataformas como ClothOff y Grok es mucho más compleja, lo que deja a las víctimas con vías limitadas para buscar justicia a través de los tribunales.
La denuncia pública de la clínica describe un escenario profundamente preocupante. La demandante es una estudiante anónima de secundaria de Nueva Jersey cuyos compañeros de clase utilizaron ClothOff para manipular sus fotos de Instagram. Tenía 14 años cuando se tomaron las fotos originales, lo que significa que las versiones alteradas por la IA constituyen legalmente imágenes de abuso sexual infantil. Sin embargo, a pesar de la clara ilegalidad de las imágenes modificadas, las autoridades locales se negaron a procesar el caso, alegando dificultades para obtener pruebas de los dispositivos de los sospechosos.
«Ni la escuela ni las fuerzas del orden determinaron nunca el alcance de la distribución del material de abuso sexual infantil de Jane Doe y otras niñas», afirma la denuncia.
El avance del caso judicial ha sido lento. Presentada en octubre, la denuncia ha ido seguida de meses de intentos por parte de Langford y sus colegas de notificar legalmente a los acusados, una tarea difícil dado el alcance internacional de la operación. Una vez notificados, la clínica puede proceder a programar una comparecencia ante el tribunal y solicitar una sentencia. Hasta entonces, el sistema legal ha ofrecido poco consuelo a las víctimas de ClothOff.
El caso Grok podría parecer más sencillo de abordar. La empresa xAI de Elon Musk no se esconde, y un litigio exitoso podría reportar importantes beneficios económicos. Sin embargo, Grok es una herramienta de uso general, lo que complica considerablemente el establecimiento de la responsabilidad legal por su uso indebido.
Evento Techcrunch Únete a la lista de espera de Disrupt 2026
Añádase a la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En anteriores ediciones de Disrupt han participado líderes del sector de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla, entre los más de 250 líderes que han impartido más de 200 sesiones diseñadas para acelerar su crecimiento y agudizar su ventaja competitiva. Además, podrá conectar con cientos de startups pioneras en innovación en todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Añádase a la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En ediciones anteriores de Disrupt han participado líderes del sector de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla, que forman parte de los más de 250 líderes que impulsan más de 200 sesiones diseñadas para acelerar su crecimiento y afinar su ventaja competitiva. Además, conecte con cientos de startups pioneras en innovación en todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORA «ClothOff está diseñado y comercializado explícitamente como un generador de pornografía deepfake para imágenes y vídeos», me explicó Langford. «Cuando se litiga contra un sistema de uso general que los usuarios pueden consultar para cualquier propósito, el panorama legal se vuelve mucho más complejo».
Varias leyes estadounidenses, entre las que destaca la Take It Down Act, ya prohíben la pornografía deepfake. Sin embargo, aunque algunos usuarios concretos violan claramente estas leyes, responsabilizar a toda una plataforma es considerablemente más difícil. Las leyes vigentes suelen exigir pruebas de la intención de causar daño, lo que significa demostrar que xAI sabía que su herramienta se utilizaría para crear pornografía no consentida. En ausencia de tales pruebas, los derechos fundamentales de xAI amparados por la Primera Enmienda podrían proporcionar una protección legal sustancial.
«Desde el punto de vista de la Primera Enmienda, es inequívoco que el material de abuso sexual infantil no es expresión protegida», señala Langford. «Por lo tanto, si se diseña un sistema específicamente para producir ese contenido, se está operando claramente fuera de las protecciones de la Primera Enmienda. Sin embargo, con un sistema de uso general que responde a diversas consultas de los usuarios, los límites legales son mucho menos claros».
La vía legal más directa sería demostrar que xAI ignoró deliberadamente el uso indebido. Se trata de un argumento plausible, dados los recientes informes de que Musk ordenó a los empleados que relajaran las medidas de seguridad de Grok. No obstante, incluso con ese enfoque, llevar adelante un caso de este tipo conllevaría un riesgo legal mucho mayor.
«Los observadores razonables podrían argumentar que este riesgo era previsible hace años», afirma Langford. «¿Cómo es posible que no se hayan implementado controles más estrictos para evitarlo? Eso sugiere un cierto grado de imprudencia o conocimiento, pero sigue siendo un caso más complicado de litigar».
Estas complejidades de la Primera Enmienda explican por qué la respuesta regulatoria más significativa contra xAI se ha originado en jurisdicciones sin protecciones sólidas de la libertad de expresión. Indonesia y Malasia ya han tomado medidas para bloquear el acceso al chatbot Grok, mientras que los reguladores del Reino Unido han abierto una investigación que podría conducir a una prohibición similar. La Comisión Europea, Francia, Irlanda, India y Brasil también han tomado medidas preliminares. Por el contrario, ningún organismo regulador de EE. UU. ha emitido una respuesta oficial.
Aún no se sabe cómo concluirán estas investigaciones, pero el aumento de las imágenes abusivas generadas por la IA sin duda ha planteado cuestiones críticas para los reguladores, y los resultados podrían ser incriminatorios.
«Si publicas, distribuyes o difundes material de abuso sexual infantil, estás infringiendo la ley penal y puedes ser considerado responsable», afirma Langford. «La cuestión jurídica más difícil es: ¿qué sabía la plataforma? ¿Qué medidas tomó o dejó de tomar? ¿Y qué está haciendo ahora al respecto?».
Artículo relacionado
Los ingresos de Anthropropic aumentan drásticamente y su capital bursátil se acerca a los mil millones de dólares.
Los informes indican que Anthropic ha logrado un significativo crecimiento en sus ingresos en solo unos pocos meses. Los ingresos anualizados de la empresa ahora superan los 30 mil millones de dólares, lo cual representa más del triple de lo que eran
Apple retira la aplicación Cal AI debido a compras dentro de la aplicación no autorizadas y facturación engañosa.
La reciente eliminación por parte de Apple de Cal AI, una popular aplicación de seguimiento alimentario basada en inteligencia artificial y disponible dentro de MyFitnessPal, pone de manifiesto su estricta aplicación de las políticas de la App Store
El sistema de facturación basado en tokens de Github Copilot provoca la indignación de los desarrolladores.
La era de oro de GitHub Copilot de Microsoft podría estar llegando a su fin, especialmente para los usuarios individuales. La empresa está pasando de un modelo de suscripción fija a uno basado en tokens, lo que podría aumentar significativamente los
Recomendaciones de temas especiales relacionados
Inmediato
Las mejores indicaciones de IA para la generación de clientes potenciales B2B: automatiza la captación de clientes y la creación de guiones para CRM
Descubre las mejores plantillas de IA de 2026 para la generación de clientes potenciales B2B. Nuestra selección, cuidadosamente seleccionada y con las mejores valoraciones, te ayuda a automatizar las campañas de ventas y los guiones de CRM, lo que impulsará tus tasas de conversión. Explora en XIX.AI unas plantillas potentes y revolucionarias, y aprovecha hoy mismo tu ventaja en la automatización de ventas.
10 herramientas
xix.ai
Edición de imágenes
Generadores de modelos de moda por IA gratuitos: Crea maquetas de ropa realistas y fotos con modelo.
Descubra los 20 mejores generadores de modelos de moda en AI gratuitos de 2026 en XIX.AI. Nuestra lista seleccionada incluye herramientas de alta calidad que revolucionarán su trabajo a la hora de crear maquetas de ropa realistas y fotos de modelos con prendas puestas. Compare las opciones gratuitas con las pagadas, con clasificaciones actualizadas semanalmente y pruebas reales. ¡Despliegue todo su potencial de diseño hoy mismo!
10 herramientas
xix.ai
escribiendo
Los mejores editores de continuidad basados en IA para ficción: detectan automáticamente fallos en la trama e incoherencias en la línea temporal
Descubre los mejores editores de continuidad basados en IA de 2026 para escritores de ficción. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas que detectan automáticamente fallos en la trama e incoherencias en la línea temporal. Compara las opciones gratuitas con las de pago mediante pruebas reales y clasificaciones que se actualizan semanalmente. Encuentra tu asistente de escritura ideal para garantizar narrativas impecables. Explora ahora las mejores opciones en XIX.AI.
10 herramientas
xix.ai
Creación de animación
Los mejores generadores de guiones gráficos para IA: convierten automáticamente los guiones cinematográficos en animaciones cinemáticas.
Descubra los mejores generadores de guiones gráficos de IA de 2026 en XIX.AI. Nuestros herramientas seleccionadas y altamente valoradas convierten automáticamente los guiones en animaciones cinematográficas, lo que le ahorra tiempo y mejora la preproducción. Explore opciones gratuitas y pagas mediante pruebas reales y clasificaciones actualizadas semanalmente. ¡Encuentre su compañero creativo ideal hoy mismo!
10 herramientas
xix.ai
SEO
Los mejores herramientas de redirección de IA y búsqueda de enlaces dañados: Reparan automáticamente los errores de rastreo para ahorrar el presupuesto dedicado a este proceso.
Descubra los mejores herramientas de redirección de IA y búsqueda de enlaces dañados de 2026 en XIX.AI. Nuestra lista seleccionada y calificada incluye herramientas poderosas que reparan automáticamente los errores de rastreo, ahorrándole así recursos. Compare opciones gratuitas y pagadas a través de pruebas reales y clasificaciones actualizadas semanalmente. ¡Encuentre la solución SEO perfecta para usted ahora mismo!
10 herramientas
xix.ai
Creación de vídeos
Los mejores creadores de vídeos con IA para podcasters: convierte ondas de audio en atractivos vídeos con rostros en primer plano
Descubre los mejores creadores de vídeos con IA para podcasters de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas que convierten tu audio en atractivos vídeos de «talking head» sin esfuerzo. Compara las opciones gratuitas con las de pago gracias a pruebas reales y a clasificaciones que se actualizan semanalmente. Aprovecha ahora tu ventaja en la narración visual.
10 herramientas
xix.ai
comentario (0)
0/500
Durante más de dos años, una aplicación llamada ClothOff ha sometido a las mujeres jóvenes en Internet a una campaña de terror, y detenerla ha resultado ser una tarea tremendamente difícil. La aplicación ha sido retirada de las dos tiendas de aplicaciones más grandes y prohibida en la mayoría de las plataformas sociales, pero sigue siendo accesible a través de la web y de un bot de Telegram. En octubre, una clínica de la Facultad de Derecho de Yale inició una demanda con el objetivo de desmantelar definitivamente la aplicación, obligando a sus propietarios a eliminar todas las imágenes y cesar por completo sus operaciones. Sin embargo, el simple hecho de identificar y localizar a los demandados ha supuesto un reto importante.
«La entidad está constituida en las Islas Vírgenes Británicas», explica el profesor John Langford, co-abogado principal de la demanda, «pero creemos que está dirigida por un hermano y una hermana con sede en Bielorrusia. Incluso podría formar parte de una red global más amplia».
Este caso ofrece una lección aleccionadora tras la reciente avalancha de pornografía sintética no consentida generada por xAI, de Elon Musk, que incluía numerosas víctimas menores de edad. El material de abuso sexual infantil (CSAM) es el contenido más tóxico desde el punto de vista legal en Internet: su producción, transmisión o almacenamiento es ilegal, y se busca activamente en todos los principales servicios en la nube. Sin embargo, a pesar de las estrictas prohibiciones legales, herramientas como ClothOff siguen siendo difíciles de abordar, como ilustra el caso de Langford. Si bien se puede procesar a los usuarios individuales, la vigilancia de plataformas como ClothOff y Grok es mucho más compleja, lo que deja a las víctimas con vías limitadas para buscar justicia a través de los tribunales.
La denuncia pública de la clínica describe un escenario profundamente preocupante. La demandante es una estudiante anónima de secundaria de Nueva Jersey cuyos compañeros de clase utilizaron ClothOff para manipular sus fotos de Instagram. Tenía 14 años cuando se tomaron las fotos originales, lo que significa que las versiones alteradas por la IA constituyen legalmente imágenes de abuso sexual infantil. Sin embargo, a pesar de la clara ilegalidad de las imágenes modificadas, las autoridades locales se negaron a procesar el caso, alegando dificultades para obtener pruebas de los dispositivos de los sospechosos.
«Ni la escuela ni las fuerzas del orden determinaron nunca el alcance de la distribución del material de abuso sexual infantil de Jane Doe y otras niñas», afirma la denuncia.
El avance del caso judicial ha sido lento. Presentada en octubre, la denuncia ha ido seguida de meses de intentos por parte de Langford y sus colegas de notificar legalmente a los acusados, una tarea difícil dado el alcance internacional de la operación. Una vez notificados, la clínica puede proceder a programar una comparecencia ante el tribunal y solicitar una sentencia. Hasta entonces, el sistema legal ha ofrecido poco consuelo a las víctimas de ClothOff.
El caso Grok podría parecer más sencillo de abordar. La empresa xAI de Elon Musk no se esconde, y un litigio exitoso podría reportar importantes beneficios económicos. Sin embargo, Grok es una herramienta de uso general, lo que complica considerablemente el establecimiento de la responsabilidad legal por su uso indebido.
Evento TechcrunchÚnete a la lista de espera de Disrupt 2026
Añádase a la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En anteriores ediciones de Disrupt han participado líderes del sector de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla, entre los más de 250 líderes que han impartido más de 200 sesiones diseñadas para acelerar su crecimiento y agudizar su ventaja competitiva. Además, podrá conectar con cientos de startups pioneras en innovación en todos los sectores.
Únase a la lista de espera de Disrupt 2026.
Añádase a la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En ediciones anteriores de Disrupt han participado líderes del sector de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla, que forman parte de los más de 250 líderes que impulsan más de 200 sesiones diseñadas para acelerar su crecimiento y afinar su ventaja competitiva. Además, conecte con cientos de startups pioneras en innovación en todos los sectores.
San Francisco | 13-15 de octubre de 2026 LISTA DE ESPERA AHORA«ClothOff está diseñado y comercializado explícitamente como un generador de pornografía deepfake para imágenes y vídeos», me explicó Langford. «Cuando se litiga contra un sistema de uso general que los usuarios pueden consultar para cualquier propósito, el panorama legal se vuelve mucho más complejo».
Varias leyes estadounidenses, entre las que destaca la Take It Down Act, ya prohíben la pornografía deepfake. Sin embargo, aunque algunos usuarios concretos violan claramente estas leyes, responsabilizar a toda una plataforma es considerablemente más difícil. Las leyes vigentes suelen exigir pruebas de la intención de causar daño, lo que significa demostrar que xAI sabía que su herramienta se utilizaría para crear pornografía no consentida. En ausencia de tales pruebas, los derechos fundamentales de xAI amparados por la Primera Enmienda podrían proporcionar una protección legal sustancial.
«Desde el punto de vista de la Primera Enmienda, es inequívoco que el material de abuso sexual infantil no es expresión protegida», señala Langford. «Por lo tanto, si se diseña un sistema específicamente para producir ese contenido, se está operando claramente fuera de las protecciones de la Primera Enmienda. Sin embargo, con un sistema de uso general que responde a diversas consultas de los usuarios, los límites legales son mucho menos claros».
La vía legal más directa sería demostrar que xAI ignoró deliberadamente el uso indebido. Se trata de un argumento plausible, dados los recientes informes de que Musk ordenó a los empleados que relajaran las medidas de seguridad de Grok. No obstante, incluso con ese enfoque, llevar adelante un caso de este tipo conllevaría un riesgo legal mucho mayor.
«Los observadores razonables podrían argumentar que este riesgo era previsible hace años», afirma Langford. «¿Cómo es posible que no se hayan implementado controles más estrictos para evitarlo? Eso sugiere un cierto grado de imprudencia o conocimiento, pero sigue siendo un caso más complicado de litigar».
Estas complejidades de la Primera Enmienda explican por qué la respuesta regulatoria más significativa contra xAI se ha originado en jurisdicciones sin protecciones sólidas de la libertad de expresión. Indonesia y Malasia ya han tomado medidas para bloquear el acceso al chatbot Grok, mientras que los reguladores del Reino Unido han abierto una investigación que podría conducir a una prohibición similar. La Comisión Europea, Francia, Irlanda, India y Brasil también han tomado medidas preliminares. Por el contrario, ningún organismo regulador de EE. UU. ha emitido una respuesta oficial.
Aún no se sabe cómo concluirán estas investigaciones, pero el aumento de las imágenes abusivas generadas por la IA sin duda ha planteado cuestiones críticas para los reguladores, y los resultados podrían ser incriminatorios.
«Si publicas, distribuyes o difundes material de abuso sexual infantil, estás infringiendo la ley penal y puedes ser considerado responsable», afirma Langford. «La cuestión jurídica más difícil es: ¿qué sabía la plataforma? ¿Qué medidas tomó o dejó de tomar? ¿Y qué está haciendo ahora al respecto?».
Los ingresos de Anthropropic aumentan drásticamente y su capital bursátil se acerca a los mil millones de dólares.
Los informes indican que Anthropic ha logrado un significativo crecimiento en sus ingresos en solo unos pocos meses. Los ingresos anualizados de la empresa ahora superan los 30 mil millones de dólares, lo cual representa más del triple de lo que eran
Apple retira la aplicación Cal AI debido a compras dentro de la aplicación no autorizadas y facturación engañosa.
La reciente eliminación por parte de Apple de Cal AI, una popular aplicación de seguimiento alimentario basada en inteligencia artificial y disponible dentro de MyFitnessPal, pone de manifiesto su estricta aplicación de las políticas de la App Store
El sistema de facturación basado en tokens de Github Copilot provoca la indignación de los desarrolladores.
La era de oro de GitHub Copilot de Microsoft podría estar llegando a su fin, especialmente para los usuarios individuales. La empresa está pasando de un modelo de suscripción fija a uno basado en tokens, lo que podría aumentar significativamente los
Descubre las mejores plantillas de IA de 2026 para la generación de clientes potenciales B2B. Nuestra selección, cuidadosamente seleccionada y con las mejores valoraciones, te ayuda a automatizar las campañas de ventas y los guiones de CRM, lo que impulsará tus tasas de conversión. Explora en XIX.AI unas plantillas potentes y revolucionarias, y aprovecha hoy mismo tu ventaja en la automatización de ventas.
10 herramientas
xix.ai
Descubra los 20 mejores generadores de modelos de moda en AI gratuitos de 2026 en XIX.AI. Nuestra lista seleccionada incluye herramientas de alta calidad que revolucionarán su trabajo a la hora de crear maquetas de ropa realistas y fotos de modelos con prendas puestas. Compare las opciones gratuitas con las pagadas, con clasificaciones actualizadas semanalmente y pruebas reales. ¡Despliegue todo su potencial de diseño hoy mismo!
10 herramientas
xix.ai
Descubre los mejores editores de continuidad basados en IA de 2026 para escritores de ficción. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas que detectan automáticamente fallos en la trama e incoherencias en la línea temporal. Compara las opciones gratuitas con las de pago mediante pruebas reales y clasificaciones que se actualizan semanalmente. Encuentra tu asistente de escritura ideal para garantizar narrativas impecables. Explora ahora las mejores opciones en XIX.AI.
10 herramientas
xix.ai
Descubra los mejores generadores de guiones gráficos de IA de 2026 en XIX.AI. Nuestros herramientas seleccionadas y altamente valoradas convierten automáticamente los guiones en animaciones cinematográficas, lo que le ahorra tiempo y mejora la preproducción. Explore opciones gratuitas y pagas mediante pruebas reales y clasificaciones actualizadas semanalmente. ¡Encuentre su compañero creativo ideal hoy mismo!
10 herramientas
xix.ai
Descubra los mejores herramientas de redirección de IA y búsqueda de enlaces dañados de 2026 en XIX.AI. Nuestra lista seleccionada y calificada incluye herramientas poderosas que reparan automáticamente los errores de rastreo, ahorrándole así recursos. Compare opciones gratuitas y pagadas a través de pruebas reales y clasificaciones actualizadas semanalmente. ¡Encuentre la solución SEO perfecta para usted ahora mismo!
10 herramientas
xix.ai
Descubre los mejores creadores de vídeos con IA para podcasters de 2026 en XIX.AI. Nuestra lista, cuidadosamente seleccionada y con las mejores valoraciones, incluye potentes herramientas que convierten tu audio en atractivos vídeos de «talking head» sin esfuerzo. Compara las opciones gratuitas con las de pago gracias a pruebas reales y a clasificaciones que se actualizan semanalmente. Aprovecha ahora tu ventaja en la narración visual.
10 herramientas
xix.ai
