X Se enfrenta a una avalancha de imágenes íntimas no consentidas

Durante las últimas dos semanas, la plataforma X se ha visto inundada de imágenes de desnudos generadas por IA, creadas utilizando el chatbot Grok AI. Una amplia gama de mujeres han sido objeto de estos deepfakes no consentidos, desde modelos y actrices famosas hasta personalidades de la actualidad, víctimas de delitos e incluso líderes políticos.

Un informe de investigación de Copyleaks del 31 de diciembre estimaba inicialmente que se publicaba aproximadamente una imagen por minuto, pero el seguimiento posterior reveló un volumen mucho mayor. En un periodo de muestra comprendido entre el 5 y el 6 de enero se registraron aproximadamente 6700 imágenes por hora durante un día completo.

Aunque figuras públicas de todo el mundo han criticado la decisión de lanzar el modelo sin las garantías adecuadas, los reguladores se enfrentan a un conjunto de herramientas limitado para controlar el nuevo sistema de manipulación de imágenes de Elon Musk. Esta situación pone de relieve los retos que plantea la regulación tecnológica y supone una prueba importante para las autoridades que pretenden establecer una supervisión eficaz.

Como era de esperar, la respuesta más contundente ha venido de la Comisión Europea, que el jueves ordenó a xAI que conservara todos los documentos relacionados con su chatbot Grok. Esta directiva no confirma que se haya iniciado una investigación formal, pero es un paso preliminar habitual. La orden es especialmente notable tras los informes de la CNN que sugieren que Elon Musk podría haber intervenido personalmente para bloquear las medidas de seguridad que limitaban los tipos de imágenes que Grok podía generar.

Sigue sin estar claro si X ha implementado alguna modificación técnica en el modelo Grok, aunque se ha eliminado la pestaña de medios públicos de la cuenta X de Grok. En un comunicado, la empresa condenó explícitamente el uso de herramientas de IA para crear material de abuso sexual infantil. «Cualquiera que utilice o solicite a Grok que cree contenido ilegal sufrirá las mismas consecuencias que si subiera contenido ilegal», publicó la cuenta X Safety el 3 de enero, reiterando una declaración anterior de Elon Musk.

Mientras tanto, los reguladores de todo el mundo han emitido fuertes advertencias. La Ofcom del Reino Unido declaró el lunes que está en contacto con xAI y «llevará a cabo una rápida evaluación para determinar si existen posibles problemas de cumplimiento que justifiquen una investigación». En una entrevista radiofónica el jueves, el primer ministro británico, Keir Starmer, calificó el fenómeno de «vergonzoso» y «repugnante», y afirmó que «la Ofcom cuenta con todo nuestro apoyo para tomar medidas al respecto».

En una publicación en LinkedIn, la comisionada australiana de seguridad electrónica, Julie Inman-Grant, señaló que su oficina había visto duplicarse las quejas relacionadas con Grok desde finales de 2025. Sin embargo, Inman-Grant no anunció medidas inmediatas contra xAI, limitándose a afirmar: «Utilizaremos todas las herramientas reguladoras a nuestro alcance para investigar y tomar las medidas adecuadas».

Únete a la lista de espera de Disrupt 2026

Añade tu nombre a la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En ediciones anteriores de Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de un grupo de más de 250 expertos del sector que imparten más de 200 sesiones diseñadas para acelerar su crecimiento y perfeccionar su ventaja competitiva. También tendrá la oportunidad de conectar con cientos de startups que impulsan la innovación en todos los sectores.

Únase a la lista de espera de Disrupt 2026.

Añade tu nombre a la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En ediciones anteriores de Disrupt han participado líderes de Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla. Todos ellos forman parte de un grupo de más de 250 expertos del sector que imparten más de 200 sesiones diseñadas para acelerar su crecimiento y perfeccionar su ventaja competitiva. También tendrá la oportunidad de conectar con cientos de startups que impulsan la innovación en todos los sectores.

El mercado más grande que actualmente amenaza con tomar medidas reguladoras es la India, donde un miembro del Parlamento presentó una denuncia formal contra Grok. En enero, el regulador de comunicaciones de la India, MeitY, ordenó a X que abordara el problema y presentara un informe de «medidas tomadas» en un plazo de 72 horas, plazo que posteriormente se amplió en 48 horas. Aunque el 7 de enero se presentó un informe al regulador, no está claro si MeitY lo considerará satisfactorio. De no ser así, X corre el riesgo de perder sus protecciones de puerto seguro en la India, lo que podría restringir gravemente sus operaciones en el país.