Indonesia bloquea la IA Grok de Elon Musk por deepfakes explícitos no consentidos

Las autoridades indonesias anunciaron el sábado que restringirán temporalmente el acceso al chatbot de xAI, Grok.

Esta es una de las medidas más contundentes tomadas por un gobierno en respuesta al aumento de imágenes sexualizadas generadas por IA —muchas de ellas representando a mujeres y menores reales, y algunas mostrando agresiones y abusos— que Grok ha producido a partir de las solicitudes de los usuarios en la plataforma social X. (X y xAI son empresas afiliadas).

En una declaración proporcionada a The Guardian y otros medios de comunicación, la ministra de Comunicaciones y Digitalización de Indonesia, Meutya Hafid, afirmó: «El Gobierno considera que la creación de deepfakes sexuales no consentidos constituye una grave violación de los derechos humanos, la dignidad personal y la seguridad de los ciudadanos en el ámbito digital».

Según se informa, el ministerio también ha convocado a representantes de X para abordar el asunto.

Entre las medidas recientes del Gobierno se incluyen la orden del Ministerio de Tecnología de la Información de la India a xAI de impedir que Grok produzca contenido explícito y la instrucción de la Comisión Europea a la empresa de conservar todos los documentos relacionados con Grok, lo que podría sentar las bases para una investigación.

En el Reino Unido, el regulador de las comunicaciones Ofcom declaró que «llevará a cabo una rápida revisión para identificar cualquier problema de cumplimiento que pueda requerir una investigación». El primer ministro Keir Starmer afirmó en una entrevista que Ofcom cuenta con su «pleno respaldo para tomar las medidas necesarias».

Aunque la administración Trump en Estados Unidos se ha mantenido en silencio sobre el tema —el director ejecutivo de xAI, Elon Musk, es uno de los principales donantes de Trump y anteriormente dirigió el polémico Departamento de Eficiencia Gubernamental de la administración—, los senadores demócratas han instado a Apple y Google a eliminar X de sus tiendas de aplicaciones.

Únase a la lista de espera de Disrupt 2026

Asegúrate tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En anteriores ediciones de Disrupt han participado gigantes del sector como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla, que se han unido a más de 250 líderes que han impartido más de 200 sesiones diseñadas para acelerar su crecimiento y mejorar su ventaja competitiva. También tendrá la oportunidad de conectar con cientos de startups que impulsan la innovación en diversos sectores.

Únase a la lista de espera de Disrupt 2026

Asegura tu plaza en la lista de espera de Disrupt 2026 para tener acceso prioritario cuando se pongan a la venta las entradas anticipadas. En anteriores ediciones de Disrupt han participado gigantes del sector como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil y Vinod Khosla, que se han unido a más de 250 líderes que han impartido más de 200 sesiones diseñadas para acelerar su crecimiento y mejorar su ventaja competitiva. También tendrá la oportunidad de conectar con cientos de startups que impulsan la innovación en diversos sectores.

xAI respondió inicialmente emitiendo una disculpa desde la cuenta de Grok, admitiendo que una publicación «incumplía las directrices éticas y posiblemente las leyes estadounidenses» en relación con el material de abuso sexual infantil. Posteriormente, limitó la función de generación de imágenes por IA a los suscriptores de pago de X, aunque este cambio no pareció aplicarse a la aplicación Grok, que siguió permitiendo a los usuarios generales crear imágenes.

Cuando se le preguntó sobre la inacción del Gobierno británico con respecto a otras herramientas de imágenes de IA, Musk respondió: «Están buscando cualquier pretexto para censurar».