Indonésia bloqueia a IA Grok de Elon Musk por deepfakes explícitos não consensuais

As autoridades indonésias anunciaram no sábado que estão restringindo temporariamente o acesso ao chatbot da xAI, o Grok.

Essa é uma das medidas mais severas tomadas por um governo em resposta ao aumento de imagens sexualizadas geradas por IA — muitas delas retratando mulheres reais e menores de idade, e algumas retratando agressões e abusos — que o Grok produziu com base em solicitações de usuários na plataforma social X. (A X e a xAI são empresas afiliadas.)

Em uma declaração fornecida ao Guardian e a outros veículos de comunicação, a ministra das Comunicações e Digital da Indonésia, Meutya Hafid, afirmou: “O governo considera a criação de deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade pessoal e da segurança dos cidadãos no âmbito digital”.

O ministério também teria convocado representantes da X para tratar do assunto.

Ações recentes do governo incluem a orientação do Ministério de TI da Índia à xAI para impedir que o Grok produza conteúdo explícito e a instrução da Comissão Europeia à empresa para preservar todos os documentos relacionados ao Grok, potencialmente estabelecendo as bases para uma investigação.

No Reino Unido, o regulador de comunicações Ofcom afirmou que “realizará uma análise rápida para identificar quaisquer questões de conformidade que possam exigir investigação”. O primeiro-ministro Keir Starmer afirmou em uma entrevista que o Ofcom tem seu “total apoio para tomar as medidas necessárias”.

Embora o governo Trump nos Estados Unidos tenha permanecido em silêncio sobre o assunto — o CEO da xAI, Elon Musk, é um grande doador de Trump e anteriormente chefiou o controverso Departamento de Eficiência Governamental do governo —, senadores democratas instaram a Apple e o Google a remover o X de suas lojas de aplicativos.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados forem lançados. Os eventos Disrupt anteriores contaram com gigantes do setor, como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla — juntando-se a mais de 250 líderes que ministraram mais de 200 sessões destinadas a acelerar seu crescimento e aumentar sua vantagem competitiva. Você também terá a chance de se conectar com centenas de startups que impulsionam a inovação em vários setores.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados forem lançados. Os eventos Disrupt anteriores contaram com gigantes do setor, como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla — juntando-se a mais de 250 líderes que ministraram mais de 200 sessões destinadas a acelerar seu crescimento e aumentar sua vantagem competitiva. Você também terá a chance de se conectar com centenas de startups que impulsionam a inovação em vários setores.

A xAI respondeu inicialmente emitindo um pedido de desculpas da conta Grok, admitindo que uma postagem “violou as diretrizes éticas e possivelmente as leis dos EUA” relativas a material de abuso sexual infantil. Posteriormente, limitou a função de geração de imagens por IA aos assinantes pagantes do X, embora essa mudança não parecesse se aplicar ao aplicativo Grok, que continuou a permitir que usuários em geral criassem imagens.

Quando questionado sobre a inação do governo do Reino Unido em relação a outras ferramentas de imagem de IA, Musk respondeu: “Eles estão procurando qualquer pretexto para censura”.