Indonésia e Malásia proíbem o Grok, ferramenta de IA que espalha deepfakes explícitos não autorizados

As autoridades indonésias e malaias anunciaram restrições temporárias ao acesso ao chatbot da xAI, Grok.

Essas medidas representam a resposta mais forte do governo até o momento a um aumento de conteúdo sexualizado gerado por IA — frequentemente retratando mulheres reais e menores de idade, às vezes de forma violenta — que o Grok publicou em resposta a solicitações de usuários na plataforma social X. (A X e a xAI operam sob o mesmo guarda-chuva corporativo.)

Em uma declaração divulgada no sábado ao The Guardian e a outros veículos de comunicação, a ministra das Comunicações e Digital da Indonésia, Meutya Hafid, afirmou: “O governo considera os deepfakes sexuais não consensuais uma grave violação dos direitos humanos, da dignidade pessoal e da segurança dos cidadãos no âmbito digital”.

O ministério também teria convocado representantes da X para tratar do assunto.

De acordo com o The New York Times, o governo da Malásia anunciou uma proibição semelhante no domingo.

Ações recentes do governo incluem a orientação do Ministério de TI da Índia à xAI para impedir que a Grok produza material explícito, enquanto a Comissão Europeia ordenou que a empresa preservasse todos os documentos relacionados à Grok, potencialmente abrindo caminho para uma investigação oficial.

No Reino Unido, o órgão regulador das comunicações Ofcom afirmou que “realizará uma avaliação rápida para identificar possíveis problemas de conformidade que exijam investigação”. O primeiro-ministro Keir Starmer afirmou em uma entrevista que o Ofcom tem seu “total apoio para tomar as medidas necessárias”.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados estiverem disponíveis. As conferências Disrupt anteriores contaram com a participação de pioneiros do setor da Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla, que se juntaram a mais de 250 líderes de pensamento em mais de 200 sessões destinadas a acelerar seu crescimento e vantagem competitiva. Descubra centenas de startups inovadoras que estão transformando setores em todo o mundo.

Inscreva-se na lista de espera do Disrupt 2026

Garanta sua vaga na lista de espera da Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados estiverem disponíveis. As conferências Disrupt anteriores contaram com a participação de pioneiros do setor, como Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla, que se juntaram a mais de 250 líderes inovadores em mais de 200 sessões projetadas para acelerar seu crescimento e vantagem competitiva. Descubra centenas de startups inovadoras que estão transformando indústrias em todo o mundo.

Enquanto isso, nos Estados Unidos, o governo Trump permaneceu em silêncio sobre a controvérsia (o CEO da xAI, Elon Musk, é um importante apoiador de Trump e anteriormente chefiou o controverso Departamento de Eficiência Governamental do governo), embora senadores democratas tenham instado a Apple e o Google a remover o X de suas lojas de aplicativos.

A resposta inicial da xAI incluiu um pedido de desculpas em primeira pessoa da conta Grok, admitindo que uma postagem “violou normas éticas e possivelmente leis dos EUA” relativas a material de abuso sexual infantil. Posteriormente, a empresa limitou a geração de imagens por IA aos assinantes premium do X, embora essa restrição não se estendesse ao aplicativo Grok independente, que permaneceu acessível para a criação de imagens.

Quando questionado sobre por que as autoridades britânicas não estavam visando outros geradores de imagens de IA, Musk respondeu: “Eles estão procurando pretextos para censura”.

Este artigo foi atualizado para incluir a proibição do Grok na Malásia.