X Confrontado com o aumento de imagens íntimas não consensuais

Nas últimas duas semanas, a plataforma X foi inundada com imagens de nudez geradas por IA, criadas usando o chatbot Grok AI. Uma grande variedade de mulheres foi alvo dessas deepfakes não consensuais, desde modelos e atrizes famosas até personalidades do noticiário, vítimas de crimes e até mesmo líderes políticos.

Um artigo de pesquisa da Copyleaks de 31 de dezembro estimou inicialmente que cerca de uma imagem era postada por minuto, mas o monitoramento subsequente revelou um volume muito maior. Um período de amostra de 5 a 6 de janeiro registrou aproximadamente 6.700 imagens por hora durante um dia inteiro.

Embora figuras públicas em todo o mundo tenham criticado a decisão de lançar o modelo sem salvaguardas adequadas, os reguladores enfrentam um conjunto limitado de ferramentas para controlar o novo sistema de manipulação de imagens de Elon Musk. Essa situação ressalta os desafios da regulamentação tecnológica e representa um teste significativo para as autoridades que buscam estabelecer uma supervisão eficaz.

Previsivelmente, a resposta mais forte veio da Comissão Europeia, que na quinta-feira instruiu a xAI a preservar todos os documentos relacionados ao seu chatbot Grok. Essa diretiva não confirma que uma investigação formal tenha sido iniciada, mas é uma medida preliminar padrão. A ordem é especialmente notável após reportagens da CNN sugerirem que Elon Musk pode ter intervindo pessoalmente para bloquear as salvaguardas que limitavam os tipos de imagens que o Grok poderia gerar.

Ainda não se sabe se a X implementou alguma modificação técnica no modelo Grok, embora a guia de mídia pública na conta X do Grok tenha sido excluída. Em um comunicado, a empresa condenou explicitamente o uso de ferramentas de IA para criar material de abuso sexual infantil. “Qualquer pessoa que use ou solicite ao Grok a criação de conteúdo ilegal sofrerá as mesmas consequências que se tivesse enviado conteúdo ilegal”, postou a conta X Safety em 3 de janeiro, reiterando uma declaração anterior de Elon Musk.

Enquanto isso, reguladores em todo o mundo emitiram fortes advertências. A Ofcom do Reino Unido afirmou na segunda-feira que está em contato com a xAI e “realizará uma avaliação rápida para determinar se há possíveis problemas de conformidade que justifiquem uma investigação”. Em uma entrevista de rádio na quinta-feira, o primeiro-ministro do Reino Unido, Keir Starmer, classificou o fenômeno como “vergonhoso” e “repugnante”, afirmando que “a Ofcom tem todo o nosso apoio para tomar medidas em relação a isso”.

Em uma postagem no LinkedIn, a comissária australiana de segurança eletrônica, Julie Inman-Grant, observou que seu escritório viu uma duplicação nas reclamações relacionadas ao Grok desde o final de 2025. No entanto, Inman-Grant não anunciou medidas imediatas contra a xAI, afirmando apenas: “Usaremos as diversas ferramentas regulatórias à nossa disposição para investigar e tomar as medidas adequadas”.

Inscreva-se na lista de espera do Disrupt 2026

Adicione seu nome à lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados forem lançados. Os eventos Disrupt anteriores contaram com a participação de líderes do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla. Eles fazem parte de mais de 250 especialistas do setor que conduzem mais de 200 sessões destinadas a acelerar seu crescimento e refinar sua vantagem competitiva. Você também terá a chance de se conectar com centenas de startups que impulsionam a inovação em todos os setores.

Inscreva-se na lista de espera do Disrupt 2026

Adicione seu nome à lista de espera do Disrupt 2026 para ter acesso prioritário quando os ingressos antecipados forem lançados. Os eventos Disrupt anteriores contaram com a participação de líderes do Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil e Vinod Khosla. Eles fazem parte de um grupo de mais de 250 especialistas do setor que conduzem mais de 200 sessões destinadas a acelerar o seu crescimento e refinar a sua vantagem competitiva. Você também terá a oportunidade de se conectar com centenas de startups que impulsionam a inovação em todos os setores.

O maior mercado que atualmente ameaça com medidas regulatórias é a Índia, onde um membro do Parlamento apresentou uma queixa formal sobre a Grok. Em janeiro, o órgão regulador das comunicações da Índia, MeitY, ordenou que a X resolvesse a questão e apresentasse um relatório de “medidas tomadas” em 72 horas — prazo que foi posteriormente prorrogado por 48 horas. Embora um relatório tenha sido apresentado ao órgão regulador em 7 de janeiro, não está claro se o MeitY o considerará satisfatório. Caso contrário, a X corre o risco de perder suas proteções de porto seguro na Índia, o que poderia restringir severamente suas operações no país.