Procuradoria Geral da Califórnia processa a xAI por pornografia com deepfakes

No início desta semana, o procurador-geral da Califórnia iniciou uma investigação sobre a xAI após denúncias de que seu chatbot, o Grok, estava sendo usado para gerar imagens de conteúdo sexual sem consentimento de mulheres e menores. Na sexta-feira, o estado intensificou sua resposta ao emitir uma carta de cessação e desistência, exigindo que a empresa interrompesse imediatamente a produção dessas imagens íntimas e de material de abuso sexual infantil (CSAM).
“Hoje, enviei à xAI uma carta de cessação e desistência exigindo que a empresa pare imediatamente de criar e distribuir deepfakes, imagens íntimas não consentidas e material de abuso sexual infantil”, declarou o procurador-geral da Califórnia, Rob Bonta, em um comunicado à imprensa. “Essa atividade é ilegal. Espero que a xAI cumpra a exigência imediatamente. A Califórnia tem tolerância zero para CSAM.”
O gabinete do procurador-geral alegou ainda que a xAI parece estar “facilitando a produção em larga escala” de imagens de nudez não consentidas, que são então “usadas para assediar mulheres e meninas online”. A agência deu à xAI cinco dias para demonstrar que está tomando medidas concretas para resolver essas questões.
No centro da controvérsia está o modo “picante” do Grok, um recurso projetado pela xAI para gerar conteúdo explícito. A reação negativa se estendeu além da Califórnia, com Japão, Canadá e Reino Unido abrindo suas próprias investigações sobre o Grok. Malásia e Indonésia bloquearam temporariamente o acesso à plataforma por completo. Apesar de a xAI ter implementado algumas restrições em seus recursos de edição de imagens na noite de quarta-feira, o procurador-geral da Califórnia prosseguiu com a ordem de cessação e desistência.
A equipe de segurança do X já havia condenado esse tipo de atividade dos usuários, afirmando: “Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que teria se o tivesse enviado diretamente”. Quando o TechCrunch entrou em contato com a xAI para comentar o assunto, recebeu uma resposta automática por e-mail afirmando: “A mídia tradicional mente”. O TechCrunch também procurou o gabinete do procurador-geral da Califórnia para obter mais contexto.
O surgimento de ferramentas de IA generativa disponíveis gratuitamente tem alimentado um aumento preocupante de material sexual não consensual. Esse é um desafio enfrentado por muitas plataformas, não apenas pelo X. A questão chamou a atenção tanto de autoridades estaduais quanto de legisladores federais. Na verdade, na quinta-feira, o Congresso enviou uma carta a executivos de várias grandes empresas de tecnologia — incluindo X, Reddit, Snap, TikTok, Alphabet e Meta — perguntando sobre seus planos para combater a disseminação de deepfakes sexualizados.
Artigo relacionado
Pontos destacados do documento de oferta pública inicial da SpaceX: ambições de expansão na área de internet por satélite e inteligência artificial
Em seu documento de registro S-1 apresentado antes do planejado IPO, a SpaceX revelou vários indicadores empresariais impressionantes que destacam sua forte presença no campo das comunicações aeroespaciais e da inteligência artificial:Mais de 10 mil
Alibaba Tuhao M890 estreia com desempenho triplamente superior, marcando o início de uma nova era de agentes full-stack para modelos de inferência em nuvem e chip.
Em 20 de maio de 2026, no Alibaba Cloud Summit, a empresa anunciou a conclusão de uma atualização do sistema tecnológico full-stack projetada para a era dos agentes inteligentes. Essa transformação redefiniu todo o processo, desde os chips e a plataf
Pentium 4 Revival: Uma CPU com 20 Anos de História Executa o Modelo Grande Meta Llama 3
Recentemente, o canal técnico do YouTube Fully Buffered realizou um experimento impressionante e rigoroso: conseguiu executar com sucesso o mais recente modelo grande da Meta, Llama 3.2 3B, em um processador Pentium 4 641, um chip lançado em 2006.Es
Recomendações de tópicos especiais relacionados
Comentários (0)

No início desta semana, o procurador-geral da Califórnia iniciou uma investigação sobre a xAI após denúncias de que seu chatbot, o Grok, estava sendo usado para gerar imagens de conteúdo sexual sem consentimento de mulheres e menores. Na sexta-feira, o estado intensificou sua resposta ao emitir uma carta de cessação e desistência, exigindo que a empresa interrompesse imediatamente a produção dessas imagens íntimas e de material de abuso sexual infantil (CSAM).
“Hoje, enviei à xAI uma carta de cessação e desistência exigindo que a empresa pare imediatamente de criar e distribuir deepfakes, imagens íntimas não consentidas e material de abuso sexual infantil”, declarou o procurador-geral da Califórnia, Rob Bonta, em um comunicado à imprensa. “Essa atividade é ilegal. Espero que a xAI cumpra a exigência imediatamente. A Califórnia tem tolerância zero para CSAM.”
O gabinete do procurador-geral alegou ainda que a xAI parece estar “facilitando a produção em larga escala” de imagens de nudez não consentidas, que são então “usadas para assediar mulheres e meninas online”. A agência deu à xAI cinco dias para demonstrar que está tomando medidas concretas para resolver essas questões.
No centro da controvérsia está o modo “picante” do Grok, um recurso projetado pela xAI para gerar conteúdo explícito. A reação negativa se estendeu além da Califórnia, com Japão, Canadá e Reino Unido abrindo suas próprias investigações sobre o Grok. Malásia e Indonésia bloquearam temporariamente o acesso à plataforma por completo. Apesar de a xAI ter implementado algumas restrições em seus recursos de edição de imagens na noite de quarta-feira, o procurador-geral da Califórnia prosseguiu com a ordem de cessação e desistência.
A equipe de segurança do X já havia condenado esse tipo de atividade dos usuários, afirmando: “Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que teria se o tivesse enviado diretamente”. Quando o TechCrunch entrou em contato com a xAI para comentar o assunto, recebeu uma resposta automática por e-mail afirmando: “A mídia tradicional mente”. O TechCrunch também procurou o gabinete do procurador-geral da Califórnia para obter mais contexto.
O surgimento de ferramentas de IA generativa disponíveis gratuitamente tem alimentado um aumento preocupante de material sexual não consensual. Esse é um desafio enfrentado por muitas plataformas, não apenas pelo X. A questão chamou a atenção tanto de autoridades estaduais quanto de legisladores federais. Na verdade, na quinta-feira, o Congresso enviou uma carta a executivos de várias grandes empresas de tecnologia — incluindo X, Reddit, Snap, TikTok, Alphabet e Meta — perguntando sobre seus planos para combater a disseminação de deepfakes sexualizados.
Pontos destacados do documento de oferta pública inicial da SpaceX: ambições de expansão na área de internet por satélite e inteligência artificial
Em seu documento de registro S-1 apresentado antes do planejado IPO, a SpaceX revelou vários indicadores empresariais impressionantes que destacam sua forte presença no campo das comunicações aeroespaciais e da inteligência artificial:Mais de 10 mil
Alibaba Tuhao M890 estreia com desempenho triplamente superior, marcando o início de uma nova era de agentes full-stack para modelos de inferência em nuvem e chip.
Em 20 de maio de 2026, no Alibaba Cloud Summit, a empresa anunciou a conclusão de uma atualização do sistema tecnológico full-stack projetada para a era dos agentes inteligentes. Essa transformação redefiniu todo o processo, desde os chips e a plataf
Pentium 4 Revival: Uma CPU com 20 Anos de História Executa o Modelo Grande Meta Llama 3
Recentemente, o canal técnico do YouTube Fully Buffered realizou um experimento impressionante e rigoroso: conseguiu executar com sucesso o mais recente modelo grande da Meta, Llama 3.2 3B, em um processador Pentium 4 641, um chip lançado em 2006.Es





Lar






