Procuradoria Geral da Califórnia processa a xAI por pornografia com deepfakes

No início desta semana, o procurador-geral da Califórnia iniciou uma investigação sobre a xAI após denúncias de que seu chatbot, o Grok, estava sendo usado para gerar imagens de conteúdo sexual sem consentimento de mulheres e menores. Na sexta-feira, o estado intensificou sua resposta ao emitir uma carta de cessação e desistência, exigindo que a empresa interrompesse imediatamente a produção dessas imagens íntimas e de material de abuso sexual infantil (CSAM).
“Hoje, enviei à xAI uma carta de cessação e desistência exigindo que a empresa pare imediatamente de criar e distribuir deepfakes, imagens íntimas não consentidas e material de abuso sexual infantil”, declarou o procurador-geral da Califórnia, Rob Bonta, em um comunicado à imprensa. “Essa atividade é ilegal. Espero que a xAI cumpra a exigência imediatamente. A Califórnia tem tolerância zero para CSAM.”
O gabinete do procurador-geral alegou ainda que a xAI parece estar “facilitando a produção em larga escala” de imagens de nudez não consentidas, que são então “usadas para assediar mulheres e meninas online”. A agência deu à xAI cinco dias para demonstrar que está tomando medidas concretas para resolver essas questões.
No centro da controvérsia está o modo “picante” do Grok, um recurso projetado pela xAI para gerar conteúdo explícito. A reação negativa se estendeu além da Califórnia, com Japão, Canadá e Reino Unido abrindo suas próprias investigações sobre o Grok. Malásia e Indonésia bloquearam temporariamente o acesso à plataforma por completo. Apesar de a xAI ter implementado algumas restrições em seus recursos de edição de imagens na noite de quarta-feira, o procurador-geral da Califórnia prosseguiu com a ordem de cessação e desistência.
A equipe de segurança do X já havia condenado esse tipo de atividade dos usuários, afirmando: “Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que teria se o tivesse enviado diretamente”. Quando o TechCrunch entrou em contato com a xAI para comentar o assunto, recebeu uma resposta automática por e-mail afirmando: “A mídia tradicional mente”. O TechCrunch também procurou o gabinete do procurador-geral da Califórnia para obter mais contexto.
O surgimento de ferramentas de IA generativa disponíveis gratuitamente tem alimentado um aumento preocupante de material sexual não consensual. Esse é um desafio enfrentado por muitas plataformas, não apenas pelo X. A questão chamou a atenção tanto de autoridades estaduais quanto de legisladores federais. Na verdade, na quinta-feira, o Congresso enviou uma carta a executivos de várias grandes empresas de tecnologia — incluindo X, Reddit, Snap, TikTok, Alphabet e Meta — perguntando sobre seus planos para combater a disseminação de deepfakes sexualizados.
Artigo relacionado
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri
Conformidade com a regulamentação de veículos autônomos na Califórnia: uma nova era de multas, geocercas e 1 milhão de milhas
A Guident opera um veículo de transporte da AuveTech no sul da Flórida, administrando uma rota de quatro milhas em West Palm Beach e uma rota de uma milha em Boca Raton por meio de sua tecnologia de m
Recomendações de tópicos especiais relacionados
Comentários (0)

No início desta semana, o procurador-geral da Califórnia iniciou uma investigação sobre a xAI após denúncias de que seu chatbot, o Grok, estava sendo usado para gerar imagens de conteúdo sexual sem consentimento de mulheres e menores. Na sexta-feira, o estado intensificou sua resposta ao emitir uma carta de cessação e desistência, exigindo que a empresa interrompesse imediatamente a produção dessas imagens íntimas e de material de abuso sexual infantil (CSAM).
“Hoje, enviei à xAI uma carta de cessação e desistência exigindo que a empresa pare imediatamente de criar e distribuir deepfakes, imagens íntimas não consentidas e material de abuso sexual infantil”, declarou o procurador-geral da Califórnia, Rob Bonta, em um comunicado à imprensa. “Essa atividade é ilegal. Espero que a xAI cumpra a exigência imediatamente. A Califórnia tem tolerância zero para CSAM.”
O gabinete do procurador-geral alegou ainda que a xAI parece estar “facilitando a produção em larga escala” de imagens de nudez não consentidas, que são então “usadas para assediar mulheres e meninas online”. A agência deu à xAI cinco dias para demonstrar que está tomando medidas concretas para resolver essas questões.
No centro da controvérsia está o modo “picante” do Grok, um recurso projetado pela xAI para gerar conteúdo explícito. A reação negativa se estendeu além da Califórnia, com Japão, Canadá e Reino Unido abrindo suas próprias investigações sobre o Grok. Malásia e Indonésia bloquearam temporariamente o acesso à plataforma por completo. Apesar de a xAI ter implementado algumas restrições em seus recursos de edição de imagens na noite de quarta-feira, o procurador-geral da Califórnia prosseguiu com a ordem de cessação e desistência.
A equipe de segurança do X já havia condenado esse tipo de atividade dos usuários, afirmando: “Qualquer pessoa que usar o Grok para criar conteúdo ilegal enfrentará as mesmas consequências que teria se o tivesse enviado diretamente”. Quando o TechCrunch entrou em contato com a xAI para comentar o assunto, recebeu uma resposta automática por e-mail afirmando: “A mídia tradicional mente”. O TechCrunch também procurou o gabinete do procurador-geral da Califórnia para obter mais contexto.
O surgimento de ferramentas de IA generativa disponíveis gratuitamente tem alimentado um aumento preocupante de material sexual não consensual. Esse é um desafio enfrentado por muitas plataformas, não apenas pelo X. A questão chamou a atenção tanto de autoridades estaduais quanto de legisladores federais. Na verdade, na quinta-feira, o Congresso enviou uma carta a executivos de várias grandes empresas de tecnologia — incluindo X, Reddit, Snap, TikTok, Alphabet e Meta — perguntando sobre seus planos para combater a disseminação de deepfakes sexualizados.
CEO da DeepMind, Hassabis: Durmo seis horas por dia, geralmente me sinto energético por volta da 1h
O Fortune recentemente publicou uma entrevista com Demis Hassabis, CEO da Google DeepMind, revelando sua abordagem incomum para descanso e produtividade. Hassabis revelou que dorme muito pouco, estruturando suas horas acordadas em dois blocos de trab
OpenAI e Anthropic disputam participação no mercado, apesar da queda na receita
Apesar de relatos recentes sugerirem que a OpenAI não atingiu suas metas de receita, o que gerou pressão sobre as ações do setor de tecnologia nesta terça-feira, os investidores privados em laboratóri





Lar






