Civitai fortalece os regulamentos deepfake em meio à pressão da MasterCard e Visa
CivitAI, um dos repositórios de modelos de IA mais proeminentes na internet, fez recentemente mudanças significativas em suas políticas sobre conteúdo NSFW, particularmente em relação aos LoRAs de celebridades. Essas mudanças foram impulsionadas pela pressão de facilitadores de pagamento como MasterCard e Visa. Os LoRAs de celebridades, que são modelos gerados por usuários que permitem a criação de representações geradas por IA de indivíduos conhecidos, têm sido uma funcionalidade popular no site, com centenas ou até milhares de tais modelos disponíveis, predominantemente com temas femininos.
**Clique para reproduzir.** *Embora o CivitAI não divulgue números exatos, e frequentemente haja rotulagem ou categorização incorretas, o volume de modelos de IA de celebridades, especialmente LoRAs, é inegável e amplamente focado em celebridades femininas.* Fonte: civitai.com
Em uma transmissão ao vivo no Twitch, o Gerente de Engajamento Comunitário do CivitAI, Alasdair Nicoll, que também é criador de modelos SFW, discutiu os motivos por trás dessas mudanças de política. Nicoll explicou que o site foi forçado a cumprir devido a preocupações dos processadores de pagamento sobre conteúdo adulto e representações de pessoas reais. Ele sugeriu que Visa e MasterCard podem exigir medidas ainda mais rigorosas no futuro:
**‘Essas não são mudanças que queríamos fazer. Tudo isso se deve a novas legislações que estão por vir. Existem leis sobre deepfakes e pornografia de IA que preocupam os processadores de pagamento, particularmente Visa e MasterCard, com possíveis ações judiciais, o que está impulsionando essas mudanças.’**
**‘Nos foram dadas outras opções, como remover todo o conteúdo não seguro para o trabalho, ou mover conteúdo x e triplo-x para uma plataforma completamente nova com bloqueio geográfico, dadas as regulamentações em mais da metade dos estados dos EUA, bem como em muitos países asiáticos e no Reino Unido...**
**‘Outra opção era mudar para pagamentos apenas em criptomoedas, mas não havia boas opções para nós.’**
Nos últimos dias, o domínio do CivitAI enfrentou interrupções intermitentes enquanto essas mudanças eram implementadas. Anteriormente, o site havia banido temas NSFW em representações de LoRAs de celebridades, mas agora é impossível navegar e ver esses LoRAs de celebridades ao lado dos muitos modelos NSFW genéricos projetados para conteúdo adulto.
O anúncio oficial esclarece:
**‘Conteúdo marcado com nomes de pessoas reais (como “Tom Cruise”) ou identificado como recursos de POI (pessoa real) será ocultado dos feeds.’**
Na sessão do Twitch, Nicoll elaborou sobre medidas adicionais para proteger figuras famosas e pessoas reais. Embora o CivitAI sempre tenha permitido que indivíduos solicitassem a remoção de modelos de IA que os retratam, Nicoll mencionou um novo sistema projetado para impedir que tais imagens sejam reenviadas, mesmo que o sistema não as tenha visto antes. Para alcançar isso, o site está fazendo parceria com o sistema de moderação Clavata AI, embora a extensão total do envolvimento da Clavata permaneça incerta.
Nicoll compartilhou exemplos específicos:
**‘Tom Hanks reivindicou sua semelhança de nós, por exemplo. Muitas atrizes adultas e atores de primeira linha fizeram o mesmo...**
**‘A primeira pessoa a fazer isso foi Barbara Eden, ou melhor, seu espólio – o que é divertido porque ela é bastante idosa.’**
Protegido por Padrão?
Nos últimos dois anos, a empresa de efeitos visuais de IA Metaphysic tentou criar um sistema que permite que indivíduos registrem sua semelhança, principalmente voltado para estrelas de Hollywood preocupadas com roubo de identidade baseado em IA. Atores como Anne Hathaway, Octavia Spencer e Tom Hanks, que trabalharam com a Metaphysic no filme **Aqui** (2024), apoiaram essa iniciativa. No entanto, com o rápido crescimento das leis sobre deepfakes e possíveis proteções de direito comum, o serviço baseado em assinatura proposto pela Metaphysic pode se tornar redundante. Não está claro se a oferta Pro da Metaphysic será transferida para a Double Negative VFX, que adquiriu os ativos da Metaphysic no último ano. Cada vez mais, legislações globais e pressões de mercado parecem prontas para oferecer proteção e soluções mais robustas do que soluções comerciais.
Fervendo o Sapo
Um relatório de 2023 da 404 Media destacou a prevalência de modelos de IA de celebridades e pornográficos no CivitAI, embora o fundador do site, Justin Maier, tenha minimizado a conexão entre esses modelos e seu uso na geração de conteúdo pornográfico. Nicoll esclareceu que a principal preocupação para Visa e MasterCard não é a geração de conteúdo, mas a hospedagem desses modelos:
**‘Alguns acreditam que estamos nessa situação porque permitimos a geração. Não é isso. Apenas hospedar esses modelos e conteúdo é suficiente para atrair escrutínio.’**
Discussões comunitárias há muito tempo se surpreendem que o CivitAI tenha sido permitido hospedar semelhanças de celebridades. Em antecipação a uma repressão, várias iniciativas surgiram para preservar LoRAs, incluindo o subreddit r/CivitaiArchives. Embora alguns sugiram uma solução baseada em torrent, nenhum domínio proeminente surgiu ainda, provavelmente empurrando o conteúdo banido para as margens da internet, incluindo a dark net, já que plataformas como Reddit e Discord provavelmente seguirão o exemplo na proibição de tal conteúdo.
Atualmente, os LoRAs de celebridades no CivitAI ainda são visíveis, mas com restrições, e a maior parte do conteúdo gerado foi deslistada para evitar descobertas casuais. Um comentarista na sessão do Twitch sugeriu que a repressão pode se intensificar, potencialmente proibindo todas as semelhanças de pessoas reais em modelos ou representações enviadas. Nicoll concordou:
**‘Eles não vão parar por aqui; continuarão exigindo mais e mais – absolutamente! A única esperança é que cresçamos o suficiente para ter mais voz no que nos é ditado...**
**‘Ninguém vai comprar Bitcoin só para usar o gerador do CivitAI. Tentamos tornar essas mudanças o mais palatáveis possível, mas é isso que nos resta. Peço desculpas se isso é insuportável para alguns, mas é o que é. Resistimos o quanto pudemos, mas, no final, nos disseram que é isso – façam isso ou acabou...**
**‘Essas instituições financeiras não entendem o que as pessoas estão fazendo aqui. Tentamos explicar, mas somos praticamente o último bastião para conteúdo NSFW.’**
Nicoll mencionou que o CivitAI entrou em contato com vários processadores de pagamento, mesmo aqueles que normalmente atendem sites de alto risco, como plataformas pornográficas, mas todos estão cautelosos com conteúdo de IA:
**‘Mesmo processadores de pagamento de alto risco são cautelosos com conteúdo de IA. Se fôssemos um site pornográfico tradicional, estaríamos bem, mas o conteúdo de IA é o que os assusta.’**
Para Onde Vamos?
Antes deste anúncio, o CivitAI já havia começado a remover certos uploads. Um ‘repositório de emergência’ para LoRAs Wan 2.1 foi criado no site Hugging Face, incluindo modelos que caem na categoria agora proibida de ‘despir’. Enquanto isso, o subreddit r/datahoarders, conhecido por preservar literatura do governo dos EUA durante a administração de Donald Trump, mostrou pouco interesse em salvar conteúdo do CivitAI.
Apesar da facilitação do CivitAI para geração de IA NSFW ser notada em literatura acadêmica, como o artigo de 2024 **Explorando o Uso de Modelos Generativos Abusivos no Civitai**, o foco dos processadores de pagamento não está no que é produzido no próprio CivitAI, mas em como esses modelos são usados em comunidades menos regulamentadas.
O site Mr. Deepfakes, outrora sinônimo de deepfaking NSFW baseado em autoencoders, agora exibe vídeos pornográficos baseados em celebridades usando novos geradores de texto para vídeo e imagem para vídeo, como Hunyuan Video e Wan 2.1, que estão ganhando tração e provavelmente gerarão controvérsia à medida que suas bases de usuários se expandem.
Metadados Obrigatórios
Outra mudança exigida pelos processadores de pagamento, segundo Nicoll, é a inclusão de metadados em todas as imagens no site. Em fluxos de trabalho típicos usando plataformas como ComfyUI, as imagens geradas contêm metadados detalhando o modelo usado e várias configurações. Esses metadados permitem que os usuários recriem o processo de geração e resolvam quaisquer dependências ausentes. O CivitAI anunciou que qualquer imagem ou vídeo sem esses dados será excluído em trinta dias, embora os usuários possam adicioná-los manualmente através do site do CivitAI. Apesar do valor probatório dos metadados, essa exigência parece um tanto fútil, pois os metadados podem ser facilmente copiados ou falsificados.
Usuários com milhares de imagens no CivitAI agora enfrentam a tarefa assustadora de anotar manualmente cada uma ou excluir e reenviar com metadados adicionados, o que redefiniria quaisquer métricas de engajamento, como ‘curtidas’ ou ‘buzz’.
As Novas Regras
- Conteúdo marcado com nomes de indivíduos reais ou identificado como recursos de pessoas reais não aparecerá mais em feeds públicos.
- Conteúdo com temas de crianças/menores será filtrado dos feeds.
- Conteúdo classificado como X e XXX sem metadados de geração será ocultado da visualização pública e marcado com um aviso, permitindo que o uploader adicione os detalhes faltantes. Esse conteúdo permanecerá visível apenas para seu criador até ser atualizado.
- Imagens criadas usando o recurso Bring Your Own Image (BYOI) agora devem aplicar pelo menos 50% de alteração de ruído durante a geração para evitar a criação de réplicas quase exatas. Essa regra não se aplica a imagens criadas inteiramente no CivitAI ou remixadas de outro conteúdo do CivitAI, que podem usar qualquer nível de denoising.
- Ao navegar com conteúdo X ou XXX ativado, pesquisas por nomes de celebridades não retornarão resultados. Combinar nomes de celebridades com conteúdo adulto permanece proibido.
- Anúncios não aparecerão em imagens ou recursos projetados para replicar a aparência de indivíduos reais.
- Gorjetas (Buzz) serão desativadas para imagens ou recursos que retratam indivíduos reais.
- Modelos projetados para replicar pessoas reais não serão elegíveis para Acesso Antecipado, limitando a monetização de semelhanças de celebridades ou pessoas reais.
- Uma Declaração de Conformidade 2257 foi adicionada para afirmar que todo material explícito na plataforma é sintético e não baseado em fotografia ou vídeo real.
- Uma nova página de Solicitação de Remoção de Conteúdo permite que qualquer pessoa reporte material abusivo ou ilegal sem precisar fazer login. Usuários registrados devem usar as ferramentas de denúncia embutidas em cada postagem. Isso é separado do formulário existente para solicitar a remoção da própria semelhança da plataforma.
- O CivitAI introduziu um novo sistema de moderação por meio de uma parceria com a Clavata, cujas ferramentas de análise de imagem superam soluções anteriores como Amazon Rekognition e Hive.
*Apesar da menção ao ‘espólio’ de Barbara Eden, a atriz de I Dream of Jeannie ainda está viva, atualmente com 93 anos.*
†*Arquivado: https://archive.ph/tsMb0*
*Publicado pela primeira vez na quinta-feira, 24 de abril de 2024. Alterado na quinta-feira, 24 de abril de 2025 às 14:32:28: datas corrigidas.*
Artigo relacionado
O Google utiliza a IA para suspender mais de 39 milhões de contas de anúncios por suspeita de fraude
O Google anunciou na quarta -feira que foi necessário um grande passo para combater a fraude de anúncios, suspendendo uma conta impressionante de 39,2 milhões de contas de anunciantes em sua plataforma em 2024. Esse número é mais do que o triplo do que foi relatado no ano anterior, mostrando os esforços intensificados do Google para limpar seu anúncio.
Openai Strikes de volta: processa Elon Musk por supostos esforços para minar o concorrente da IA
A Openai lançou um contra-ataque legal contra seu co-fundador, Elon Musk, e sua empresa de IA concorrente, Xai. Em uma escalada dramática de sua briga em andamento, o Openai acusa Musk de travar uma campanha "implacável" e "maliciosa" para minar a empresa que ele ajudou a começar. De acordo com o Tribunal D
Os 9 principais assistentes jurídicos da IA para abril de 2025 revelaram
No mundo jurídico acelerado de hoje, o gerenciamento de casos, conduzindo pesquisas e manter os clientes no loop pode parecer um ato de malabarismo. Felizmente, a inteligência artificial veio em socorro com ferramentas de assistente jurídico movidas a IA. Esses gadgets bacanas são sobre facilitar a vida para advogados, bo
Comentários (1)
0/200
FrankKing
28 de Julho de 2025 à39 02:18:39 WEST
It's wild how payment giants like Mastercard and Visa can push a platform like CivitAI to tighten its deepfake rules. Makes you wonder how much control these companies have over tech. 😕 Curious to see if this actually curbs misuse or just shifts it elsewhere.
0
CivitAI, um dos repositórios de modelos de IA mais proeminentes na internet, fez recentemente mudanças significativas em suas políticas sobre conteúdo NSFW, particularmente em relação aos LoRAs de celebridades. Essas mudanças foram impulsionadas pela pressão de facilitadores de pagamento como MasterCard e Visa. Os LoRAs de celebridades, que são modelos gerados por usuários que permitem a criação de representações geradas por IA de indivíduos conhecidos, têm sido uma funcionalidade popular no site, com centenas ou até milhares de tais modelos disponíveis, predominantemente com temas femininos.
**Clique para reproduzir.** *Embora o CivitAI não divulgue números exatos, e frequentemente haja rotulagem ou categorização incorretas, o volume de modelos de IA de celebridades, especialmente LoRAs, é inegável e amplamente focado em celebridades femininas.* Fonte: civitai.comEm uma transmissão ao vivo no Twitch, o Gerente de Engajamento Comunitário do CivitAI, Alasdair Nicoll, que também é criador de modelos SFW, discutiu os motivos por trás dessas mudanças de política. Nicoll explicou que o site foi forçado a cumprir devido a preocupações dos processadores de pagamento sobre conteúdo adulto e representações de pessoas reais. Ele sugeriu que Visa e MasterCard podem exigir medidas ainda mais rigorosas no futuro:
**‘Essas não são mudanças que queríamos fazer. Tudo isso se deve a novas legislações que estão por vir. Existem leis sobre deepfakes e pornografia de IA que preocupam os processadores de pagamento, particularmente Visa e MasterCard, com possíveis ações judiciais, o que está impulsionando essas mudanças.’**
**‘Nos foram dadas outras opções, como remover todo o conteúdo não seguro para o trabalho, ou mover conteúdo x e triplo-x para uma plataforma completamente nova com bloqueio geográfico, dadas as regulamentações em mais da metade dos estados dos EUA, bem como em muitos países asiáticos e no Reino Unido...**
**‘Outra opção era mudar para pagamentos apenas em criptomoedas, mas não havia boas opções para nós.’**
Nos últimos dias, o domínio do CivitAI enfrentou interrupções intermitentes enquanto essas mudanças eram implementadas. Anteriormente, o site havia banido temas NSFW em representações de LoRAs de celebridades, mas agora é impossível navegar e ver esses LoRAs de celebridades ao lado dos muitos modelos NSFW genéricos projetados para conteúdo adulto.
O anúncio oficial esclarece:
**‘Conteúdo marcado com nomes de pessoas reais (como “Tom Cruise”) ou identificado como recursos de POI (pessoa real) será ocultado dos feeds.’**
Na sessão do Twitch, Nicoll elaborou sobre medidas adicionais para proteger figuras famosas e pessoas reais. Embora o CivitAI sempre tenha permitido que indivíduos solicitassem a remoção de modelos de IA que os retratam, Nicoll mencionou um novo sistema projetado para impedir que tais imagens sejam reenviadas, mesmo que o sistema não as tenha visto antes. Para alcançar isso, o site está fazendo parceria com o sistema de moderação Clavata AI, embora a extensão total do envolvimento da Clavata permaneça incerta.
Nicoll compartilhou exemplos específicos:
**‘Tom Hanks reivindicou sua semelhança de nós, por exemplo. Muitas atrizes adultas e atores de primeira linha fizeram o mesmo...**
**‘A primeira pessoa a fazer isso foi Barbara Eden, ou melhor, seu espólio – o que é divertido porque ela é bastante idosa.’**
Protegido por Padrão?
Nos últimos dois anos, a empresa de efeitos visuais de IA Metaphysic tentou criar um sistema que permite que indivíduos registrem sua semelhança, principalmente voltado para estrelas de Hollywood preocupadas com roubo de identidade baseado em IA. Atores como Anne Hathaway, Octavia Spencer e Tom Hanks, que trabalharam com a Metaphysic no filme **Aqui** (2024), apoiaram essa iniciativa. No entanto, com o rápido crescimento das leis sobre deepfakes e possíveis proteções de direito comum, o serviço baseado em assinatura proposto pela Metaphysic pode se tornar redundante. Não está claro se a oferta Pro da Metaphysic será transferida para a Double Negative VFX, que adquiriu os ativos da Metaphysic no último ano. Cada vez mais, legislações globais e pressões de mercado parecem prontas para oferecer proteção e soluções mais robustas do que soluções comerciais.
Fervendo o Sapo
Um relatório de 2023 da 404 Media destacou a prevalência de modelos de IA de celebridades e pornográficos no CivitAI, embora o fundador do site, Justin Maier, tenha minimizado a conexão entre esses modelos e seu uso na geração de conteúdo pornográfico. Nicoll esclareceu que a principal preocupação para Visa e MasterCard não é a geração de conteúdo, mas a hospedagem desses modelos:
**‘Alguns acreditam que estamos nessa situação porque permitimos a geração. Não é isso. Apenas hospedar esses modelos e conteúdo é suficiente para atrair escrutínio.’**
Discussões comunitárias há muito tempo se surpreendem que o CivitAI tenha sido permitido hospedar semelhanças de celebridades. Em antecipação a uma repressão, várias iniciativas surgiram para preservar LoRAs, incluindo o subreddit r/CivitaiArchives. Embora alguns sugiram uma solução baseada em torrent, nenhum domínio proeminente surgiu ainda, provavelmente empurrando o conteúdo banido para as margens da internet, incluindo a dark net, já que plataformas como Reddit e Discord provavelmente seguirão o exemplo na proibição de tal conteúdo.
Atualmente, os LoRAs de celebridades no CivitAI ainda são visíveis, mas com restrições, e a maior parte do conteúdo gerado foi deslistada para evitar descobertas casuais. Um comentarista na sessão do Twitch sugeriu que a repressão pode se intensificar, potencialmente proibindo todas as semelhanças de pessoas reais em modelos ou representações enviadas. Nicoll concordou:
**‘Eles não vão parar por aqui; continuarão exigindo mais e mais – absolutamente! A única esperança é que cresçamos o suficiente para ter mais voz no que nos é ditado...**
**‘Ninguém vai comprar Bitcoin só para usar o gerador do CivitAI. Tentamos tornar essas mudanças o mais palatáveis possível, mas é isso que nos resta. Peço desculpas se isso é insuportável para alguns, mas é o que é. Resistimos o quanto pudemos, mas, no final, nos disseram que é isso – façam isso ou acabou...**
**‘Essas instituições financeiras não entendem o que as pessoas estão fazendo aqui. Tentamos explicar, mas somos praticamente o último bastião para conteúdo NSFW.’**
Nicoll mencionou que o CivitAI entrou em contato com vários processadores de pagamento, mesmo aqueles que normalmente atendem sites de alto risco, como plataformas pornográficas, mas todos estão cautelosos com conteúdo de IA:
**‘Mesmo processadores de pagamento de alto risco são cautelosos com conteúdo de IA. Se fôssemos um site pornográfico tradicional, estaríamos bem, mas o conteúdo de IA é o que os assusta.’**
Para Onde Vamos?
Antes deste anúncio, o CivitAI já havia começado a remover certos uploads. Um ‘repositório de emergência’ para LoRAs Wan 2.1 foi criado no site Hugging Face, incluindo modelos que caem na categoria agora proibida de ‘despir’. Enquanto isso, o subreddit r/datahoarders, conhecido por preservar literatura do governo dos EUA durante a administração de Donald Trump, mostrou pouco interesse em salvar conteúdo do CivitAI.
Apesar da facilitação do CivitAI para geração de IA NSFW ser notada em literatura acadêmica, como o artigo de 2024 **Explorando o Uso de Modelos Generativos Abusivos no Civitai**, o foco dos processadores de pagamento não está no que é produzido no próprio CivitAI, mas em como esses modelos são usados em comunidades menos regulamentadas.
O site Mr. Deepfakes, outrora sinônimo de deepfaking NSFW baseado em autoencoders, agora exibe vídeos pornográficos baseados em celebridades usando novos geradores de texto para vídeo e imagem para vídeo, como Hunyuan Video e Wan 2.1, que estão ganhando tração e provavelmente gerarão controvérsia à medida que suas bases de usuários se expandem.
Metadados Obrigatórios
Outra mudança exigida pelos processadores de pagamento, segundo Nicoll, é a inclusão de metadados em todas as imagens no site. Em fluxos de trabalho típicos usando plataformas como ComfyUI, as imagens geradas contêm metadados detalhando o modelo usado e várias configurações. Esses metadados permitem que os usuários recriem o processo de geração e resolvam quaisquer dependências ausentes. O CivitAI anunciou que qualquer imagem ou vídeo sem esses dados será excluído em trinta dias, embora os usuários possam adicioná-los manualmente através do site do CivitAI. Apesar do valor probatório dos metadados, essa exigência parece um tanto fútil, pois os metadados podem ser facilmente copiados ou falsificados.
Usuários com milhares de imagens no CivitAI agora enfrentam a tarefa assustadora de anotar manualmente cada uma ou excluir e reenviar com metadados adicionados, o que redefiniria quaisquer métricas de engajamento, como ‘curtidas’ ou ‘buzz’.
As Novas Regras
- Conteúdo marcado com nomes de indivíduos reais ou identificado como recursos de pessoas reais não aparecerá mais em feeds públicos.
- Conteúdo com temas de crianças/menores será filtrado dos feeds.
- Conteúdo classificado como X e XXX sem metadados de geração será ocultado da visualização pública e marcado com um aviso, permitindo que o uploader adicione os detalhes faltantes. Esse conteúdo permanecerá visível apenas para seu criador até ser atualizado.
- Imagens criadas usando o recurso Bring Your Own Image (BYOI) agora devem aplicar pelo menos 50% de alteração de ruído durante a geração para evitar a criação de réplicas quase exatas. Essa regra não se aplica a imagens criadas inteiramente no CivitAI ou remixadas de outro conteúdo do CivitAI, que podem usar qualquer nível de denoising.
- Ao navegar com conteúdo X ou XXX ativado, pesquisas por nomes de celebridades não retornarão resultados. Combinar nomes de celebridades com conteúdo adulto permanece proibido.
- Anúncios não aparecerão em imagens ou recursos projetados para replicar a aparência de indivíduos reais.
- Gorjetas (Buzz) serão desativadas para imagens ou recursos que retratam indivíduos reais.
- Modelos projetados para replicar pessoas reais não serão elegíveis para Acesso Antecipado, limitando a monetização de semelhanças de celebridades ou pessoas reais.
- Uma Declaração de Conformidade 2257 foi adicionada para afirmar que todo material explícito na plataforma é sintético e não baseado em fotografia ou vídeo real.
- Uma nova página de Solicitação de Remoção de Conteúdo permite que qualquer pessoa reporte material abusivo ou ilegal sem precisar fazer login. Usuários registrados devem usar as ferramentas de denúncia embutidas em cada postagem. Isso é separado do formulário existente para solicitar a remoção da própria semelhança da plataforma.
- O CivitAI introduziu um novo sistema de moderação por meio de uma parceria com a Clavata, cujas ferramentas de análise de imagem superam soluções anteriores como Amazon Rekognition e Hive.
*Apesar da menção ao ‘espólio’ de Barbara Eden, a atriz de I Dream of Jeannie ainda está viva, atualmente com 93 anos.*
†*Arquivado: https://archive.ph/tsMb0*
*Publicado pela primeira vez na quinta-feira, 24 de abril de 2024. Alterado na quinta-feira, 24 de abril de 2025 às 14:32:28: datas corrigidas.*



It's wild how payment giants like Mastercard and Visa can push a platform like CivitAI to tighten its deepfake rules. Makes you wonder how much control these companies have over tech. 😕 Curious to see if this actually curbs misuse or just shifts it elsewhere.












