Civitai fortalece os regulamentos deepfake em meio à pressão da MasterCard e Visa

A Civitai, um dos repositórios de modelos de IA mais proeminentes da Internet, fez recentemente mudanças significativas em suas políticas no conteúdo da NSFW, particularmente em relação a Celebrity Loras. Essas mudanças foram estimuladas pela pressão dos facilitadores de pagamento MasterCard e Visa. A celebridade Loras, que são modelos gerados pelo usuário que permitem a criação de representações geradas pela IA de indivíduos conhecidos, têm sido uma característica popular no site, com centenas ou até milhares de modelos disponíveis, predominantemente apresentando assuntos femininos.

Em um Twitch Live-Stream, o gerente de envolvimento da comunidade da Civitai, Alasdair Nicoll, que também é criador da SFW Models, discutiu as razões por trás dessas mudanças de política. Nicoll explicou que o site foi forçado a cumprir devido a preocupações dos processadores de pagamento sobre conteúdo adulto e representações de pessoas reais. Ele sugeriu que Visa e MasterCard poderiam exigir medidas ainda mais rigorosas no futuro:

** 'Essas não são alterações que queríamos fazer. É tudo sobre legislação nova e futura. Existem leis de DeepFake e leis pornôs de IA que possuem processadores de pagamento, particularmente Visa e MasterCard, preocupados com possíveis processos judiciais, que estão impulsionando essas mudanças. '**

** 'Recebemos outras opções, como remover todo o conteúdo não seguro para o trabalho, ou mover o conteúdo X e Triple-X para uma plataforma completamente nova com bloqueio geográfico, dado os regulamentos em mais da metade dos Estados dos EUA, assim como muitos países asiáticos e Reino Unido ... **

** 'Outra opção era mudar para pagamentos apenas para criptografia, mas não havia boas opções para nós.' **

Nos últimos dias, o domínio civitai experimentou um tempo de inatividade intermitente à medida que essas mudanças foram implementadas. Anteriormente, o site havia proibido temas da NSFW nas representações de celebridades, mas agora é impossível navegar e ver essas celebridades ao lado dos muitos modelos genéricos da NSFW projetados para conteúdo maduro.

O anúncio oficial esclarece:

** 'Conteúdo marcado com nomes de pessoas reais (como “Tom Cruise”) ou os recursos da PoI (pessoa real) estarão escondidos dos feeds.' **

Na sessão do Twitch, Nicoll elaborou medidas adicionais para proteger figuras famosas e pessoas reais. Embora o Civitai sempre tenha permitido que os indivíduos solicitassem a remoção de modelos de IA que os representam, Nicoll mencionou um novo sistema projetado para impedir que essas imagens sejam re-carregadas, mesmo que o sistema não os tenha visto antes. Para conseguir isso, o site está em parceria com o sistema de moderação de Clavata AI, embora a extensão total do envolvimento de Clavata permaneça incerta.

Nicoll compartilhou exemplos específicos:

** 'Tom Hanks reivindicou sua semelhança, por exemplo. Muitas atrizes adultas e atores da lista A fizeram o mesmo ... **

** 'A primeira pessoa a fazer isso foi Barbara Eden, ou melhor, sua propriedade - o que é divertido porque ela é bastante idosa.' **

Protegido por padrão?

Nos últimos dois anos, a empresa de IA VFX metafísica tentou criar um sistema que permitisse que os indivíduos registrassem sua semelhança, destinados principalmente a estrelas de Hollywood preocupadas com o roubo de identidade baseado em IA. Atores como Anne Hathaway, Octavia Spencer e Tom Hanks, que trabalharam com metafísico no filme ** aqui ** (2024), apoiaram essa iniciativa. No entanto, com o rápido crescimento das leis de doe DeepFake e possíveis proteções de direito comum, o serviço proposto baseado em assinatura da metafísico pode se tornar redundante. Não está claro se a oferta profissional da Metaphysic será transferida para o dobro de VFX negativo, que adquiriu os ativos da Metaphysic no ano passado. Cada vez mais, a legislação global e as pressões do mercado parecem prestes a oferecer proteção e remédios mais robustos do que soluções comerciais.

Fervendo o sapo

Um relatório de 2023 da 404 Media destacou a prevalência dos modelos de celebridades e IA pornô sobre Civitai, embora o fundador do site, Justin Maier, subestimou a conexão entre esses modelos e seu uso na geração de conteúdo pornográfico. Nicoll esclareceu que a principal preocupação com Visa e MasterCard não é a geração de conteúdo, mas a hospedagem desses modelos:

** 'Alguns acreditam que estamos nessa situação porque permitimos a geração. Não é isso. Simplesmente hospedar esses modelos e conteúdo é suficiente para desenhar escrutínio. '**

As discussões da comunidade ficam surpresas que o Civitai tenha permissão para sediar semelhanças de celebridades. Antecipando um clampdown, várias iniciativas surgiram para preservar Loras, incluindo o Subreddit R/Civitaiarchives. Enquanto alguns sugerem uma solução baseada em torrent, nenhum domínio proeminente ainda surgiu, provavelmente empurrando o conteúdo proibido para as franjas da Internet, incluindo a rede escura, já que plataformas como Reddit e Discord provavelmente seguirão o exemplo na proibição desse conteúdo.

Atualmente, as celebridades Loras em Civitai ainda são visíveis, mas com restrições, e a maioria dos conteúdos gerados foi listada para evitar a descoberta casual. Um comentarista na sessão do Twitch sugeriu que a repressão pudesse se intensificar, potencialmente proibindo todas as semelhanças de pessoas reais em modelos ou representações carregadas. Nicoll concordou:

** 'Eles não vão parar por aqui; Eles continuarão exigindo cada vez mais - absolutamente! A única esperança é que crescemos grandes o suficiente para ter mais a dizer sobre o que é ditado para nós ... **

** 'Ninguém vai comprar o Bitcoin apenas para usar o gerador Civitai. Tentamos fazer essas mudanças o mais palatável possível, mas é isso que nos resta. Peço desculpas se isso é insuportável para alguns, mas é o que é. Nós recuamos o máximo que pudemos, mas, finalmente, nos disseram que é isso - faça isso ou acabou ... **

** 'Essas instituições financeiras não entendem o que as pessoas estão fazendo aqui. Tentamos explicar, mas somos praticamente o último bastião para o conteúdo da NSFW. '**

Nicoll mencionou que a Civitai entrou em contato com vários processadores de pagamento, mesmo aqueles que normalmente atendem sites de alto risco, como plataformas pornográficas, mas todos têm cuidado com o conteúdo da IA:

** 'Até processadores de pagamento de alto risco são cautelosos com o conteúdo de IA. Se fôssemos um site pornô tradicional, ficaríamos bem, mas o conteúdo da IA ​​é o que os assusta. '**

Onde a seguir?

Antes deste anúncio, a Civitai já havia começado a remover certos uploads. Um 'repositório de emergência' para o WAN 2.1 Loras foi criado no site do Hugging Face, incluindo modelos que se enquadram na categoria 'desligamento' agora banido. Enquanto isso, o Subreddit R/Datahoarders, conhecido por preservar a literatura do governo dos EUA durante o governo de Donald Trump, mostrou pouco interesse em salvar o conteúdo de civitai.

Apesar da facilitação da Civitai da geração da NSFW IA, observada na literatura acadêmica, como o artigo de 2024 ** Explorando o uso de modelos generativos de IA abusivos sobre civitai **, o foco dos processadores de pagamento não está no que é produzido na própria civitai, mas em como esses modelos são usados ​​em comunidades menos regulamentadas.

O site do Sr. DeepFakes, uma vez sinônimo de NSFW DeepFaking baseado em autoencoder, agora mostra vídeos pornográficos baseados em celebridades usando novos geradores de texto para video e de imagem para video como Hunyuan Video e Wan 2.1, que estão ganhando tração e provavelmente gerará controvérsias à medida que suas bases de usuários se expandem.

Metadados obrigatórios

Outra mudança exigida pelos processadores de pagamento, de acordo com Nicoll, é a inclusão de metadados em todas as imagens no site. Nos fluxos de trabalho típicos usando plataformas como a Comfyui, as imagens geradas contêm metadados detalhando o modelo usado e várias configurações. Esse metadados permite que os usuários recriem o processo de geração e abordem quaisquer dependências ausentes. A Civitai anunciou que qualquer imagem ou vídeo sem esses dados será excluído em trinta dias, embora os usuários possam adicioná -los manualmente no site da Civitai. Apesar do valor probatório dos metadados, esse requisito parece um pouco inútil, pois os metadados podem ser facilmente copiados ou falsificados.

Usuários com milhares de imagens no Civitai agora enfrentam a tarefa assustadora de anotar manualmente cada um ou excluir e re-applar-os com metadados adicionais, o que redefiniria qualquer métrica de engajamento como 'curtidas' ou 'buzz'.

As novas regras

• O conteúdo marcado com os nomes de indivíduos reais ou identificado como recursos de pessoa real não aparecerá mais em feeds públicos.
• O conteúdo com temas crianças/menores será filtrado dos feeds.
• O conteúdo nominal X e XXX que não possui metadados de geração será oculto da visualização pública e sinalizada com um aviso, permitindo que o uploader adicione os detalhes ausentes. Esse conteúdo permanecerá visível apenas para o seu Criador até ser atualizado.
• As imagens criadas usando o recurso Bring Your Own Image (BYOI) agora devem aplicar pelo menos 50% de alteração de ruído durante a geração para impedir a criação de réplicas quase exportadas. Esta regra não se aplica a imagens criadas inteiramente em civitai ou remixadas de outros conteúdos civitai, que podem usar qualquer nível de denoise.
• Ao navegar com o conteúdo X ou XXX ativado, as pesquisas de nomes de celebridades não retornarão resultados. A combinação de nomes de celebridades com conteúdo maduro permanece proibido.
• Os anúncios não aparecerão em imagens ou recursos projetados para replicar a aparência de indivíduos reais.
• A gorjeta (Buzz) será desativada para imagens ou recursos que retratam indivíduos reais.
• Modelos projetados para replicar pessoas reais não serão elegíveis para acesso precoce, limitando a monetização de semelhanças de celebridades ou pessoas reais.
• Uma declaração de conformidade 2257 foi adicionada para afirmar que todo material explícito na plataforma é sintético e não é baseado em fotografia ou vídeo real.
• Uma nova página de solicitação de remoção de conteúdo permite que qualquer pessoa relate material abusivo ou ilegal sem precisar fazer login. Os usuários registrados devem usar as ferramentas de relatório internas em cada postagem. Isso é separado do formulário existente para solicitar a remoção da semelhança da plataforma.
• A Civitai introduziu um novo sistema de moderação por meio de uma parceria com a Clavata, cujas ferramentas de análise de imagem superam soluções anteriores como a Amazon Rekognition and Hive.

*Apesar da menção da 'propriedade' de Barbara Eden, a atriz I Dream of Jeannie ainda está viva, atualmente com 93 anos.*
^† *Arquivado: https://archive.ph/tsmb0*

*Publicado pela primeira vez quinta -feira, 24 de abril de 202. Alterado quinta -feira, 24 de abril de 2025 14:32:28: datas corrigidas.*