option
Maison
Nouvelles
Civitai renforce les réglementations DeepFake au milieu de la pression de MasterCard et Visa

Civitai renforce les réglementations DeepFake au milieu de la pression de MasterCard et Visa

26 avril 2025
82

CivitAI, l'un des principaux référentiels de modèles d'IA sur Internet, a récemment apporté des modifications significatives à ses politiques concernant le contenu NSFW, en particulier les LoRAs de célébrités. Ces changements ont été motivés par la pression des facilitateurs de paiement MasterCard et Visa. Les LoRAs de célébrités, qui sont des modèles générés par les utilisateurs permettant la création de représentations générées par IA de personnes connues, ont été une fonctionnalité populaire sur le site, avec des centaines, voire des milliers de ces modèles disponibles, principalement centrés sur des sujets féminins.

**Cliquez pour jouer.** *Bien que CivitAI ne publie pas de chiffres exacts et qu'il y ait souvent des erreurs d'étiquetage ou de catégorisation, le volume considérable de modèles d'IA de célébrités, en particulier les LoRAs, est indéniable et se concentre largement sur les célébrités féminines.* Source : civitai.com

Dans un live-stream sur Twitch, le responsable de l'engagement communautaire de CivitAI, Alasdair Nicoll, également créateur de modèles SFW, a discuté des raisons de ces changements de politique. Nicoll a expliqué que le site a été contraint de se conformer en raison des préoccupations des processeurs de paiement concernant le contenu pour adultes et les représentations de personnes réelles. Il a laissé entendre que Visa et MasterCard pourraient exiger des mesures encore plus strictes à l'avenir :

**« Ce ne sont pas des changements que nous voulions faire. Tout cela concerne les nouvelles législations à venir. Il y a des lois sur les deepfakes et le porno IA qui inquiètent les processeurs de paiement, en particulier Visa et MasterCard, à propos des poursuites potentielles, ce qui motive ces changements. »**

**« On nous a donné d'autres options, comme supprimer tout le contenu non sécurisé pour le travail, ou déplacer le contenu x et triple-x vers une plateforme complètement nouvelle avec un géo-blocage, compte tenu des réglementations dans plus de la moitié des États américains, ainsi que dans de nombreux pays asiatiques et au Royaume-Uni... »**

**« Une autre option était de passer aux paiements uniquement en cryptomonnaie, mais il n'y avait pas de bonnes options pour nous. »**

Au cours des derniers jours, le domaine CivitAI a connu des interruptions intermittentes lors de la mise en œuvre de ces changements. Auparavant, le site avait interdit les thèmes NSFW dans les représentations de LoRAs de célébrités, mais il est désormais impossible de naviguer et de voir ces LoRAs de célébrités à côté des nombreux modèles NSFW génériques conçus pour un contenu mature.

L'annonce officielle précise :

**« Le contenu marqué avec des noms de personnes réelles (comme « Tom Cruise ») ou signalé comme ressources POI (personnes réelles) sera masqué des flux. »**

Lors de la session Twitch, Nicoll a détaillé des mesures supplémentaires pour protéger les figures célèbres et les personnes réelles. Bien que CivitAI ait toujours permis aux individus de demander la suppression des modèles d'IA les représentant, Nicoll a mentionné un nouveau système conçu pour empêcher la ré-upload de ces images, même si le système ne les a pas vues auparavant. Pour y parvenir, le site collabore avec le système de modération Clavata AI, bien que l'étendue complète de l'implication de Clavata reste floue.

Nicoll a partagé des exemples spécifiques :

**« Tom Hanks a réclamé son image auprès de nous, par exemple. De nombreuses actrices pour adultes et acteurs de premier plan ont fait de même... »**

**« La première personne à le faire était Barbara Eden, ou plutôt son domaine – ce qui est amusant car elle est assez âgée. »**

Protégé par défaut ?

Au cours des deux dernières années, l'entreprise d'effets visuels IA Metaphysic a tenté de créer un système permettant aux individus d'enregistrer leur image, principalement destiné aux stars d'Hollywood préoccupées par le vol d'identité basé sur l'IA. Des acteurs comme Anne Hathaway, Octavia Spencer et Tom Hanks, qui ont travaillé avec Metaphysic sur le film **Here** (2024), ont soutenu cette initiative. Cependant, avec la croissance rapide des lois sur les deepfakes et les protections potentielles du droit commun, le service par abonnement proposé par Metaphysic pourrait devenir redondant. On ne sait pas si l'offre Pro de Metaphysic sera transférée à Double Negative VFX, qui a acquis les actifs de Metaphysic l'année dernière. De plus en plus, les législations mondiales et les pressions du marché semblent prêtes à offrir des protections et des recours plus robustes que les solutions commerciales.

Faire bouillir la grenouille

Un rapport de 404 Media de 2023 a mis en lumière la prévalence des modèles d'IA de célébrités et de porno sur CivitAI, bien que le fondateur du site, Justin Maier, ait minimisé le lien entre ces modèles et leur utilisation pour générer du contenu pornographique. Nicoll a clarifié que la principale préoccupation de Visa et MasterCard n'est pas la génération de contenu, mais l'hébergement de ces modèles :

**« Certains pensent que nous sommes dans cette situation parce que nous permettons la génération. Ce n'est pas ça. Le simple fait d'héberger ces modèles et contenus suffit à attirer l'attention. »**

Les discussions communautaires ont longtemps été surprises que CivitAI soit autorisé à héberger des ressemblances de célébrités. En prévision d'une répression, plusieurs initiatives ont émergé pour préserver les LoRAs, y compris le subreddit r/CivitaiArchives. Bien que certains suggèrent une solution basée sur les torrents, aucun domaine prominent n'a encore émergé, repoussant probablement le contenu interdit vers les franges d'Internet, y compris le dark net, car des plateformes comme Reddit et Discord sont susceptibles de suivre en interdisant ce contenu.

Actuellement, les LoRAs de célébrités sur CivitAI sont toujours visibles mais avec des restrictions, et la plupart du contenu généré a été retiré des listes pour empêcher une découverte occasionnelle. Un commentateur lors de la session Twitch a suggéré que la répression pourrait s'intensifier, potentiellement en interdisant toutes les ressemblances de personnes réelles dans les modèles ou représentations téléchargés. Nicoll a acquiescé :

**« Ils ne s'arrêteront pas là ; ils continueront à exiger de plus en plus – absolument ! Le seul espoir est que nous devenions assez grands pour avoir plus de poids dans ce qui nous est dicté... »**

**« Personne ne va acheter du Bitcoin juste pour utiliser le générateur CivitAI. Nous avons essayé de rendre ces changements aussi acceptables que possible, mais c'est ce qu'il nous reste. Je m'excuse si c'est insupportable pour certains, mais c'est ainsi. Nous avons résisté autant que possible, mais en fin de compte, on nous a dit que c'était ça – faites-le ou c'est fini... »**

**« Ces institutions financières ne comprennent pas ce que les gens font ici. Nous avons essayé d'expliquer, mais nous sommes pratiquement le dernier bastion pour le contenu NSFW. »**

Nicoll a mentionné que CivitAI a contacté de nombreux processeurs de paiement, même ceux qui servent généralement des sites à haut risque comme les plateformes pornographiques, mais tous sont prudents vis-à-vis du contenu IA :

**« Même les processeurs de paiement à haut risque sont prudents avec le contenu IA. Si nous étions un site porno traditionnel, nous serions bien, mais le contenu IA est ce qui les effraie. »**

Et ensuite ?

Avant cette annonce, CivitAI avait déjà commencé à supprimer certains téléchargements. Un « référentiel d'urgence » pour les LoRAs Wan 2.1 a été mis en place sur le site Hugging Face, y compris des modèles tombant dans la catégorie désormais interdite « undress ». Pendant ce temps, le subreddit r/datahoarders, connu pour préserver la littérature du gouvernement américain pendant l'administration de Donald Trump, a montré peu d'intérêt à sauvegarder le contenu de CivitAI.

Malgré la mention de la facilitation par CivitAI de la génération d'IA NSFW dans la littérature académique, comme le document de 2024 **Exploration de l'utilisation de modèles d'IA génératifs abusifs sur CivitAI**, l'accent des processeurs de paiement n'est pas sur ce qui est produit sur CivitAI lui-même, mais sur la manière dont ces modèles sont utilisés dans des communautés moins réglementées.

Le site Mr. Deepfakes, autrefois synonyme de deepfaking NSFW basé sur les autoencodeurs, présente désormais des vidéos pornographiques basées sur des célébrités utilisant de nouveaux générateurs de texte à vidéo et d'image à vidéo comme Hunyuan Video et Wan 2.1, qui gagnent en popularité et sont susceptibles de générer des controverses à mesure que leur base d'utilisateurs s'élargit.

Métadonnées obligatoires

Une autre exigence des processeurs de paiement, selon Nicoll, est l'inclusion de métadonnées dans toutes les images sur le site. Dans les flux de travail typiques utilisant des plateformes comme ComfyUI, les images générées contiennent des métadonnées détaillant le modèle utilisé et divers paramètres. Ces métadonnées permettent aux utilisateurs de recréer le processus de génération et de résoudre les dépendances manquantes. CivitAI a annoncé que toute image ou vidéo manquant de ces données sera supprimée dans les trente jours, bien que les utilisateurs puissent les ajouter manuellement via le site CivitAI. Malgré la valeur probante des métadonnées, cette exigence semble quelque peu futile, car les métadonnées peuvent être facilement copiées ou falsifiées.

Les utilisateurs avec des milliers d'images sur CivitAI sont désormais confrontés à la tâche ardue d'annoter manuellement chaque image ou de les supprimer et de les re-télécharger avec des métadonnées ajoutées, ce qui réinitialiserait les métriques d'engagement comme les « likes » ou le « buzz ».

Les nouvelles règles

  • Le contenu marqué avec des noms de personnes réelles ou identifié comme ressources de personnes réelles n'apparaîtra plus dans les flux publics.
  • Le contenu avec des thèmes impliquant des enfants/mineurs sera filtré hors des flux.
  • Le contenu classé X et XXX manquant de métadonnées de génération sera masqué de la vue publique et signalé avec un avertissement, permettant à l'uploader d'ajouter les détails manquants. Ce contenu restera visible uniquement pour son créateur jusqu'à mise à jour.
  • Les images créées à l'aide de la fonctionnalité Bring Your Own Image (BYOI) doivent désormais appliquer au moins 50 % de modification de bruit pendant la génération pour éviter la création de répliques quasi-exactes. Cette règle ne s'applique pas aux images créées entièrement sur CivitAI ou remixées à partir d'autres contenus CivitAI, qui peuvent utiliser n'importe quel niveau de débruitage.
  • Lors de la navigation avec le contenu X ou XXX activé, les recherches de noms de célébrités ne donneront aucun résultat. Combiner des noms de célébrités avec du contenu mature reste interdit.
  • Les publicités n'apparaîtront pas sur les images ou ressources conçues pour reproduire l'apparence de personnes réelles.
  • Le tipping (Buzz) sera désactivé pour les images ou ressources représentant des personnes réelles.
  • Les modèles conçus pour reproduire des personnes réelles ne seront pas éligibles pour l'accès anticipé, limitant la monétisation des ressemblances de célébrités ou de personnes réelles.
  • Une déclaration de conformité 2257 a été ajoutée pour affirmer que tout matériel explicite sur la plateforme est synthétique et non basé sur des photographies ou vidéos réelles.
  • Une nouvelle page de demande de suppression de contenu permet à quiconque de signaler du matériel abusif ou illégal sans avoir à se connecter. Les utilisateurs enregistrés doivent utiliser les outils de signalement intégrés sur chaque publication. Cela est distinct du formulaire existant pour demander la suppression de sa propre ressemblance de la plateforme.
  • CivitAI a introduit un nouveau système de modération grâce à un partenariat avec Clavata, dont les outils d'analyse d'image surpassent les solutions précédentes comme Amazon Rekognition et Hive.

*Malgré la mention du « domaine » de Barbara Eden, l'actrice de I Dream of Jeannie est toujours en vie, actuellement âgée de 93 ans.*
*Archivé : https://archive.ph/tsMb0*

*Première publication jeudi 24 avril 2024. Modifié jeudi 24 avril 2025 14:32:28 : dates corrigées.*

Article connexe
Google utilise l'IA pour suspendre plus de 39 millions de comptes d'annonces pour une fraude présumée Google utilise l'IA pour suspendre plus de 39 millions de comptes d'annonces pour une fraude présumée Google a annoncé mercredi qu'il avait pris une étape majeure dans la lutte contre la fraude publicitaire en suspendant un comptes stupéfaits de 39,2 millions d'annonces sur sa plate-forme en 2024. Ce nombre est plus que triple ce qui a été signalé l'année précédente, présentant les efforts intensifiés de Google pour nettoyer son écosie publicitaire publicitaire
Openai recule: SUES ELON MUSK pour ses prétendus efforts pour saper le concurrent de l'IA Openai recule: SUES ELON MUSK pour ses prétendus efforts pour saper le concurrent de l'IA Openai a lancé une contre-attaque juridique féroce contre son co-fondateur, Elon Musk, et sa société d'IA concurrente, XAI. Dans une escalade spectaculaire de leur querelle en cours, Openai accuse Musk de mener une campagne "implacable" et "malveillante" pour saper l'entreprise qu'il a aidé à démarrer. Selon le tribunal D
Top 9 Les assistants juridiques de l'IA pour avril 2025 ont révélé Top 9 Les assistants juridiques de l'IA pour avril 2025 ont révélé Dans le monde juridique au rythme rapide d'aujourd'hui, la gestion des cas, la réalisation de recherches et le maintien des clients dans la boucle peuvent ressembler à un jonglage. Heureusement, l'intelligence artificielle est venue à la rescousse avec des outils juridiques propulsés par l'IA. Ces gadgets niftys visent à faciliter la vie des avocats, BO
commentaires (1)
0/200
FrankKing
FrankKing 28 juillet 2025 03:18:39 UTC+02:00

It's wild how payment giants like Mastercard and Visa can push a platform like CivitAI to tighten its deepfake rules. Makes you wonder how much control these companies have over tech. 😕 Curious to see if this actually curbs misuse or just shifts it elsewhere.

Retour en haut
OR