Civitai renforce les réglementations DeepFake au milieu de la pression de MasterCard et Visa

Civitai, l'un des référentiels de modèles d'IA les plus importants sur Internet, a récemment apporté des modifications importantes à ses politiques sur le contenu NSFW, en particulier concernant les loras de célébrités. Ces modifications ont été stimulées par la pression des facilitateurs de paiement MasterCard et Visa. Celebrity Loras, qui sont des modèles générés par les utilisateurs qui permettent la création de représentations générées par l'AI de personnes bien connues, ont été une caractéristique populaire sur le site, avec des centaines ou même des milliers de ces modèles disponibles, principalement avec des sujets féminins.

Dans un flux en direct Twitch, le directeur de l'engagement communautaire de Civitai, Alasdair Nicoll, qui est également créateur de modèles SFW, a discuté des raisons de ces changements de politique. Nicoll a expliqué que le site a été contraint de se conformer en raison des préoccupations des processeurs de paiement concernant le contenu des adultes et les représentations de personnes réelles. Il a laissé entendre que Visa et MasterCard pourraient exiger des mesures encore plus strictes à l'avenir:

** 'Ce ne sont pas des changements que nous voulions apporter. Il s'agit d'une législation nouvelle et à venir. Il existe des lois profondes et des lois sur le porno de l'IA qui ont des processeurs de paiement, en particulier Visa et MasterCard, inquiets des poursuites potentielles, qui stimulent ces changements. '**

** `` On nous a donné d'autres options, comme supprimer tout le contenu pas sécurisé, ou déplacer le contenu X et Triple-X vers une toute nouvelle plate-forme avec géo-bloquant, compte tenu des réglementations dans plus de la moitié des États américains, ainsi que de nombreux pays asiatiques et au Royaume-Uni ... **

** 'Une autre option était de passer aux paiements de crypto uniquement, mais il n'y avait pas de bonnes options pour nous.' **

Au cours des derniers jours, le domaine Civitai a connu des temps d'arrêt intermittents à mesure que ces changements ont été mis en œuvre. Auparavant, le site avait interdit les thèmes NSFW dans les représentations de la célébrité Lora, mais il est maintenant impossible de parcourir et de voir ces loras de célébrités aux côtés des nombreux modèles NSFW génériques conçus pour le contenu mature.

L'annonce officielle clarifie:

** 'Contenu tagué avec des noms de personne réels (comme «Tom Cruise») ou signalé comme des ressources POI (Real-Person) seront cachées des flux.' **

Lors de la session Twitch, Nicoll a développé des mesures supplémentaires pour protéger les personnages célèbres et les vraies personnes. Bien que Civitai ait toujours permis aux individus de demander la suppression des modèles d'IA les représentant, Nicoll a mentionné un nouveau système conçu pour empêcher que ces images soient téléchargées, même si le système ne les a pas vues auparavant. Pour y parvenir, le site s'associe au système de modération de Clavata AI, bien que l'étendue complète de l'implication de Clavata reste claire.

Nicoll a partagé des exemples spécifiques:

** 'Tom Hanks a revendiqué sa ressemblance de notre part, par exemple. De nombreuses actrices adultes et acteurs de la liste A ont fait la même chose ... **

** 'La première personne à le faire était Barbara Eden, ou plutôt son domaine - ce qui est amusant parce qu'elle est assez âgée.' **

Protégé par défaut?

Au cours des deux dernières années, la société AI VFX Metaphysic a tenté de créer un système permettant aux individus d'enregistrer leur ressemblance, principalement destinés aux stars hollywoodiennes préoccupées par le vol d'identité basé sur l'IA. Des acteurs comme Anne Hathaway, Octavia Spencer et Tom Hanks, qui ont travaillé avec Metaphysic sur le film ** ici ** (2024), ont soutenu cette initiative. Cependant, avec la croissance rapide des lois profondes et des protections potentielles de common law, le service proposé basé sur l'abonnement de la métaphysique pourrait devenir redondant. Il n'est pas clair si l'offre pro de Metaphysic sera transférer pour doubler VFX négatif, qui a acquis les actifs de Metaphysic l'année dernière. De plus en plus, la législation mondiale et les pressions du marché semblent sur le point d'offrir une protection et des remèdes plus robustes que les solutions commerciales.

Bouillir la grenouille

Un rapport de 2023 de 404 Media a souligné la prévalence des modèles de célébrités et d'IA porno sur Civitai, bien que le fondateur du site, Justin Maier, ait minimisé la connexion entre ces modèles et leur utilisation dans la génération de contenu pornographique. Nicoll a précisé que la principale préoccupation pour Visa et MasterCard n'est pas la génération de contenu mais l'hébergement de ces modèles:

** 'Certains croient que nous sommes dans cette situation parce que nous permettons la génération. Ce n'est pas ça. Il suffit d'héberger ces modèles et de contenu pour faire un examen minutieux. '**

Les discussions communautaires ont longtemps été surpris que Civitai soit autorisée à accueillir des ressemblances de célébrités. En prévision d'une répression, plusieurs initiatives ont émergé pour préserver les Loras, notamment le Subdredit R / Civitaiarchives. Alors que certains suggèrent une solution basée sur un torrent, aucun domaine de premier plan n'a encore émergé, poussant probablement le contenu interdit aux franges d'Internet, y compris le filet sombre, car les plates-formes comme Reddit et Discord sont susceptibles de suivre le pas pour interdire un tel contenu.

Actuellement, les loras de célébrités de Civitai sont toujours visibles mais avec des restrictions, et la plupart du contenu généré a été défini pour empêcher la découverte occasionnelle. Un intervenant de la session Twitch a suggéré que la répression pourrait s'intensifier, interdisant potentiellement toutes les ressemblances des vraies personnes dans des modèles ou des représentations téléchargés. Nicoll a accepté:

** 'Ils ne s'arrêteront pas ici; Ils continueront de demander de plus en plus - absolument! Le seul espoir est que nous grandissons assez grands pour avoir plus de dire dans ce qui nous est dicté ... **

** 'Personne ne va acheter Bitcoin juste pour utiliser le générateur Civitai. Nous avons essayé de faire ces modifications aussi acceptables que possible, mais c'est ce qui nous reste. Je m'excuse si c'est insupportable pour certains, mais c'est ce que c'est. Nous avons repoussé autant que possible, mais finalement, on nous a dit que c'était ça - faites ceci ou c'est fini ... **

** 'Ces institutions financières ne comprennent pas ce que les gens font ici. Nous avons essayé d'expliquer, mais nous sommes pratiquement le dernier bastion du contenu NSFW. '**

Nicoll a mentionné que Civitai a contacté de nombreux processeurs de paiement, même ceux qui servent généralement des sites à haut risque comme les plateformes pornographiques, mais tout se méfie du contenu de l'IA:

** 'Les processeurs de paiement même à haut risque sont prudents quant au contenu de l'IA. Si nous étions un site porno traditionnel, tout irait bien, mais le contenu de l'IA est ce qui leur fait peur. '**

Où ensuite?

Avant cette annonce, Civitai avait déjà commencé à retirer certains téléchargements. Un «référentiel d'urgence» pour WAN 2.1 Loras a été mis en place sur le site Web de Face Hugging, y compris des modèles qui entrent dans la catégorie «déshabillement» désormais interrompue. Pendant ce temps, le SousBret R / Datahoarders, connu pour avoir préservé la littérature du gouvernement américain pendant l'administration de Donald Trump, a montré peu d'intérêt à sauver le contenu Civitai.

Malgré la facilitation par Civitai de la génération de l'IA NSFW, notée dans la littérature académique, telle que l'article 2024 ** Exploration de l'utilisation de modèles d'IA génératifs abusifs sur Civitai **, le foyer des processeurs de paiement n'est pas sur ce qui est produit chez Civitai lui-même, mais sur la façon dont ces modèles sont utilisés dans les communautés moins réglementées.

Le site Web de M. Deepfakes, autrefois synonyme de NSFW Deepfaking basé sur Autoencoder, présente désormais des vidéos pornographiques basées sur les célébrités utilisant de nouveaux générateurs de texte à vidéo et d'image à video comme Hunyuan Video et WAN 2.1, qui gagnent en traction et susceptibles de générer une controverse à mesure que leurs bases d'utilisateurs s'étendent.

Métadonnées obligatoires

Selon Nicoll, un autre changement exigé par les processeurs de paiement est l'inclusion de métadonnées dans toutes les images du site. Dans les workflows typiques à l'aide de plates-formes comme Comfyui, les images générées contiennent des métadonnées détaillant le modèle utilisé et divers paramètres. Ces métadonnées permet aux utilisateurs de recréer le processus de génération et de traiter toutes les dépendances manquantes. Civitai a annoncé que toute image ou vidéo dépourvue de ces données sera supprimée dans les trente jours, bien que les utilisateurs puissent les ajouter manuellement via le site Web de Civitai. Malgré la valeur de preuve des métadonnées, cette exigence semble quelque peu futile, car les métadonnées peuvent être facilement copiées ou falsifiées.

Les utilisateurs avec des milliers d'images sur Civitai sont désormais confrontés à la tâche intimidante de l'annoter manuellement ou de les supprimer et de les re-télécharger avec des métadonnées ajoutées, qui réinitialiseraient toutes les mesures d'engagement comme «likes» ou «buzz».

Les nouvelles règles

• Le contenu étiqueté avec les noms de réels des individus ou identifiés comme des ressources de la personne réelle n'apparaîtra plus dans les flux publics.
• Le contenu avec des thèmes enfants / mineurs sera filtré hors des aliments.
• Le contenu nominal X et XXX dépourvu de métadonnées de génération sera caché à la vue du public et signalé d'un avertissement, permettant au téléchargeur d'ajouter les détails manquants. Un tel contenu ne restera visible que pour son créateur jusqu'à ce qu'il soit mis à jour.
• Les images créées à l'aide de la fonction Bring Your Own Image (BYOI) doivent désormais appliquer une altération du bruit au moins 50% pendant la génération pour empêcher la création de répliques quasi-exact. Cette règle ne s'applique pas aux images créées entièrement sur Civitai ou remixées à partir d'un autre contenu Civitai, qui peut utiliser n'importe quel niveau Denoise.
• Lors de la navigation avec le contenu X ou XXX activé, les recherches de noms de célébrités ne rendront aucun résultat. La combinaison de noms de célébrités avec du contenu mature reste interdite.
• Les publicités n'apparaîtront pas sur des images ou des ressources conçues pour reproduire l'apparence de vrais individus.
• Le basculement (Buzz) sera désactivé pour des images ou des ressources qui représentent de vrais individus.
• Les modèles conçus pour reproduire les vraies personnes ne seront pas éligibles à un accès précoce, limitant la monétisation de la célébrité ou des ressemblances en personne.
• Une déclaration de conformité 2257 a été ajoutée pour affirmer que tout le matériel explicite sur la plate-forme est synthétique et non basé sur une photographie ou une vidéo réelle.
• Une nouvelle page de demande de suppression de contenu permet à quiconque de signaler des matériaux abusifs ou illégaux sans avoir besoin de se connecter. Les utilisateurs enregistrés doivent utiliser les outils de rapport intégrés sur chaque message. Ceci est distinct du formulaire existant pour demander la suppression de sa ressemblance de la plate-forme.
• Civitai a introduit un nouveau système de modération grâce à un partenariat avec Clavata, dont les outils d'analyse d'image surpassent les solutions précédentes comme Amazon Rekognition et Hive.

* Malgré la mention du «domaine» de Barbara Eden, l'actrice I Dream of Jeannie est toujours en vie, actuellement âgée de 93 ans. *
^† * Archivé: https://archive.ph/tsmb0*

* Publié pour la première fois le jeudi 24 avril 202. Mendé le jeudi 24 avril 2025 14:32:28: Dates corrigées. *