Civitai stärkt die DeepFake -Vorschriften inmitten des Drucks von MasterCard und Visa

CivitAI, eines der bekanntesten AI-Modell-Repositories im Internet, hat kürzlich bedeutende Änderungen an seinen Richtlinien zu NSFW-Inhalten vorgenommen, insbesondere in Bezug auf Promi-LoRAs. Diese Änderungen wurden durch Druck von Zahlungsdienstleistern wie MasterCard und Visa ausgelöst. Promi-LoRAs, benutzergenerierte Modelle, die die Erstellung von KI-generierten Darstellungen bekannter Personen ermöglichen, waren eine beliebte Funktion auf der Seite, mit hunderten oder sogar tausenden solcher Modelle, überwiegend mit weiblichen Subjekten.

In einem Twitch-Livestream diskutierte Alasdair Nicoll, Community Engagement Manager von CivitAI und selbst Schöpfer von SFW-Modellen, die Gründe für diese Richtlinienänderungen. Nicoll erklärte, dass die Seite aufgrund von Bedenken der Zahlungsdienstleister bezüglich Erwachseneninhalten und Darstellungen realer Personen zur Einhaltung gezwungen wurde. Er deutete an, dass Visa und MasterCard in Zukunft noch strengere Maßnahmen fordern könnten:

**„Das sind keine Änderungen, die wir machen wollten. Es geht um neue und kommende Gesetze. Es gibt Deepfake-Gesetze und Gesetze zu AI-Pornos, die Zahlungsdienstleister, insbesondere Visa und MasterCard, wegen möglicher Klagen beunruhigen, was diese Änderungen vorantreibt.“**

**„Uns wurden andere Optionen gegeben, wie das Entfernen aller nicht-arbeitsplatzsicheren Inhalte oder das Verschieben von X- und XXX-Inhalten auf eine komplett neue Plattform mit Geoblocking, angesichts der Vorschriften in über der Hälfte der US-Bundesstaaten sowie in vielen asiatischen Ländern und dem Vereinigten Königreich...**

**„Eine weitere Option war der Wechsel zu Krypto-Zahlungen, aber es gab für uns keine guten Optionen.“**

In den letzten Tagen hatte die CivitAI-Domain aufgrund dieser Änderungen zeitweise Ausfälle. Zuvor hatte die Seite NSFW-Themen in Promi-LoRA-Darstellungen verboten, aber jetzt ist es unmöglich, diese Promi-LoRAs neben den vielen generischen NSFW-Modellen für Erwachseneninhalte zu durchsuchen und anzuzeigen.

Die offizielle Ankündigung stellt klar:

**„Inhalte, die mit Namen realer Personen (wie ‚Tom Cruise‘) markiert sind oder als POI-(reale Personen)-Ressourcen gekennzeichnet wurden, werden in Feeds ausgeblendet.“**

Im Twitch-Gespräch erläuterte Nicoll zusätzliche Maßnahmen zum Schutz bekannter Persönlichkeiten und realer Personen. Während CivitAI stets Einzelpersonen erlaubte, die Entfernung von AI-Modellen, die sie darstellen, zu beantragen, erwähnte Nicoll ein neues System, das verhindern soll, dass solche Bilder erneut hochgeladen werden, selbst wenn das System sie zuvor nicht gesehen hat. Dafür arbeitet die Seite mit dem Clavata AI-Moderationssystem zusammen, wobei das volle Ausmaß von Clavatas Beteiligung unklar bleibt.

Nicoll nannte konkrete Beispiele:

**„Tom Hanks hat beispielsweise seine Abbildrechte von uns eingefordert. Viele erwachsene Schauspielerinnen und A-List-Schauspieler haben dasselbe getan...“**

**„Die erste Person, die dies tat, war Barbara Eden, oder vielmehr ihr Nachlass – was amüsant ist, da sie ziemlich betagt ist.“**

Standardmäßig geschützt?

In den letzten Jahren versuchte das AI-VFX-Unternehmen Metaphysic, ein System zu schaffen, das es Einzelpersonen ermöglicht, ihr Abbild zu registrieren, hauptsächlich für Hollywood-Stars, die sich Sorgen um AI-basierten Identitätsdiebstahl machen. Schauspieler wie Anne Hathaway, Octavia Spencer und Tom Hanks, die mit Metaphysic am Film **Here** (2024) arbeiteten, unterstützten diese Initiative. Doch mit dem schnellen Wachstum von Deepfake-Gesetzen und potenziellen Common-Law-Schutzmaßnahmen könnte der vorgeschlagene abonnementbasierte Dienst von Metaphysic überflüssig werden. Es ist unklar, ob Metaphysics Pro-Angebot an Double Negative VFX übertragen wird, das letztes Jahr die Vermögenswerte von Metaphysic übernahm. Zunehmend scheinen globale Gesetze und Marktdruck robustere Schutzmaßnahmen und Abhilfen zu bieten als kommerzielle Lösungen.

Den Frosch kochen

Ein Bericht von 404 Media aus dem Jahr 2023 hob die Verbreitung von Promi- und Porno-AI-Modellen auf CivitAI hervor, obwohl der Gründer der Seite, Justin Maier, die Verbindung zwischen diesen Modellen und ihrer Nutzung zur Erstellung pornografischer Inhalte herunterspielte. Nicoll stellte klar, dass das Hauptanliegen von Visa und MasterCard nicht die Erstellung von Inhalten ist, sondern das Hosten dieser Modelle:

**„Manche glauben, wir seien in dieser Situation, weil wir die Erstellung erlauben. Das stimmt nicht. Allein das Hosten dieser Modelle und Inhalte reicht aus, um Aufmerksamkeit zu erregen.“**

Die Community war lange überrascht, dass CivitAI das Hosten von Promi-Abbildern erlaubte. In Erwartung eines Vorgehens sind mehrere Initiativen entstanden, um LoRAs zu bewahren, einschließlich des Subreddits r/CivitaiArchives. Während einige eine Torrent-basierte Lösung vorschlagen, ist bisher keine prominente Domain entstanden, was verbotene Inhalte vermutlich an die Ränder des Internets, einschließlich des Darknets, verdrängt, da Plattformen wie Reddit und Discord wahrscheinlich ähnliche Inhalte verbieten werden.

Derzeit sind Promi-LoRAs auf CivitAI weiterhin sichtbar, jedoch mit Einschränkungen, und die meisten generierten Inhalte wurden aus den Listen genommen, um zufällige Entdeckungen zu verhindern. Ein Kommentator im Twitch-Gespräch meinte, dass die Repression zunehmen könnte und möglicherweise alle Abbilder realer Personen in hochgeladenen Modellen oder Darstellungen verbietet. Nicoll stimmte zu:

**„Sie werden hier nicht aufhören; sie werden immer mehr fordern – absolut! Die einzige Hoffnung ist, dass wir groß genug werden, um mehr Einfluss darauf zu haben, was uns diktiert wird...“**

**„Niemand wird Bitcoin kaufen, nur um den CivitAI-Generator zu nutzen. Wir haben versucht, diese Änderungen so erträglich wie möglich zu gestalten, aber das ist, was uns bleibt. Es tut mir leid, wenn das für einige unerträglich ist, aber so ist es. Wir haben uns so weit wie möglich gewehrt, aber letztendlich wurde uns gesagt, das ist es – macht das, oder es ist vorbei...“**

**„Diese Finanzinstitute verstehen nicht, was die Leute hier tun. Wir haben versucht zu erklären, aber wir sind praktisch die letzte Bastion für NSFW-Inhalte.“**

Nicoll erwähnte, dass CivitAI zahlreiche Zahlungsdienstleister kontaktierte, sogar solche, die typischerweise risikoreiche Seiten wie pornografische Plattformen bedienen, aber alle sind vorsichtig mit AI-Inhalten:

**„Selbst risikoreiche Zahlungsdienstleister sind bei AI-Inhalten vorsichtig. Wären wir eine traditionelle Pornoseite, wäre es kein Problem, aber AI-Inhalte sind das, was sie erschreckt.“**

Wie geht’s weiter?

Vor dieser Ankündigung hatte CivitAI bereits begonnen, bestimmte Uploads zu entfernen. Ein „Notfall-Repository“ für Wan 2.1 LoRAs wurde auf der Hugging Face-Website eingerichtet, einschließlich Modellen, die in die nun verbotene „Entkleidungs“-Kategorie fallen. Währenddessen hat das Subreddit r/datahoarders, bekannt dafür, US-Regierungsliteratur während der Trump-Administration zu bewahren, wenig Interesse daran gezeigt, CivitAI-Inhalte zu speichern.

Trotz der Erwähnung der Erleichterung von NSFW-AI-Generierung durch CivitAI in akademischer Literatur, wie dem 2024 erschienenen Paper **Erforschung der Nutzung missbräuchlicher generativer AI-Modelle auf CivitAI**, liegt der Fokus der Zahlungsdienstleister nicht auf dem, was auf CivitAI selbst produziert wird, sondern darauf, wie diese Modelle in weniger regulierten Communities verwendet werden.

Die Website Mr. Deepfakes, einst ein Synonym für NSFW-Deepfaking auf Autoencoder-Basis, zeigt nun Promi-basierte pornografische Videos, die mit neuen Text-zu-Video- und Bild-zu-Video-Generatoren wie Hunyuan Video und Wan 2.1 erstellt wurden, die an Zugkraft gewinnen und wahrscheinlich Kontroversen auslösen werden, wenn ihre Nutzerbasis wächst.

Verpflichtende Metadaten

Eine weitere von den Zahlungsdienstleistern geforderte Änderung ist laut Nicoll die Einbindung von Metadaten in alle Bilder auf der Seite. In typischen Workflows mit Plattformen wie ComfyUI enthalten generierte Bilder Metadaten, die das verwendete Modell und verschiedene Einstellungen detailliert angeben. Diese Metadaten ermöglichen es Nutzern, den Generierungsprozess nachzuvollziehen und fehlende Abhängigkeiten zu beheben. CivitAI hat angekündigt, dass Bilder oder Videos ohne diese Daten innerhalb von dreißig Tagen gelöscht werden, obwohl Nutzer sie manuell über die CivitAI-Website hinzufügen können. Trotz des beweisenden Werts von Metadaten scheint diese Anforderung etwas sinnlos, da Metadaten leicht kopiert oder gefälscht werden können.

Nutzer mit Tausenden von Bildern auf CivitAI stehen nun vor der schwierigen Aufgabe, jedes einzelne manuell zu annotieren oder zu löschen und erneut mit hinzugefügten Metadaten hochzuladen, was jegliche Engagement-Metriken wie „Likes“ oder „Buzz“ zurücksetzen würde.

Die neuen Regeln

• Inhalte, die mit Namen realer Personen markiert sind oder als Ressourcen realer Personen identifiziert wurden, erscheinen nicht mehr in öffentlichen Feeds.
• Inhalte mit Themen zu Kindern/Minderjährigen werden aus Feeds gefiltert.
• X- und XXX-bewertete Inhalte ohne Generierungsmetadaten werden aus der öffentlichen Sicht ausgeblendet und mit einer Warnung versehen, die es dem Uploader ermöglicht, die fehlenden Details hinzuzufügen. Solche Inhalte bleiben nur für ihren Ersteller sichtbar, bis sie aktualisiert werden.
• Bilder, die mit der Bring Your Own Image (BYOI)-Funktion erstellt wurden, müssen nun mindestens 50 % Rauschveränderung während der Generierung anwenden, um die Erstellung nahezu exakter Kopien zu verhindern. Diese Regel gilt nicht für Bilder, die vollständig auf CivitAI erstellt oder aus anderen CivitAI-Inhalten remixt wurden, die jedes Denoise-Level verwenden können.
• Beim Durchsuchen mit aktivierten X- oder XXX-Inhalten liefern Suchen nach Promi-Namen keine Ergebnisse. Die Kombination von Promi-Namen mit Erwachseneninhalten bleibt verboten.
• Werbung erscheint nicht auf Bildern oder Ressourcen, die darauf ausgelegt sind, das Aussehen realer Personen nachzubilden.
• Trinkgelder (Buzz) werden für Bilder oder Ressourcen deaktiviert, die reale Personen darstellen.
• Modelle, die darauf ausgelegt sind, reale Personen nachzubilden, sind nicht für Early Access berechtigt, was die Monetarisierung von Promi- oder realen Personen-Abbildern einschränkt.
• Eine 2257 Compliance Statement wurde hinzugefügt, um zu bestätigen, dass alle expliziten Inhalte auf der Plattform synthetisch sind und nicht auf echter Fotografie oder Videos basieren.
• Eine neue Seite für Inhaltsentfernungsanfragen ermöglicht es jedem, missbräuchliches oder illegales Material ohne Anmeldung zu melden. Registrierte Nutzer sollten die integrierten Meldewerkzeuge auf jedem Beitrag verwenden. Dies ist getrennt von der bestehenden Formular für die Entfernung des eigenen Abbildes von der Plattform.
• CivitAI hat ein neues Moderationssystem durch eine Partnerschaft mit Clavata eingeführt, dessen Bildanalyse-Tools frühere Lösungen wie Amazon Rekognition und Hive übertreffen.

*Trotz der Erwähnung des ‚Nachlasses‘ von Barbara Eden ist die Schauspielerin von I Dream of Jeannie noch am Leben, derzeit 93 Jahre alt.*
^†*Archiviert: https://archive.ph/tsMb0*

*Erstmals veröffentlicht am Donnerstag, 24. April 2024. Geändert am Donnerstag, 24. April 2025 14:32:28: korrigierte Daten.*