Civitai stärkt die DeepFake -Vorschriften inmitten des Drucks von MasterCard und Visa

Civitai, eine der bekanntesten KI -Model -Repositorys im Internet, hat kürzlich erhebliche Änderungen an den Richtlinien zu NSFW -Inhalten vorgenommen, insbesondere in Bezug auf Prominente Loras. Diese Änderungen wurden durch den Druck der Zahlungsleitermeister und des Visums ausgelöst. Promi-Loras, die benutzergenerierte Modelle sind, die die Schaffung von AI-generierten Darstellungen bekannter Personen ermöglichen, waren ein beliebtes Merkmal auf der Website mit Hunderten oder sogar Tausenden solcher Modelle, die überwiegend weibliche Themen enthalten.

In einem zuckenden Live-Stream diskutierte der Community Engagement Manager von Civitai, Alasdair Nicoll, der auch Schöpfer von SFW-Modellen ist, die Gründe für diese politischen Änderungen. Nicoll erklärte, dass die Website aufgrund von Bedenken von Zahlungsabwicklern über Inhalte und Darstellungen von echten Personen gezwungen sei. Er deutete an, dass Visum und Mastercard in Zukunft noch strengere Maßnahmen erfordern könnten:

** 'Dies sind keine Änderungen, die wir vornehmen wollten. Es geht nur um neue und bevorstehende Gesetze. Es gibt DeepFake -Gesetze und KI -Pornosgesetze, die Zahlungsabwickler haben, insbesondere Visa und MasterCard, besorgt über potenzielle Klagen, die diese Änderungen vorantreiben. '**

** 'Wir erhielten andere Optionen, z.

** 'Eine andere Möglichkeit bestand darin, auf nur Krypto-Zahlungen umzusteigen, aber es gab keine guten Optionen für uns.' **

In den letzten Tagen hat die Civitai -Domäne zeitweise Ausfallzeiten erlebt, da diese Änderungen umgesetzt wurden. Zuvor hatte die Website NSFW -Themen in Promi -Lora -Darstellungen verboten, aber jetzt ist es unmöglich, diese Promi -Loras neben den vielen generischen NSFW -Modellen zu durchsuchen und zu sehen, die für reife Inhalte entwickelt wurden.

Die offizielle Ankündigung verdeutlicht:

** 'Inhalte mit echten Personennamen (wie "Tom Cruise") oder als POI-Ressourcen (Real-Person) -Ressourcen werden vor Feeds versteckt.' **

In der Twitch -Sitzung arbeitete Nicoll auf zusätzliche Maßnahmen zum Schutz berühmter Figuren und echten Menschen aus. Während Civitai Einzelpersonen immer erlaubt hat, die Entfernung von KI-Modellen zu beantragen, die sie darstellen, erwähnte Nicoll ein neues System, mit dem verhindern soll, dass solche Bilder erneut aufgefordert werden, auch wenn das System sie zuvor noch nicht gesehen hat. Um dies zu erreichen, arbeitet die Website mit dem Clavata AI -Moderationssystem zusammen, obwohl das volle Ausmaß der Beteiligung von Clavata unklar bleibt.

Nicoll teilte spezifische Beispiele mit:

** 'Tom Hanks hat zum Beispiel seine Ähnlichkeit von uns beansprucht. Viele erwachsene Schauspielerinnen und A-List-Schauspieler haben dasselbe getan ... **

** 'Die erste Person, die dies tat, war Barbara Eden oder vielmehr ihr Nachlass - was amüsant ist, weil sie ziemlich älter ist.' **

Standardmäßig geschützt?

In den letzten Jahren versuchte das AI VFX-Unternehmen Metaphysic, ein System zu schaffen, das es Einzelpersonen ermöglichte, ihre Ähnlichkeit zu registrieren, hauptsächlich auf Hollywood-Stars, die sich über KI-basierte Identitätsdiebstahl besorgt haben. Schauspieler wie Anne Hathaway, Octavia Spencer und Tom Hanks, die mit Metaphysic an dem Film ** hier arbeiteten ** (2024), unterstützten diese Initiative. Angesichts des raschen Wachstums von DeepFake-Gesetzen und dem potenziellen Schutz des Gewohnheitsrechts könnte der vorgeschlagene abonnementbasierte Dienst von Metaphysic jedoch überflüssig werden. Es ist unklar, ob das Pro -Angebot von Metaphysic auf doppelte negative VFX übertragen wird, das im vergangenen Jahr die Vermögenswerte von Metaphysic erworben hat. Zunehmend scheinen die globalen Gesetzgebung und der Marktdruck bereit zu sein, robusteren Schutz und Rechtsmittel als kommerzielle Lösungen zu bieten.

Den Frosch kochen

In einem Bericht von 404 Medien 2023 wurde die Verbreitung von Promi- und Porno -KI -Modellen auf Civitai hervorgehoben, obwohl der Gründer der Website, Justin Maier, die Verbindung zwischen diesen Modellen und deren Verwendung bei der Erzeugung pornografischer Inhalte heruntergespielt hat. Nicoll hat klargestellt, dass das Hauptanliegen von Visa und Mastercard nicht die Generierung von Inhalten ist, sondern das Hosting dieser Modelle:

** Einige glauben, dass wir in dieser Situation sind, weil wir die Generation erlauben. Das ist es nicht. Das einfache Hosting dieser Modelle und Inhalte reicht aus, um die Prüfung zu zeichnen. '**

Gemeinschaftsdiskussionen sind seit langem überrascht, dass Civitai Prominenten mit Ähnlichkeiten ausrichten durfte. In Erwartung eines Klemmens sind mehrere Initiativen entstanden, um Loras zu bewahren, einschließlich der Subreddit R/Civitaiarchiv. Während einige eine torrent basierte Lösung vorschlagen, ist bisher keine prominente Domäne entstanden, die wahrscheinlich verbotene Inhalte an die Rande des Internets, einschließlich des Dunklen Netzes, drückt, da Plattformen wie Reddit und Discord wahrscheinlich dem Verbot solcher Inhalte folgen.

Derzeit sind Promi-Loras bei Civitai immer noch sichtbar, aber mit Einschränkungen, und die meisten generierten Inhalte wurden entlastet, um eine gelegentliche Entdeckung zu verhindern. Ein Kommentator in der Twitch -Sitzung schlug vor, dass sich das Vorgehen verstärken könnte und möglicherweise alle Ähnlichkeiten von echten Menschen in hochgeladenen Modellen oder Darstellungen verbietet. Nicoll stimmte zu:

** 'Sie werden hier nicht aufhören; Sie werden immer mehr verlangen - absolut! Die einzige Hoffnung ist, dass wir groß genug werden, um mehr in dem zu sagen, was uns diktiert ist ... **

** 'Niemand wird Bitcoin kaufen, nur um den Civitai -Generator zu benutzen. Wir haben versucht, diese Änderungen so schmackhaft wie möglich vorzunehmen, aber das ist es, was wir übrig haben. Ich entschuldige mich, wenn dies für einige unerträglich ist, aber es ist was es ist. Wir haben so viel wie möglich zurückgedrängt, aber letztendlich wurde uns gesagt, dass dies es ist - tun Sie das oder es ist vorbei ... **

** Diese Finanzinstitute verstehen nicht, was die Leute hier tun. Wir haben versucht zu erklären, aber wir sind praktisch die letzte Bastion für NSFW -Inhalte. '**

Nicoll erwähnte, dass Civitai sich an zahlreiche Zahlungsabwickler wandte, selbst diejenigen, die in der Regel Hochrisiko-Websites wie pornografische Plattformen bedienen, aber alle sind vorsichtig mit KI-Inhalten:

** Sogar Risiko-Zahlungsabwickler sind in Bezug auf KI-Inhalte vorsichtig. Wenn wir eine traditionelle Pornoseite wären, gehen wir in Ordnung, aber KI -Inhalt macht ihnen Angst. '**

Wo als nächstes?

Vor dieser Ankündigung hatte Civitai bereits begonnen, bestimmte Uploads zu entfernen. Auf der Website der Umarmung wurde ein "Notaufnahme" für WAN 2.1 Loras eingerichtet, einschließlich Modelle, die in die jetzt verbotene Kategorie "Ausziehen" fallen. In der Zwischenzeit hat die Subreddit R/DATAHOARDERS, die für die Erhaltung der US -Regierung während der Verwaltung von Donald Trump bekannt sind, wenig Interesse daran gezeigt, Civitai -Inhalte zu retten.

Trotz der Erleichterung der NSFW-KI-Generation durch Civitais in der akademischen Literatur wie das Papier 2024 ** Erforschung der Verwendung von missbräuchlichen generativen KI-Modellen zu Civitai ** liegt der Schwerpunkt der Zahlungsprozessoren nicht auf dem, was bei Civitai selbst produziert wird, sondern auf der Art und Weise, wie diese Modelle in weniger regulierten Gemeinden verwendet werden.

Die Mr. DeepFakes-Website, einst ein Synonym für AutoCoder-basierte NSFW Deepfaking, zeigt jetzt prominente pornografische Videos, die neue Text-zu-Video-Generatoren verwenden, und Bild-zu-Video-Generatoren wie Hunyuan-Video und Wan 2.1, die an Traktion kommen und wahrscheinlich zu kontroversen Kontroversen werden.

Obligatorische Metadaten

Eine weitere Änderung, die laut Nicoll von Zahlungsprozessoren gefordert wird, ist die Aufnahme von Metadaten in alle Bilder auf der Website. In typischen Workflows mit Plattformen wie Comfyui enthalten generierte Bilder Metadaten, in denen das verwendete Modell und verschiedene Einstellungen detailliert werden. Mit dieser Metadaten können Benutzer den Erzeugungsprozess neu erstellen und fehlende Abhängigkeiten angehen. Civitai hat angekündigt, dass jedes Bild oder Video, das diese Daten fehlen, innerhalb von dreißig Tagen gelöscht wird, obwohl Benutzer es manuell über die Civitai -Website hinzufügen können. Trotz des Beweiswerts von Metadaten scheint diese Anforderung etwas vergeblich zu sein, da Metadaten leicht kopiert oder verfälscht werden können.

Benutzer mit Tausenden von Bildern auf Civitai stehen jetzt vor der entmutigenden Aufgabe, jeden manuell zu kommentieren oder sie mit zusätzlichen Metadaten zu löschen und neu zu laden, wodurch alle Verlobungsmetriken wie "Likes" oder "Buzz" zurückgesetzt werden.

Die neuen Regeln

• Inhalte mit den Namen von echten Personen oder als Ressourcen für echte Personen identifiziert werden in öffentlichen Feeds nicht mehr.
• Inhalte mit Kinder-/Kleinsthemen werden aus Futtermitteln herausgefiltert.
• In den von X und XXX bewerteten Inhalten ohne Generation Metadaten wird die öffentliche Ansicht versteckt und mit einer Warnung gekennzeichnet, sodass der Uploader die fehlenden Details hinzufügen kann. Ein solcher Inhalt bleibt nur bis zum Auftaten für seinen Ersteller sichtbar.
• Bilder, die mit der Funktion "Your Own Image) erstellt wurden, müssen jetzt mindestens 50% Rauschveränderung während der Erzeugung anwenden, um die Erstellung nahezu passender Replikate zu verhindern. Diese Regel gilt nicht für Bilder, die ausschließlich auf Civitai erstellt oder aus anderen Civitai -Inhalten remixiert wurden und die eine beliebige Denoise -Ebene verwenden können.
• Wenn Sie mit aktiviertem X- oder XXX -Inhalt stöbern, werden nach Prominentennamen keine Ergebnisse zurückgegeben. Die Kombination von Promi -Namen mit ausgereiften Inhalten bleibt verboten.
• Anzeigen werden nicht auf Bildern oder Ressourcen angezeigt, mit denen das Erscheinungsbild realer Individuen nachgebildet werden soll.
• Tippen (Buzz) wird für Bilder oder Ressourcen deaktiviert, die echte Personen darstellen.
• Modelle, die reale Menschen replizieren konnten, haben keinen Anspruch auf frühzeitigen Zugang und begrenzen die Monetarisierung von Prominenten oder echten Ähnlichkeiten.
• Um zu bestätigen, dass alle explizite Materialien auf der Plattform synthetisch sind und nicht auf realer Fotografie oder Videos basieren, wurde eine Erklärung für 2257 Compliance hinzugefügt.
• Mit einer neuen Seite zur Entfernung von Inhalten können jemand missbräuchliches oder illegales Material melden, ohne sich anzumelden. Registrierte Benutzer sollten die integrierten Berichtstools für jeden Beitrag verwenden. Dies ist vom vorhandenen Formular getrennt, um die Entfernung der eigenen Ähnlichkeit von der Plattform zu beantragen.
• Civitai hat durch eine Partnerschaft mit Clavata ein neues Moderationssystem eingeführt, dessen Bildanalyse -Tools frühere Lösungen wie Amazon Rekognition und Hive übertreffen.

*Trotz der Erwähnung von Barbara Edens 'Estate' ist The I Dream of Jeannie -Schauspielerin noch lebendig, derzeit 93 Jahre alt.*
^† *Archiviert: https://archive.ph/tsmb0**

*Erstes am Donnerstag, 24. April 202, am Donnerstag, 24. April 2025, 14:32:28 Uhr veröffentlicht.