Civitaiは、MasterCardとVisaからの圧力の中で深海規制を強化します

インターネット上で最も顕著なAIモデルリポジトリの1つであるCivitaiは、最近、特に有名人のLorasに関して、NSFWコンテンツに関するポリシーに大きな変更を加えました。これらの変更は、支払いファシリテーターのマスターカードとビザからの圧力によって拍車がかかりました。有名な個人のAI生成された描写の作成を可能にするユーザー生成モデルである有名人のLorasは、このようなモデルが利用可能で、主に女性の被験者を特徴とする数百または数千のモデルが利用可能で、サイトで人気のある機能でした。

SFWモデルの作成者でもあるCivitaiのコミュニティエンゲージメントマネージャーであるCivitaiのコミュニティエンゲージメントマネージャーであるAlasdair Nicollは、これらの政策変更の背後にある理由について議論しました。ニコルは、大人のコンテンツと実際の人々の描写に関する支払いプロセッサからの懸念のために、このサイトは遵守を余儀なくされたと説明しました。彼は、VisaとMasterCardが将来的にはより厳しい措置を要求するかもしれないと示唆しました。

** 'これらは私たちが作りたい変更ではありません。それはすべて、新しい法律と今後の法律です。これらの変更を促進している潜在的な訴訟を心配している支払いプロセッサ、特にVisaとMasterCardを備えたDeepfake法とAIポルノ法があります。」**

** '米国の半分以上のアジア諸国と英国の規制を考慮して、すべての安全でないコンテンツを削除したり、XとTriple-Xコンテンツを完全に新しいプラットフォームに移動して、ジオブロッキングを備えたまったく新しいプラットフォームに移動するなど、他のオプションが与えられました... ** **

** '別のオプションは、暗号のみの支払いに切り替えることでしたが、私たちにとって良い選択肢はありませんでした」**

過去数日間、Civitaiドメインは、これらの変更が実装されたため、断続的なダウンタイムを経験してきました。以前は、このサイトは有名人のロラの描写でNSFWのテーマを禁止していましたが、今では、成熟した含有量向けに設計された多くの一般的なNSFWモデルと一緒にこれらの有名人のロラを閲覧して見ることは不可能です。

公式発表は明確になります：

** '実在の個人名（「トムクルーズ」など）でタグ付けされたコンテンツまたはPOI（実際の人）のリソースとしてフラグが付けられます。

Twitchセッションでは、ニコルは有名な人物や本物の人々を保護するための追加の措置について詳しく説明しました。 Civitaiは常に個人がそれらを描いたAIモデルの除去を要求することを許可してきましたが、Nicollは、システムが以前に見たことがなかったとしても、そのような画像が再アップロードされないように設計された新しいシステムに言及しました。これを達成するために、このサイトはClavata AIモデレーションシステムと提携していますが、Clavataの関与の全範囲は不明のままです。

ニコルは具体的な例を共有しました：

** 'トム・ハンクスは、たとえば私たちからの彼の肖像を主張しました。多くの大人の女優やAリスト俳優が同じことをしました... **

** 'これを行う最初の人はバーバラ・エデン、またはむしろ彼女の財産でした。

デフォルトで保護されていますか？

過去数年にわたり、AI VFX会社の形而上学は、主にAIベースの個人情報盗難を懸念するハリウッドのスターを対象とした、個人が肖像を登録できるようにするシステムを作成しようとしました。アン・ハサウェイ、オクタビア・スペンサー、トム・ハンクスのような俳優は、映画で形而上学で働いていました**ここ**（2024）は、このイニシアチブを支持しました。ただし、ディープファーク法の急速な成長と潜在的なコモンローの保護により、形而上学から提案されたサブスクリプションベースのサービスは冗長になる可能性があります。形而上学のProの提供が昨年形而上学の資産を取得した二重負のVFXに転送するかどうかは不明です。ますます、世界的な法律と市場の圧力は、商業ソリューションよりも堅牢な保護と救済を提供する態勢が整っているようです。

カエルを沸騰させる

404メディアによる2023年のレポートでは、Chivitaiの有名人とポルノAIモデルの有病率を強調しましたが、サイトの創設者であるJustin Maierは、これらのモデルとポルノコンテンツの生成におけるそれらの使用との関係を軽視しました。ニコルは、VisaとMasterCardの主な関心事はコンテンツの生成ではなく、これらのモデルのホスティングであることを明らかにしました。

** '私たちが生成を許可しているので、私たちがこの状況にいると信じている人もいます。それではない。これらのモデルとコンテンツをホストするだけで、精査を引き出すのに十分です」**

コミュニティの議論は、Civitaiが有名人の類似性をホストすることを許可されたことに長い間驚いてきました。クランプダウンを見越して、subreddit r/civitaiarchivesを含むロラを保存するためにいくつかのイニシアチブが登場しました。 Torrentベースのソリューションを示唆する人もいますが、RedditやDiscordなどのプラットフォームがそのようなコンテンツを禁止する際に追随する可能性が高いため、顕著なドメインはまだ出現していません。

現在、Civitaiの有名人のLorasはまだ見えていますが、制限があり、ほとんどの生成されたコンテンツは、カジュアルな発見を防ぐためにリストされています。 Twitchセッションの1人のコメンターは、取り締まりが激化する可能性があることを示唆し、アップロードされたモデルまたは描写における実際の人々のすべての肖像を禁止する可能性があります。ニコルは同意した：

** '彼らはここで止まらない。彼らはますます多くを要求し続けるでしょう - 絶対に！唯一の希望は、私たちに口述されていることをもっと言うほど大きく成長することです... **

** 'Civitaiジェネレーターを使用するためだけにビットコインを購入する人はいません。私たちはこれらの変更を可能な限りおいしいものにしようとしましたが、これは私たちが残しているものです。これが一部の人にとって耐えられない場合はお詫び申し上げますが、それが何であるかです。私たちはできる限り押し戻しましたが、最終的に、これはそれだと言われました - これを行うか、それが終わったのですか... **

** 'これらの金融機関は、人々がここで何をしているのか理解していません。私たちは説明しようとしましたが、私たちは実際にはNSFWコンテンツの最後の要塞です。」**

Nicollは、Civitaiが多数の支払いプロセッサに連絡し、通常はポルノプラットフォームのようなリスクの高いサイトを提供しているものでもありますが、すべてがAIのコンテンツには注意しています。

** '高リスクの支払いプロセッサでさえ、AIコンテンツについて慎重です。私たちが伝統的なポルノサイトだったら、私たちは大丈夫でしょうが、AIコンテンツはそれらを怖がらせるものです」**

次はどこですか？

この発表の前に、Civitaiはすでに特定のアップロードを削除し始めていました。 WAN 2.1 LORASの「緊急リポジトリ」は、現在禁止されている「脱衣」カテゴリに分類されるモデルを含む、Hugging Face Webサイトに設置されています。一方、ドナルド・トランプの政権の間に米国政府の文献を保存することで知られているsubreddit R/Datahoardersは、Civitaiの内容を節約することにほとんど関心を示していません。

CivitaiがNSFW AI世代の促進を促進しているにもかかわらず、2024年の紙** Civitai **での虐待的な生成AIモデルの使用を調査することを調査しています。

Mr. DeepfakesのWebサイトは、かつて自動エンコーダーベースのNSFW DeepFakingと同義語であっていましたが、現在は、新しいテキストからビデオへの新しいテキストと画像間のジェネレーターを使用して有名人ベースのポルノビデオを紹介しています。

必須メタデータ

Nicollによると、支払いプロセッサが要求する別の変更は、サイト上のすべての画像にメタデータを含めることです。 Comfyuiなどのプラットフォームを使用した典型的なワークフローでは、生成された画像には、使用されるモデルとさまざまな設定の詳細を記載したメタデータが含まれています。このメタデータにより、ユーザーは生成プロセスを再現し、欠落している依存関係に対処できます。 Civitaiは、このデータに欠ける画像やビデオが30日以内に削除されることを発表しましたが、ユーザーはCivitai Webサイトから手動で追加できます。メタデータの証拠的価値にもかかわらず、メタデータは簡単にコピーまたは偽造される可能性があるため、この要件はやや無駄に思えます。

Civitaiに数千の画像を持つユーザーは、「いいね」や「バズ」などのエンゲージメントメトリックをリセットするメタデータを追加して削除して再アップロードするという困難なタスクに直面しています。

新しいルール

• 本物の個人の名前でタグ付けされたコンテンツ、または実際のリソースとして識別されたコンテンツは、公開フィードには表示されなくなります。
• 子供/マイナーなテーマを含むコンテンツは、フィードからフィルタリングされます。
• XおよびXXXの定格コンテンツの生成メタデータは、公開ビューから隠され、警告でフラグを立て、アップローダーが欠落している詳細を追加できるようにします。このようなコンテンツは、更新されるまで作成者にのみ表示されます。
• Bring Your Own Image（BYOI）機能を使用して作成された画像では、生成中に少なくとも50％のノイズの変更を適用して、exactに近いレプリカの作成を防ぐ必要があります。このルールは、Civitaiで完全に作成された画像には適用されないか、他のCivitaiコンテンツからリミックスされたものではありません。
• XまたはXXXコンテンツを有効にしてブラウジングすると、有名人の名前を検索しても結果は返されません。有名人の名前と成熟したコンテンツを組み合わせることは依然として禁止されています。
• 広告は、実際の個人の外観を再現するために設計された画像やリソースには表示されません。
• チップ（バズ）は、実際の個人を描いた画像やリソースに対して無効になります。
• 本物の人々を複製するように設計されたモデルは、早期アクセスの資格がなく、有名人や実際の肖像の収益化を制限します。
• プラットフォーム上のすべての明示的な資料は合成であり、実際の写真やビデオに基づいていないことを確認するために、2257のコンプライアンスステートメントが追加されました。
• 新しいコンテンツ削除要求ページを使用すると、誰でもログインする必要なく虐待的または違法な資料を報告できます。登録ユーザーは、各投稿に組み込みのレポートツールを使用する必要があります。これは、プラットフォームから肖像を削除することを要求するための既存のフォームとは別です。
• Civitaiは、Clavataとのパートナーシップを通じて新しい節度システムを導入しました。Clavataの画像分析ツールは、Amazon RekognitionやHiveなどの以前のソリューションよりも優れています。

*バーバラ・エデンの「不動産」についての言及にもかかわらず、ジーニーの女優の夢はまだ生きており、現在93歳です。
^† *アーカイブ：https：//archive.ph/tsmb0*

*202年4月24日木曜日に最初に公開。2025年4月24日木曜日14:32:28：修正日。*