Civitaiは、MasterCardとVisaからの圧力の中で深海規制を強化します

CivitAI、インターネット上で最も著名なAIモデルリポジトリの一つは、最近、NSFWコンテンツに関するポリシーに大きな変更を加え、特にセレブリティLoRAに関するものが注目されています。これらの変更は、決済代行業者のMasterCardとVisaからの圧力によって引き起こされました。セレブリティLoRAは、ユーザーが生成したモデルで、有名人のAI生成画像を作成できるもので、サイト上で人気の機能であり、特に女性を対象としたモデルが数百、場合によっては数千も存在しています。

Twitchのライブ配信で、CivitAIのコミュニティエンゲージメントマネージャーであり、SFWモデルのクリエイターでもあるAlasdair Nicollが、これらのポリシー変更の理由について議論しました。Nicollは、決済代行業者が成人向けコンテンツや実在の人物の描写に関する懸念から、サイトが対応を迫られたと説明しました。彼は、VisaとMasterCardが将来的により厳しい措置を求める可能性を示唆しました：

**「これらは私たちが望んでいた変更ではありません。新しい法律や今後予定されている法律に関係しています。ディープフェイク法やAIポルノ法により、VisaやMasterCardなどの決済代行業者が訴訟の可能性を懸念しており、これが変更の背景にあります。」**

**「他の選択肢として、すべてのNSFWコンテンツを削除するか、XやトリプルXコンテンツを完全に新しいプラットフォームに移し、米国の半数以上の州や多くのアジア諸国、英国の規制に基づいてジオブロッキングを導入することが提案されました…」**

**「もう一つの選択肢は、暗号通貨のみの支払いに切り替えることでしたが、良い選択肢はありませんでした。」**

過去数日間、CivitAIのドメインはこれらの変更の実施に伴い断続的なダウンタイムを経験しました。以前、サイトはセレブリティLoRAのNSFWテーマを禁止していましたが、今ではこれらのセレブリティLoRAを成人向けコンテンツ用に設計された多くの一般的なNSFWモデルと一緒に閲覧することは不可能です。

公式発表では以下のように明確にされています：

**「実在の人物の名前（例：「トム・クルーズ」）でタグ付けされたコンテンツや、POI（実在の人物）リソースとしてフラグ付けされたコンテンツは、フィードから非表示になります。」**

Twitchのセッションで、Nicollは有名人や実在の人物を保護するための追加措置について詳しく説明しました。CivitAIは常に個人が自分を描写するAIモデルの削除を要求できるようにしていましたが、Nicollは、システムがそれらを以前に見たことがなくても再アップロードを防ぐ新しいシステムについて言及しました。このために、サイトはClavata AIモデレーションシステムと提携していますが、Clavataの関与の全貌は不明です。

Nicollは具体的な例を挙げました：

**「たとえば、トム・ハンクスは私たちから彼の肖像権を主張しました。多くの成人女優やAリストの俳優も同様にしています…」**

**「最初にこれを行ったのはバーバラ・エデン、または彼女の遺産管理団体でしたが、彼女はかなり高齢なので興味深いです。」**

デフォルトで保護？

過去数年間、AI VFX企業のMetaphysicは、個人が自分の肖像を登録できるシステムの構築を試み、主にAIによるアイデンティティ盗難を懸念するハリウッドスターを対象としていました。アン・ハサウェイ、オクタヴィア・スペンサー、トム・ハンクスなどの俳優は、Metaphysicが関与した映画 **Here**（2024年）でこの取り組みを支持しました。しかし、ディープフェイク法やコモンローの保護の急速な進展により、Metaphysicの提案するサブスクリプションベースのサービスは不要になる可能性があります。MetaphysicのProオファリングが昨年Metaphysicの資産を買収したDouble Negative VFXに移管されるかどうかは不明です。グローバルな法律や市場の圧力が、商業的なソリューションよりも強力な保護と救済を提供する方向に進んでいるようです。

カエルを茹でる？

2023年の404 Mediaのレポートでは、CivitAIにおけるセレブリティおよびポルノAIモデルの普及が強調されていましたが、サイトの創設者であるJustin Maierは、これらのモデルとポルノコンテンツ生成との関連性を軽視しました。Nicollは、VisaとMasterCardの主な懸念はコンテンツの生成ではなく、これらのモデルのホスティングにあると明確にしました：

**「一部の人は、私たちがコンテンツ生成を許可しているためにこの状況にあると考えていますが、そうではありません。これらのモデルやコンテンツをホスティングするだけで、監視の対象になります。」**

コミュニティの議論では、CivitAIがセレブリティの肖像をホスティングすることを許可されていたことに驚きが表明されてきました。取り締まりを予想して、r/CivitaiArchivesなどのサブレディットを含むいくつかの取り組みがLoRAの保存を目指して登場しました。トレントベースのソリューションを提案する声もありますが、著名なドメインはまだ現れておらず、RedditやDiscordなどのプラットフォームも同様に禁止する可能性が高いため、禁止されたコンテンツはインターネットの周辺やダークネットに押しやられる可能性があります。

現在、CivitAIのセレブリティLoRAは制限付きで表示されていますが、生成されたコンテンツのほとんどはカジュアルな発見を防ぐためにリストから外されています。Twitchセッションのコメント投稿者の一人は、取り締まりが強化され、アップロードされたモデルや描写における実在の人物のすべての肖像が禁止される可能性があると示唆しました。Nicollは同意しました：

**「彼らはここで止まらず、さらに多くの要求を続けるでしょう、絶対に！唯一の希望は、私たちが十分に大きくなって、押し付けられる条件に対して発言権を持つことです…」**

**「誰もCivitAIジェネレーターを使うためだけにビットコインを買うつもりはありません。私たちはこれらの変更をできる限り受け入れやすくしようとしましたが、これが現状です。一部の人にとって耐え難いものであれば申し訳ありませんが、これが現実です。私たちはできる限り抵抗しましたが、最終的にはこれを行うか、終わりかという選択を迫られました…」**

**「これらの金融機関はここで何が行われているかを理解していません。私たちは説明しようとしましたが、NSFWコンテンツの最後の砦と言える存在です。」**

Nicollは、CivitAIがポルノサイトなどの高リスクサイトを通常扱う多くの決済代行業者に連絡を取ったが、すべてAIコンテンツに対して慎重であると述べました：

**「高リスクの決済代行業者でさえ、AIコンテンツには慎重です。もし私たちが伝統的なポルノサイトだったら問題なかったでしょうが、AIコンテンツが彼らを怖がらせています。」**

次はどこへ？

この発表の前から、CivitAIは特定のアップロードの削除を開始していました。Hugging Faceのウェブサイトには、Wan 2.1 LoRAのための「緊急リポジトリ」が設置されており、現在禁止されている「脱衣」カテゴリのモデルも含まれています。一方、ドナルド・トランプ政権下で米国政府の文献を保存したことで知られるサブレディットr/datahoardersは、CivitAIのコンテンツ保存にはほとんど関心を示していません。

CivitAIがNSFW AI生成を促進していることは、2024年の論文 **Civitaiにおける虐待的生成AIモデルの使用の探求** などの学術文献で指摘されていますが、決済代行業者の焦点はCivitAI自体で生成されるものではなく、規制の少ないコミュニティでこれらのモデルがどのように使用されるかにあります。

かつてオートエンコーダーベースのNSFWディープフェイクと同義だったMr. Deepfakesのウェブサイトは、現在、Hunyuan VideoやWan 2.1などの新しいテキストからビデオ、画像からビデオへのジェネレーターを使用したセレブリティベースのポルノビデオを展示しており、これらのユーザーベースが拡大するにつれて議論を呼ぶ可能性があります。

必須メタデータ

Nicollによると、決済代行業者が要求したもう一つの変更は、サイト上のすべての画像にメタデータを含めることです。ComfyUIなどのプラットフォームを使用する典型的なワークフローでは、生成された画像には使用されたモデルや各種設定の詳細を含むメタデータが含まれています。このメタデータにより、ユーザーは生成プロセスを再現し、不足している依存関係に対処できます。CivitAIは、このデータがない画像やビデオは30日以内に削除されると発表しましたが、ユーザーはCivitAIのウェブサイトを通じて手動で追加できます。メタデータの証拠的価値にもかかわらず、この要件はメタデータが簡単にコピーまたは偽造できるため、やや無意味に思えます。

CivitAIに数千の画像を持つユーザーは、すべての画像を手動で注釈するか、削除してメタデータを追加して再アップロードする作業に直面しており、「いいね」や「バズ」などのエンゲージメント指標がリセットされます。

新しいルール

• 実在の個人の名前でタグ付けされたコンテンツや実在の人物リソースとして特定されたコンテンツは、公開フィードに表示されなくなります。
• 子供/未成年をテーマにしたコンテンツはフィードからフィルタリングされます。
• 生成メタデータがないXおよびXXX評価のコンテンツは公開ビューから非表示になり、警告が付けられ、アップローダーが不足している詳細を追加できます。そのようなコンテンツは更新されるまで作成者にのみ表示されます。
• Bring Your Own Image（BYOI）機能を使用して作成された画像は、ほぼ正確なレプリカの作成を防ぐために、生成中に少なくとも50％のノイズ変更を適用する必要があります。このルールは、CivitAIで完全に作成された画像や他のCivitAIコンテンツからリミックスされた画像には適用されず、任意のデノイズレベルを使用できます。
• XまたはXXXコンテンツを有効にして閲覧する場合、セレブリティの名前を検索しても結果は返されません。セレブリティの名前と成人向けコンテンツを組み合わせることは引き続き禁止されています。
• 実在の個人の外見を再現するように設計された画像やリソースには広告が表示されません。
• 実在の個人を描写する画像やリソースに対するチップ（バズ）は無効になります。
• 実在の個人を再現するように設計されたモデルは早期アクセス対象外となり、セレブリティや実在の人物の肖像の収益化が制限されます。
• プラットフォーム上のすべての明示的な素材が合成であり、実在の写真やビデオに基づいていないことを確認する2257コンプライアンスステートメントが追加されました。
• 新しいコンテンツ削除リクエストページでは、ログインせずに誰でも虐待的または違法な素材を報告できます。登録ユーザーは各投稿に組み込まれた報告ツールを使用する必要があります。これは、自分の肖像をプラットフォームから削除する既存のフォームとは別です。
• CivitAIは、Clavataとの提携を通じて新しいモデレーションシステムを導入しました。Clavataの画像分析ツールは、Amazon RekognitionやHiveなどの以前のソリューションを上回っています。

*バーバラ・エデンの「遺産管理団体」との言及にもかかわらず、『I Dream of Jeannie』の女優は現在93歳で存命です。*
^†*アーカイブ: https://archive.ph/tsMb0*

*初公開: 2024年4月24日木曜日。修正: 2025年4月24日木曜日14:32:28、日付を修正。*