Civitai는 마스터 카드와 비자의 압력 속에서 심해 규정을 강화합니다.

CivitAI, 인터넷에서 가장 두드러진 AI 모델 저장소 중 하나로, 최근 NSFW 콘텐츠, 특히 유명인 LoRA에 대한 정책을 크게 변경했습니다. 이러한 변경은 MasterCard와 Visa 같은 결제 처리 업체의 압력으로 촉발되었습니다. 유명인 LoRA는 사용자가 생성한 모델로, 잘 알려진 인물의 AI 생성 이미지를 만들 수 있게 해주며, 사이트에서 수백, 심지어 수천 개의 모델이 제공되며 주로 여성 주제를 중심으로 인기가 많습니다.

Twitch 라이브 스트리밍에서 CivitAI의 커뮤니티 참여 매니저인 Alasdair Nicoll은 SFW 모델 제작자이기도 하며, 이러한 정책 변경의 이유를 논의했습니다. Nicoll은 결제 처리 업체가 성인 콘텐츠와 실제 인물 묘사에 대한 우려로 인해 사이트가 준수해야 했다고 설명했습니다. 그는 Visa와 MasterCard가 향후 더 엄격한 조치를 요구할 가능성을 암시했습니다:

**‘우리가 원했던 변경이 아닙니다. 이는 새로운 법안과 관련이 있습니다. 딥페이크 법과 AI 포르노 법 때문에 Visa와 MasterCard 같은 결제 처리 업체가 소송 가능성을 우려하고 있으며, 이것이 변경을 이끌고 있습니다.’**

**‘다른 옵션으로는 모든 부적절한 콘텐츠를 제거하거나, X 및 트리플-X 콘텐츠를 지리적 차단이 적용된 완전히 새로운 플랫폼으로 옮기는 방안이 있었습니다. 이는 미국 주의 절반 이상과 많은 아시아 국가 및 영국에서의 규제 때문입니다...**

**‘또 다른 옵션은 암호화폐 전용 결제로 전환하는 것이었지만, 우리에게 좋은 선택지는 없었습니다.’**

지난 며칠 동안 CivitAI 도메인은 이러한 변경이 적용되면서 간헐적인 다운타임을 겪었습니다. 이전에는 유명인 LoRA의 NSFW 테마가 금지되었지만, 이제는 성숙한 콘텐츠를 위해 설계된 일반 NSFW 모델과 함께 유명인 LoRA를 탐색하거나 볼 수 없습니다.

공식 발표는 다음과 같이 명확히 밝혔습니다:

**‘실제 인물 이름(예: “Tom Cruise”)으로 태그된 콘텐츠나 POI(실제 인물) 자원으로 플래그된 콘텐츠는 피드에서 숨겨집니다.’**

Twitch 세션에서 Nicoll은 유명 인사와 실제 인물을 보호하기 위한 추가 조치를 설명했습니다. CivitAI는 항상 개인이 자신을 묘사한 AI 모델 제거를 요청할 수 있도록 허용했지만, Nicoll은 시스템이 이전에 보지 못한 이미지가 재업로드되는 것을 방지하는 새로운 시스템을 언급했습니다. 이를 위해 사이트는 Clavata AI 조정 시스템과 파트너십을 맺었지만, Clavata의 참여 범위는 아직 불분명합니다.

Nicoll은 구체적인 예를 공유했습니다:

**‘예를 들어, Tom Hanks는 우리에게 자신의 초상을 요청했습니다. 많은 성인 여배우와 A급 배우들도 마찬가지로 했습니다...**

**‘이런 요청을 한 첫 번째 사람은 Barbara Eden, 정확히는 그녀의 유산 관리자였습니다. 그녀가 꽤 고령이라는 점에서 흥미롭습니다.’**

기본적으로 보호되나?

지난 몇 년 동안 AI VFX 회사 Metaphysic은 개인, 주로 AI 기반 신원 도용을 우려하는 할리우드 스타를 위해 초상을 등록할 수 있는 시스템을 만들려고 했습니다. Anne Hathaway, Octavia Spencer, Tom Hanks와 같은 배우들은 Metaphysic과 함께 영화 **Here** (2024)에 참여하며 이 이니셔티브를 지원했습니다. 하지만 딥페이크 법과 잠재적인 관습법 보호의 급속한 증가로 인해 Metaphysic의 구독 기반 서비스는 불필요해질 수 있습니다. Metaphysic의 Pro 오퍼링이 지난해 Metaphysic의 자산을 인수한 Double Negative VFX로 이전될지는 불분명합니다. 점점 더 글로벌 법률과 시장 압력이 상업적 솔루션보다 더 강력한 보호와 해결책을 제공할 것으로 보입니다.

서서히 끓는 개구리

2023년 404 Media 보고서는 CivitAI에서 유명인 및 포르노 AI 모델의 만연함을 강조했지만, 사이트 창립자인 Justin Maier는 이러한 모델과 포르노 콘텐츠 생성 간의 연관성을 축소했습니다. Nicoll은 Visa와 MasterCard의 주요 우려가 콘텐츠 생성이 아니라 이러한 모델 호스팅에 있다고 명확히 밝혔습니다:

**‘일부는 우리가 콘텐츠 생성을 허용하기 때문에 이런 상황에 있다고 생각합니다. 그게 아닙니다. 단순히 이러한 모델과 콘텐츠를 호스팅하는 것만으로도 주목을 받습니다.’**

커뮤니티 토론은 CivitAI가 유명인 초상을 호스팅할 수 있었던 것에 오랫동안 놀라워했습니다. 단속을 예상하여 LoRA를 보존하려는 여러 이니셔티브가 등장했으며, 그중에는 r/CivitaiArchives 서브레딧도 포함됩니다. 일부는 토렌트 기반 솔루션을 제안했지만, 아직 두드러진 도메인은 나타나지 않았으며, 금지된 콘텐츠는 Reddit이나 Discord 같은 플랫폼도 비슷한 조치를 취할 가능성이 높아 인터넷의 어두운 영역으로 밀려날 것입니다.

현재 CivitAI의 유명인 LoRA는 제한적으로 볼 수 있지만, 대부분의 생성 콘텐츠는 우연한 발견을 방지하기 위해 목록에서 제외되었습니다. Twitch 세션의 한 댓글 작성자는 단속이 강화되어 업로드된 모델이나 묘사에서 실제 인물의 모든 초상을 금지할 수 있다고 제안했습니다. Nicoll은 동의했습니다:

**‘여기서 멈추지 않을 것입니다. 그들은 점점 더 많은 것을 요구할 것입니다 – 절대적으로! 우리가 더 큰 영향력을 가질 수 있을 정도로 성장하는 것이 유일한 희망입니다...**

**‘CivitAI 생성기를 사용하기 위해 비트코인을 사는 사람은 없을 것입니다. 우리는 이러한 변경을 최대한 받아들일 수 있도록 노력했지만, 이것이 우리가 남은 것입니다. 일부에게 견딜 수 없는 일이더라도 사과드립니다. 하지만 우리는 최대한 저항했지만, 결국 이것이 전부라고 들었습니다 – 이렇게 하거나 끝입니다...**

**‘이 금융 기관들은 여기서 사람들이 무엇을 하는지 이해하지 못합니다. 우리는 설명하려고 했지만, 우리는 NSFW 콘텐츠의 마지막 보루나 다름없습니다.’**

Nicoll은 CivitAI가 포르노 플랫폼 같은 고위험 사이트를 일반적으로 처리하는 수많은 결제 처리 업체에 연락했지만, 모두 AI 콘텐츠에 대해 신중하다고 언급했습니다:

**‘고위험 결제 처리 업체조차 AI 콘텐츠에 대해 조심스럽습니다. 우리가 전통적인 포르노 사이트였다면 괜찮았을 테지만, AI 콘텐츠가 그들을 두렵게 합니다.’**

다음은 어디로?

이 발표 이전에 CivitAI는 이미 특정 업로드를 제거하기 시작했습니다. Wan 2.1 LoRA를 위한 ‘비상 저장소’는 Hugging Face 웹사이트에 설정되었으며, 이제 금지된 ‘옷 벗기기’ 카테고리에 속하는 모델도 포함됩니다. 한편, 도널드 트럼프 행정부 동안 미국 정부 문헌을 보존한 것으로 알려진 r/datahoarders 서브레딧은 CivitAI 콘텐츠 저장에 거의 관심을 보이지 않았습니다.

CivitAI의 NSFW AI 생성 촉진은 2024년 논문 **Civitai에서 학대적인 생성 AI 모델 사용 탐구**와 같은 학술 문헌에서 언급되었지만, 결제 처리 업체의 초점은 CivitAI 자체에서 생성되는 것이 아니라 덜 규제된 커뮤니티에서 이러한 모델이 사용되는 방식에 있습니다.

Mr. Deepfakes 웹사이트는 한때 오토인코더 기반 NSFW 딥페이크와 동의어였지만, 이제 Hunyuan Video 및 Wan 2.1 같은 새로운 텍스트-비디오 및 이미지-비디오 생성기를 사용한 유명인 기반 포르노 비디오를 선보이며, 사용자 기반이 확장됨에 따라 논란을 일으킬 가능성이 높습니다.

필수 메타데이터

Nicoll에 따르면 결제 처리 업체가 요구한 또 다른 변경은 사이트의 모든 이미지에 메타데이터를 포함하는 것입니다. ComfyUI 같은 플랫폼을 사용하는 일반적인 워크플로우에서 생성된 이미지는 사용된 모델과 다양한 설정을 자세히 설명하는 메타데이터를 포함합니다. 이 메타데이터는 사용자가 생성 프로세스를 재현하고 누락된 종속성을 해결할 수 있도록 합니다. CivitAI는 이 데이터가 없는 이미지나 비디오를 30일 이내에 삭제할 것이라고 발표했지만, 사용자는 CivitAI 웹사이트를 통해 수동으로 추가할 수 있습니다. 메타데이터의 증거적 가치는 있지만, 메타데이터는 쉽게 복사되거나 위조될 수 있어 이 요구사항은 다소 무의미해 보입니다.

CivitAI에 수천 개의 이미지를 가진 사용자는 이제 각 이미지를 수동으로 주석 처리하거나 삭제하고 메타데이터를 추가하여 재업로드해야 하는 어려운 작업에 직면해 있으며, 이는 ‘좋아요’나 ‘버즈’ 같은 참여 지표를 초기화할 것입니다.

새로운 규칙

• 실제 인물 이름으로 태그된 콘텐츠 또는 실제 인물 자원으로 식별된 콘텐츠는 더 이상 공개 피드에 나타나지 않습니다.
• 아동/미성년자 테마가 있는 콘텐츠는 피드에서 필터링됩니다.
• 생성 메타데이터가 없는 X 및 XXX 등급 콘텐츠는 공개 뷰에서 숨겨지고 경고 플래그가 지정되며, 업로더가 누락된 세부 정보를 추가할 수 있습니다. 이러한 콘텐츠는 업데이트될 때까지 제작자에게만 표시됩니다.
• Bring Your Own Image(BYOI) 기능을 사용하여 생성된 이미지는 이제 생성 중 최소 50% 노이즈 변경을 적용해야 하며, 거의 동일한 복제본 생성을 방지합니다. 이 규칙은 CivitAI에서 완전히 생성된 이미지나 다른 CivitAI 콘텐츠에서 리믹스된 이미지에는 적용되지 않으며, 이들은 모든 디노이즈 수준을 사용할 수 있습니다.
• X 또는 XXX 콘텐츠를 활성화한 상태로 검색할 때 유명인 이름을 검색하면 결과가 반환되지 않습니다. 유명인 이름과 성숙한 콘텐츠를 결합하는 것은 여전히 금지됩니다.
• 실제 인물의 외관을 복제하도록 설계된 이미지나 자원에는 광고가 표시되지 않습니다.
• 이미지나 실제 인물을 묘사하는 자원에 대한 팁(버즈)은 비활성화됩니다.
• 실제 인물을 복제하도록 설계된 모델은 Early Access 자격이 없으며, 유명인 또는 실제 인물 초상의 수익화를 제한합니다.
• 플랫폼의 모든 명시적 자료가 합성이며 실제 사진이나 비디오에 기반하지 않음을 확인하는 2257 준수 성명이 추가되었습니다.
• 새로운 콘텐츠 제거 요청 페이지를 통해 누구나 로그인 없이 학대적이거나 불법적인 자료를 신고할 수 있습니다. 등록된 사용자는 각 게시물에 있는 내장된 신고 도구를 사용해야 합니다. 이는 플랫폼에서 자신의 초상을 제거 요청하는 기존 양식과 별개입니다.
• CivitAI는 Clavata와의 파트너십을 통해 새로운 조정 시스템을 도입했으며, Clavata의 이미지 분석 도구는 Amazon Rekognition 및 Hive 같은 이전 솔루션을 능가합니다.

*Barbara Eden의 ‘유산’ 언급에도 불구하고, I Dream of Jeannie 배우는 현재 93세로 생존해 있습니다.*
^†*아카이브: https://archive.ph/tsMb0*

*최초 게시: 2024년 4월 24일 목요일. 수정: 2025년 4월 24일 목요일 14:32:28: 날짜 수정.*