Civitai는 마스터 카드와 비자의 압력 속에서 심해 규정을 강화합니다.

인터넷에서 가장 유명한 AI 모델 리포지토리 중 하나 인 Civitai는 최근 NSFW 컨텐츠, 특히 유명인 Loras에 관한 정책을 크게 변경했습니다. 이러한 변화는 지불 촉진자 마스터 카드 및 비자로 인한 압력으로 인해 발생했습니다. 잘 알려진 개인의 AI 생성 묘사를 만들 수있는 사용자 생성 모델 인 유명인 Loras는이 사이트에서 인기있는 기능으로 수백 또는 수천 개의 이러한 모델을 사용할 수 있으며 주로 여성 주제가 등장했습니다.

SFW 모델의 제작자이기도 한 Civitai의 커뮤니티 참여 관리자 인 Alasdair Nicoll은 Twitch 라이브 스트림에서 이러한 정책 변경의 이유를 논의했습니다. Nicoll 은이 사이트가 성인 콘텐츠에 대한 결제 프로세서의 우려와 실제 사람들의 묘사로 인해 준수해야한다고 설명했습니다. 그는 비자와 마스터 카드가 앞으로 더 엄격한 조치를 요구할 수 있다고 암시했다.

** '이것들은 우리가 만들고 싶었던 변화가 아닙니다. 그것은 새로운 입법에 관한 것입니다. 지불 프로세서, 특히 비자 및 마스터 카드가있는 Deepfake 법률과 AI 포르노 법이 있으며 잠재적 인 소송에 대해 걱정하여 이러한 변경 사항을 주도하고 있습니다. '**

** '우리는 모든 아시아 국가와 영국의 절반 이상의 규정을 감안할 때 모든 안전하지 않은 컨텐츠를 제거하거나 X 및 Triple-X 컨텐츠를 지리적 차단을 통해 완전히 새로운 플랫폼으로 옮기는 것과 같은 다른 옵션을 받았습니다.

** '또 다른 옵션은 암호화 전용 지불로 전환하는 것이었지만 좋은 옵션은 없었습니다.'**

지난 며칠 동안 Civitai 도메인은 이러한 변화가 구현됨에 따라 간헐적 인 다운 타임을 경험했습니다. 이전에는 유명인 LORA 묘사 에서이 사이트가 NSFW 테마를 금지했지만 이제는 성숙한 콘텐츠를 위해 설계된 많은 일반적인 NSFW 모델과 함께이 유명인 Loras를 탐색하고 볼 수 없습니다.

공식 발표는 다음을 명확히합니다.

** '실제 사람 이름 (“Tom Cruise”)이 태그가 지정된 콘텐츠 또는 POI (Real-Person) 리소스로 표시되는 콘텐츠는 피드에서 숨겨집니다.'**

Twitch 세션에서 Nicoll은 유명한 인물과 실제 사람들을 보호하기위한 추가 조치를 자세히 설명했습니다. Civitai는 항상 개인이 묘사 된 AI 모델의 제거를 요청할 수있게 해주었지만 Nicoll은 시스템이 이전에 보지 못하더라도 그러한 이미지가 다시 업로화되는 것을 방지하도록 설계된 새로운 시스템을 언급했습니다. 이를 달성하기 위해이 사이트는 Clavata AI 중재 시스템과 파트너십을 맺고 있지만 Clavata의 참여의 전체 범위는 불분명합니다.

Nicoll 공유 특정 예 :

** 'Tom Hanks는 예를 들어 우리로부터 그의 모습을 주장했습니다. 많은 성인 여배우와 A-리스트 배우가 똑같이했습니다 ... **

** '이 일을 한 첫 번째 사람은 Barbara Eden 또는 오히려 그녀의 재산이었습니다. 그녀는 노인이기 때문에 재미 있습니다.'**

기본적으로 보호합니까?

지난 몇 년 동안 AI VFX Company 형이상학은 AI 기반 신원 도용에 관한 할리우드 스타를 대상으로 개인이 자신의 모습을 등록 할 수있는 시스템을 만들려고 시도했습니다. Anne Hathaway, Octavia Spencer 및 Tom Hanks와 같은 배우는 영화 ** (2024)에서 형이상학을 다루는 Tom Hanks와 같은 배우 들이이 이니셔티브를지지했습니다. 그러나 Deepfake 법률의 빠른 성장과 잠재적 관습법 보호로 인해 형이상학에서 제안 된 구독 기반 서비스가 중복 될 수 있습니다. 형이상학의 프로 오퍼링이 작년에 형이상학 자산을 인수 한 이중 음성 VFX로 이전할지 여부는 확실하지 않습니다. 점점 더 세계 법률과 시장 압력은 상업용 솔루션보다 더 강력한 보호와 구제책을 제공 할 준비가되어있는 것으로 보입니다.

개구리를 끓입니다

404 Media의 2023 보고서는 Civitai에서 유명 인사 및 포르노 AI 모델의 유병률을 강조했지만, 사이트의 창립자 인 Justin Maier는 이러한 모델과 포르노 컨텐츠 생성에 대한 사용 사이의 연결을 경시했습니다. Nicoll은 비자 및 마스터 카드에 대한 주요 관심사가 컨텐츠의 생성이 아니라 이러한 모델의 호스팅이라고 밝혔습니다.

** '일부는 우리가 세대를 허용하기 때문에 우리 가이 상황에 있다고 믿는다. 그건 아니에요. 이러한 모델과 컨텐츠를 주최하는 것만으로도 조사하기에 충분합니다. '**

지역 사회 토론은 Civitai가 유명인의 유사성을 주최 할 수 있다는 사실에 오랫동안 놀랐습니다. 클램프 다운을 기대하면서, 서브 레디 r/civitaiarchives를 포함하여 로라를 보존하기 위해 몇 가지 이니셔티브가 등장했습니다. 일부 사람들은 급류 기반 솔루션을 제안하지만, 눈에 띄는 도메인은 아직 나타나지 않았으며, Reddit 및 Discord와 같은 플랫폼이 그러한 콘텐츠를 금지하는 데 적합 할 가능성이 높기 때문에 Dark Net을 포함하여 인터넷의 변두리에 금지 된 컨텐츠를 밀어 넣을 가능성이 높습니다.

현재 Civitai의 유명 인사 로라는 여전히 보이지만 제한 사항이 있으며, 대부분의 생성 된 콘텐츠는 캐주얼 발견을 방지하기 위해 고정되어 있습니다. Twitch 세션의 한 의견 제시자는 단속이 강화 될 수 있으며, 업로드 된 모델이나 묘사에서 실제 사람들의 모든 모습을 금지 할 수 있다고 제안했습니다. Nicoll은 다음과 동의했습니다.

** '그들은 여기서 멈추지 않을 것입니다. 그들은 점점 더 많은 것을 요구할 것입니다 - 절대적으로! 유일한 희망은 우리가 우리에게 지시하는 것에 더 많은 말을 할만큼 충분히 커질 수 있다는 것입니다 ... **

** '아무도 Civitai Generator를 사용하기 위해 Bitcoin을 사지 않을 것입니다. 우리는 이러한 변화를 최대한 맛있게 만들려고 노력했지만 이것이 우리가 남긴 것입니다. 이것이 참을 수 없다면 사과하지만 그것이 바로 그랬습니다. 우리는 우리가 할 수있는 한 많은 것을 뒤로 밀었지만 궁극적으로 우리는 이것이 IT라고 들었습니다 - 이것을 행하거나 끝났습니다 ... **

** '이 금융 기관은 사람들이 여기서 무엇을하고 있는지 이해하지 못합니다. 우리는 설명하려고 노력했지만 실제로 NSFW 컨텐츠의 마지막 요새입니다. '**

Nicoll은 Civitai가 수많은 결제 프로세서에 연락했으며, 심지어 일반적으로 포르노 플랫폼과 같은 고위험 사이트를 제공하지만 AI 컨텐츠에주의를 기울입니다.

** '고위험 결제 프로세서조차도 AI 컨텐츠에 대해 신중합니다. 우리가 전통적인 포르노 사이트라면 우리는 괜찮을 것이지만 AI 컨텐츠는 그들을 두려워합니다. '**

다음에 어디?

이 발표 전에 Civitai는 이미 특정 업로드를 제거하기 시작했습니다. WAN 2.1 Loras의 '비상 저장소'가 현재 금지 된 '부정'카테고리에 속하는 모델을 포함하여 Hugging Face 웹 사이트에 설정되었습니다. 한편, 도널드 트럼프 행정부에서 미국 정부 문학을 보존하는 것으로 알려진 하위 레디 릿 R/Datahoarders는 Civitai Content를 저축하는 데 관심이 거의 없었습니다.

Civitai의 NSFW AI 세대에 대한 Civitai의 촉진에도 불구하고 Civitai **에서 학대 생성 AI 모델의 사용을 탐구하는 2024 Paper **와 같은 학술 문헌에서 언급되고 있음에도 불구하고, 지불 프로세서의 초점은 Civitai 자체에서 생산되는 것이 아니라 이러한 모델이 규제되지 않은 지역 사회에서 어떻게 사용되는지에 초점을 맞추고 있습니다.

Autoencoder 기반 NSFW Deepfaking과 한때 Mr. Deepfakes 웹 사이트는 이제 Hunyuan Video 및 WAN 2.1과 같은 새로운 텍스트-비디오 및 이미지-비디오 생성기를 사용하여 유명 인사 기반 포르노 비디오를 보여줍니다.

필수 메타 데이터

Nicoll에 따르면 지불 프로세서가 요구하는 또 다른 변경은 사이트의 모든 이미지에 메타 데이터를 포함시키는 것입니다. Comfyui와 같은 플랫폼을 사용하는 일반적인 워크 플로에서 생성 된 이미지에는 사용 된 모델과 다양한 설정에 대한 메타 데이터가 포함되어 있습니다. 이 메타 데이터를 사용하면 사용자가 생성 프로세스를 재현하고 누락 된 종속성을 해결할 수 있습니다. Civitai는이 데이터가없는 이미지 또는 비디오가 30 일 이내에 삭제 될 것이라고 발표했지만 사용자는 Civitai 웹 사이트를 통해 수동으로 추가 할 수 있습니다. 메타 데이터의 증거 가치에도 불구하고,이 요구 사항은 메타 데이터를 쉽게 복사하거나 위조 할 수 있기 때문에 다소 무의미 해 보입니다.

Civitai에 수천 개의 이미지를 가진 사용자는 이제 각각을 수동으로 주석을 달거나 삭제하고 추가 된 메타 데이터로 다시 제출하는 어려운 작업에 직면하여 '좋아요'또는 '버즈'와 같은 참여 메트릭을 재설정합니다.

새로운 규칙

• 실제 개인의 이름으로 태그가 붙거나 실제 자원으로 식별 된 콘텐츠는 더 이상 공개 피드에 나타나지 않습니다.
• 어린이/사소한 테마와의 내용은 피드에서 필터링됩니다.
• 생성 메타 데이터가 부족한 X 및 XXX 등급 컨텐츠는 공개 관점에서 숨겨져 경고로 표시되어 업 로더가 누락 된 세부 사항을 추가 할 수 있습니다. 이러한 콘텐츠는 업데이트 될 때까지 제작자에게만 표시됩니다.
• BYOI (Bring Your Own Image) 기능을 사용하여 생성 된 이미지는 이제 생성 중에 거의 50% 이상의 노이즈 변경을 적용하여 근접한 복제본의 생성을 방지해야합니다. 이 규칙은 전적으로 Civitai에서 생성되거나 다른 Civitai 컨텐츠에서 리믹스 된 이미지에는 적용되지 않으며, 이는 모든 거부 수준을 사용할 수 있습니다.
• X 또는 XXX 컨텐츠를 활성화 한 것으로 탐색하면 유명인 이름을 검색하면 결과가 없습니다. 유명인 이름을 성숙한 콘텐츠와 결합하는 것은 여전히 ​​금지되어 있습니다.
• 광고는 실제 개인의 모양을 복제하도록 설계된 이미지 나 리소스에 나타나지 않습니다.
• 실제 개인을 묘사하는 이미지 나 리소스의 경우 Tipping (Buzz)은 비활성화됩니다.
• 실제 사람들을 복제하도록 설계된 모델은 조기 접근 자격이 없어 유명인이나 실제 인형의 수익 창출을 제한합니다.
• 플랫폼의 모든 명시 적 자료가 합성이며 실제 사진이나 비디오를 기반으로하지 않음을 확인하기 위해 2257 준수 진술이 추가되었습니다.
• 새 콘텐츠 제거 요청 페이지를 사용하면 누구나 로그인 할 필요없이 학대 또는 불법 자료를보고 할 수 있습니다. 등록 된 사용자는 각 게시물에 내장보고 도구를 사용해야합니다. 이것은 플랫폼에서 유사성을 제거하도록 요청하기위한 기존 형식과 별개입니다.
• Civitai는 Clavata와의 파트너십을 통해 새로운 중재 시스템을 도입했으며, 그의 이미지 분석 도구는 Amazon Rekognition 및 Hive와 같은 이전 솔루션을 능가했습니다.

*Barbara Eden의 '부동산'에 대한 언급에도 불구하고 Jeannie 여배우의 I Dream Of Jeannie 여배우는 여전히 살아 있습니다.
^† *보관 : https://archive.ph/tsmb0*

*202 년 4 월 24 일 목요일 첫 번째 출판. 2025 년 4 월 24 일 목요일 14:32:28 : 수정 날짜.*