Civitai tăng cường các quy định của Deepfake trong bối cảnh áp lực từ Thẻ Mastercard và Visa

Civitai, một trong những kho lưu trữ mô hình AI nổi bật nhất trên Internet, gần đây đã thực hiện những thay đổi đáng kể đối với các chính sách của mình về nội dung NSFW, đặc biệt liên quan đến người nổi tiếng Loras. Những thay đổi này đã được thúc đẩy bởi áp lực từ MasterCard và Visa của người hỗ trợ thanh toán. Người nổi tiếng Loras, là những mô hình do người dùng tạo ra cho phép tạo ra các mô tả do AI tạo ra của các cá nhân nổi tiếng, là một tính năng phổ biến trên trang web, với hàng trăm hoặc thậm chí hàng ngàn mô hình như vậy có sẵn, chủ yếu có các đối tượng nữ.

Trong một luồng trực tiếp Twitch, Giám đốc tham gia cộng đồng của Civitai, Alasdair Nicoll, người cũng là người tạo ra các mô hình SFW, đã thảo luận về những lý do đằng sau những thay đổi chính sách này. Nicoll giải thích rằng trang web đã buộc phải tuân thủ do lo ngại từ các bộ xử lý thanh toán về nội dung người lớn và mô tả của người thật. Ông ám chỉ rằng Visa và Mastercard có thể yêu cầu các biện pháp chặt chẽ hơn trong tương lai:

** 'Đây không phải là những thay đổi mà chúng tôi muốn thực hiện. Đó là tất cả về luật mới và sắp tới. Có luật Deepfake và luật khiêu dâm AI có bộ xử lý thanh toán, đặc biệt là Visa và Mastercard, lo lắng về các vụ kiện tiềm năng, điều này đang thúc đẩy những thay đổi này. '**

** 'Chúng tôi đã được cung cấp các tùy chọn khác, như xóa tất cả nội dung không an toàn cho công việc hoặc chuyển nội dung X và Triple-X sang một nền tảng hoàn toàn mới với việc chặn địa lý, được đưa ra các quy định ở một nửa của Hoa Kỳ, cũng như nhiều quốc gia châu Á và Anh ... **

** 'Một lựa chọn khác là chuyển sang thanh toán chỉ dành cho tiền điện tử, nhưng không có lựa chọn tốt nào cho chúng tôi.' **

Trong vài ngày qua, miền Civitai đã trải qua thời gian ngừng hoạt động không liên tục khi những thay đổi này được thực hiện. Trước đây, trang web đã cấm các chủ đề NSFW trong các mô tả của người nổi tiếng, nhưng bây giờ không thể duyệt và xem những người nổi tiếng này Loras cùng với nhiều mô hình NSFW chung được thiết kế cho nội dung trưởng thành.

Thông báo chính thức làm rõ:

** 'Nội dung được gắn thẻ tên người thật (như là Tom Tom Cruise) hoặc được gắn cờ là tài nguyên POI (người thực) sẽ bị ẩn khỏi nguồn cấp dữ liệu.' **

Trong phiên Twitch, Nicoll đã xây dựng các biện pháp bổ sung để bảo vệ các nhân vật nổi tiếng và người thật. Mặc dù Civitai luôn cho phép các cá nhân yêu cầu loại bỏ các mô hình AI mô tả chúng, Nicoll đã đề cập đến một hệ thống mới được thiết kế để ngăn chặn những hình ảnh đó được tải lại, ngay cả khi hệ thống chưa nhìn thấy chúng trước đây. Để đạt được điều này, trang web đang hợp tác với hệ thống kiểm duyệt AI của Clavata, mặc dù toàn bộ mức độ tham gia của Clavata vẫn chưa rõ ràng.

Nicoll đã chia sẻ các ví dụ cụ thể:

** 'Tom Hanks đã tuyên bố sự giống nhau của anh ấy từ chúng tôi chẳng hạn. Nhiều nữ diễn viên trưởng thành và diễn viên danh sách A đã làm như vậy ... **

** 'Người đầu tiên làm điều này là Barbara Eden, hay đúng hơn là tài sản của cô ấy - điều đó thật thú vị vì cô ấy khá già.' **

Được bảo vệ theo mặc định?

Trong vài năm qua, Metaphysic của Công ty AI VFX đã cố gắng tạo ra một hệ thống cho phép các cá nhân đăng ký sự giống nhau của họ, chủ yếu nhắm vào các ngôi sao Hollywood liên quan đến hành vi trộm cắp danh tính dựa trên AI. Các diễn viên như Anne Hathaway, Octavia Spencer và Tom Hanks, những người đã làm việc với siêu hình trên bộ phim ** Tại đây ** (2024), ủng hộ sáng kiến ​​này. Tuy nhiên, với sự tăng trưởng nhanh chóng của luật Deepfake và các biện pháp bảo vệ luật chung tiềm năng, dịch vụ dựa trên thuê bao được đề xuất từ ​​siêu hình có thể trở nên dư thừa. Không rõ liệu đề nghị chuyên nghiệp của Metaphysic sẽ chuyển sang Double Negative VFX, nơi có được tài sản của Metaphysic vào năm ngoái. Càng ngày, luật pháp toàn cầu và áp lực thị trường dường như đã sẵn sàng để cung cấp sự bảo vệ và biện pháp khắc phục mạnh mẽ hơn so với các giải pháp thương mại.

Đun sôi ếch

Một báo cáo năm 2023 của 404 Media đã nhấn mạnh sự phổ biến của các mô hình AI nổi tiếng và khiêu dâm trên Civitai, mặc dù người sáng lập trang web, Justin Maier, đã hạ thấp kết nối giữa các mô hình này và việc sử dụng chúng trong việc tạo nội dung khiêu dâm. Nicoll đã làm rõ rằng mối quan tâm chính của Visa và MasterCard không phải là việc tạo nội dung mà là việc lưu trữ các mô hình này:

** 'Một số người tin rằng chúng ta đang ở trong tình huống này vì chúng ta cho phép tạo ra. Đó không phải là nó. Đơn giản chỉ cần lưu trữ các mô hình và nội dung này là đủ để thu hút sự giám sát. '**

Các cuộc thảo luận cộng đồng từ lâu đã ngạc nhiên khi Civitai được phép tổ chức sự giống nhau của người nổi tiếng. Trong dự đoán về một kẹp chặt, một số sáng kiến ​​đã xuất hiện để bảo tồn Loras, bao gồm cả Subreddit R/Civitaiarchives. Mặc dù một số người đề xuất một giải pháp dựa trên torrent, nhưng không có miền nổi bật nào xuất hiện, có khả năng đẩy nội dung bị cấm vào rìa của Internet, bao gồm cả Dark Net, vì các nền tảng như Reddit và Discord có thể phù hợp với việc cấm nội dung đó.

Hiện tại, người nổi tiếng Loras tại Civitai vẫn có thể nhìn thấy nhưng với các hạn chế, và hầu hết nội dung được tạo ra đã được liệt kê để ngăn chặn khám phá thông thường. Một người bình luận trong phiên Twitch cho thấy rằng cuộc đàn áp có thể tăng cường, có khả năng cấm tất cả sự giống nhau của người thật trong các mô hình được tải lên hoặc mô tả. Nicoll đồng ý:

** 'Họ sẽ không dừng lại ở đây; Họ sẽ tiếp tục đòi hỏi nhiều hơn và nhiều hơn nữa - hoàn toàn! Hy vọng duy nhất là chúng ta phát triển đủ lớn để có nhiều tiếng nói hơn về những gì được quyết định với chúng ta ... **

** 'Không ai sẽ mua Bitcoin chỉ để sử dụng máy phát điện Civitai. Chúng tôi đã cố gắng thực hiện những thay đổi này một cách ngon miệng nhất có thể, nhưng đây là những gì chúng tôi còn lại. Tôi xin lỗi nếu điều này không thể chịu đựng được đối với một số người, nhưng đó là những gì nó là. Chúng tôi đã đẩy lùi nhiều nhất có thể, nhưng cuối cùng, chúng tôi đã nói rằng đây là nó - làm điều này hoặc nó đã kết thúc ... **

** 'Những tổ chức tài chính này không hiểu mọi người đang làm gì ở đây. Chúng tôi đã cố gắng giải thích, nhưng thực tế chúng tôi là pháo đài cuối cùng cho nội dung NSFW. '**

Nicoll đã đề cập rằng Civitai đã liên hệ với nhiều bộ xử lý thanh toán, ngay cả những người thường phục vụ các trang web có nguy cơ cao như nền tảng khiêu dâm, nhưng tất cả đều cảnh giác với nội dung AI:

** 'Ngay cả bộ xử lý thanh toán có rủi ro cao cũng thận trọng về nội dung AI. Nếu chúng ta là một trang web khiêu dâm truyền thống, chúng ta sẽ ổn, nhưng nội dung AI là điều khiến họ sợ hãi. '**

Tiếp theo ở đâu?

Trước thông báo này, Civitai đã bắt đầu xóa một số tải lên nhất định. Một 'kho lưu trữ khẩn cấp' cho WAN 2.1 LORAS đã được thiết lập trên trang web Hugging Face, bao gồm cả các mô hình rơi vào danh mục 'cởi quần áo' đã bị cấm. Trong khi đó, Subreddit R/Datahoarders, được biết đến với việc bảo tồn văn học chính phủ Hoa Kỳ trong chính quyền của Donald Trump, đã cho thấy rất ít sự quan tâm trong việc cứu nội dung Civitai.

Mặc dù việc tạo thuận lợi cho thế hệ AI NSFW của Civitai được ghi nhận trong tài liệu học thuật, chẳng hạn như bài báo năm 2024 ** Khám phá việc sử dụng các mô hình AI thế hệ lạm dụng trên Civitai **, trọng tâm của các bộ xử lý thanh toán không phải là những gì được sản xuất tại Civitai mà là cách các mô hình này được sử dụng trong các cộng đồng được điều chỉnh ít hơn.

Trang web của ông Deepfakes, từng đồng nghĩa với NSFW Deepfaking dựa trên tự động, hiện giới thiệu các video khiêu dâm dựa trên người nổi tiếng sử dụng các trình tạo văn bản đến video và hình ảnh mới như Hunyuan Video và WAN 2.1, đang đạt được sức hút và có khả năng tạo ra tranh cãi khi cơ sở người dùng của họ mở rộng.

Siêu dữ liệu bắt buộc

Một thay đổi khác được yêu cầu bởi các bộ xử lý thanh toán, theo Nicoll, là việc đưa siêu dữ liệu vào tất cả các hình ảnh trên trang web. Trong các quy trình công việc điển hình sử dụng các nền tảng như COMFYUI, hình ảnh được tạo có chứa siêu dữ liệu chi tiết mô hình được sử dụng và các cài đặt khác nhau. Siêu dữ liệu này cho phép người dùng tái tạo quy trình tạo và giải quyết mọi phụ thuộc bị thiếu. Civitai đã thông báo rằng bất kỳ hình ảnh hoặc video nào thiếu dữ liệu này sẽ bị xóa trong vòng ba mươi ngày, mặc dù người dùng có thể thêm thủ công thông qua trang web Civitai. Mặc dù giá trị bằng chứng của siêu dữ liệu, yêu cầu này có vẻ hơi vô ích, vì siêu dữ liệu có thể dễ dàng được sao chép hoặc làm sai lệch.

Người dùng có hàng ngàn hình ảnh trên Civitai hiện phải đối mặt với nhiệm vụ khó khăn là chú thích thủ công từng cái hoặc xóa và tải lại chúng bằng siêu dữ liệu được thêm vào, sẽ thiết lập lại bất kỳ số liệu tham gia nào như 'lượt thích' hoặc 'buzz'.

Các quy tắc mới

• Nội dung được gắn thẻ với tên của cá nhân thực hoặc được xác định là tài nguyên người thực sẽ không còn xuất hiện trong các nguồn cấp dữ liệu công cộng.
• Nội dung với các chủ đề trẻ em/nhỏ sẽ được lọc ra khỏi nguồn cấp dữ liệu.
• Nội dung được xếp hạng X và XXX thiếu siêu dữ liệu thế hệ sẽ được ẩn khỏi chế độ xem công khai và được gắn cờ với cảnh báo, cho phép người tải lên thêm các chi tiết bị thiếu. Nội dung như vậy sẽ chỉ hiển thị cho người tạo của nó cho đến khi được cập nhật.
• Hình ảnh được tạo bằng tính năng mang hình ảnh của riêng bạn (BYOI) phải áp dụng ít nhất 50% tiếng ồn trong quá trình tạo để ngăn chặn việc tạo ra các bản sao gần như xuất hiện. Quy tắc này không áp dụng cho các hình ảnh được tạo ra hoàn toàn trên Civitai hoặc được phối lại từ nội dung Civitai khác, có thể sử dụng bất kỳ cấp độ Denoise nào.
• Khi duyệt với nội dung X hoặc XXX được bật, việc tìm kiếm tên người nổi tiếng sẽ không trả về kết quả. Kết hợp tên người nổi tiếng với nội dung trưởng thành vẫn bị cấm.
• Quảng cáo sẽ không xuất hiện trên hình ảnh hoặc tài nguyên được thiết kế để tái tạo sự xuất hiện của các cá nhân thực sự.
• Tipping (Buzz) sẽ bị vô hiệu hóa cho hình ảnh hoặc tài nguyên mô tả các cá nhân thực.
• Các mô hình được thiết kế để tái tạo người thật sẽ không đủ điều kiện để tiếp cận sớm, hạn chế việc kiếm tiền từ sự giống nhau của người nổi tiếng hoặc người thực.
• Một tuyên bố tuân thủ 2257 đã được thêm vào để khẳng định rằng tất cả các tài liệu rõ ràng trên nền tảng là tổng hợp và không dựa trên nhiếp ảnh hoặc video thực sự.
• Một trang yêu cầu loại bỏ nội dung mới cho phép bất cứ ai báo cáo tài liệu lạm dụng hoặc bất hợp pháp mà không cần phải đăng nhập. Người dùng đã đăng ký nên sử dụng các công cụ báo cáo tích hợp trên mỗi bài đăng. Điều này tách biệt với biểu mẫu hiện có để yêu cầu loại bỏ sự giống nhau của một người khỏi nền tảng.
• Civitai đã giới thiệu một hệ thống kiểm duyệt mới thông qua quan hệ đối tác với Clavata, người có các công cụ phân tích hình ảnh vượt trội so với các giải pháp trước đây như Amazon Rekognition và Hive.

*Mặc dù đề cập đến 'Bất động sản' của Barbara Eden, nhưng tôi mơ thấy nữ diễn viên Jeannie vẫn còn sống, hiện đang ở tuổi 93.**
^† *Lưu trữ: https://archive.ph/tsmb0*

*Xuất bản lần đầu vào thứ Năm, ngày 24 tháng 4 năm 202. Sửa đổi Thứ Năm, ngày 24 tháng 4 năm 2025 14:32:28: Ngày sửa chữa.*