Civitai укрепляет правила глубоких положений на фоне давления со стороны MasterCard и Visa

CivitAI, один из самых известных репозиториев моделей ИИ в интернете, недавно внес значительные изменения в свою политику в отношении контента NSFW, особенно касающегося знаменитостей LoRAs. Эти изменения были вызваны давлением со стороны платежных систем MasterCard и Visa. LoRAs знаменитостей, которые представляют собой пользовательские модели, позволяющие создавать изображения известных личностей с помощью ИИ, были популярной функцией на сайте, где доступны сотни или даже тысячи таких моделей, преимущественно с изображениями женщин.

В прямой трансляции на Twitch менеджер по взаимодействию с сообществом CivitAI Аласдер Николь, который также является создателем SFW-моделей, обсудил причины этих изменений в политике. Николь объяснил, что сайт был вынужден подчиниться из-за обеспокоенности платежных систем по поводу взрослого контента и изображений реальных людей. Он намекнул, что Visa и MasterCard могут потребовать еще более строгих мер в будущем:

**«Это не те изменения, которые мы хотели внести. Речь идет о новых и предстоящих законах. Существуют законы о дипфейках и порно с ИИ, которые вызывают у платежных систем, особенно у Visa и MasterCard, опасения по поводу возможных судебных исков, что и стимулирует эти изменения.»**

**«Нам предлагали другие варианты, например, удалить весь контент, не подходящий для работы, или перенести контент категорий X и XXX на совершенно новую платформу с геоблокировкой, учитывая регулирование в более чем половине штатов США, а также во многих азиатских странах и Великобритании...»**

**«Другим вариантом было перейти на платежи только в криптовалюте, но для нас не было хороших вариантов.»**

В последние дни домен CivitAI испытывал периодические перебои в работе, пока эти изменения внедрялись. Ранее сайт запретил NSFW-темы в изображениях LoRAs знаменитостей, но теперь невозможно просматривать и видеть эти LoRAs знаменитостей наряду с множеством общих NSFW-моделей, предназначенных для взрослого контента.

Официальное объявление уточняет:

**«Контент, помеченный именами реальных людей (например, «Том Круз») или отмеченный как ресурсы POI (реальные люди), будет скрыт из лент.»**

В ходе сессии на Twitch Николь подробно рассказал о дополнительных мерах для защиты известных личностей и реальных людей. Хотя CivitAI всегда позволял людям запрашивать удаление моделей ИИ, изображающих их, Николь упомянул новую систему, предназначенную для предотвращения повторной загрузки таких изображений, даже если система их ранее не видела. Для этого сайт сотрудничает с системой модерации Clavata AI, хотя полная степень участия Clavata остается неясной.

Николь привел конкретные примеры:

**«Том Хэнкс, например, заявил права на свое изображение. Многие взрослые актрисы и актеры А-листа сделали то же самое...»**

**«Первым, кто это сделал, была Барбара Эден, точнее, ее наследство — что забавно, потому что она довольно пожилая.»**

Защищены по умолчанию?

За последние пару лет компания Metaphysic, занимающаяся ИИ-визуальными эффектами, пыталась создать систему, позволяющую людям регистрировать свое изображение, в основном ориентированную на голливудских звезд, обеспокоенных кражей личности с помощью ИИ. Актеры, такие как Энн Хэтэуэй, Октавия Спенсер и Том Хэнкс, работавшие с Metaphysic над фильмом **Here** (2024), поддержали эту инициативу. Однако с быстрым ростом законов о дипфейках и потенциальными защитами общего права предлагаемая Metaphysic подписная услуга может стать избыточной. Неясно, будет ли предложение Metaphysic Pro передано Double Negative VFX, которая приобрела активы Metaphysic в прошлом году. Все больше глобальных законов и рыночных давлений, похоже, готовы предложить более надежную защиту и решения, чем коммерческие продукты.

Варка лягушки

Отчет 404 Media за 2023 год подчеркнул распространенность моделей ИИ знаменитостей и порно на CivitAI, хотя основатель сайта Джастин Майер преуменьшал связь между этими моделями и их использованием для создания порнографического контента. Николь уточнил, что главная озабоченность Visa и MasterCard заключается не в создании контента, а в хостинге этих моделей:

**«Некоторые считают, что мы оказались в этой ситуации из-за того, что мы разрешаем создание контента. Это не так. Просто хостинг этих моделей и контента достаточно, чтобы привлечь внимание.»**

Сообщество давно удивлялось, что CivitAI разрешал размещать изображения знаменитостей. В ожидании ужесточения регулирования появилось несколько инициатив по сохранению LoRAs, включая сабреддит r/CivitaiArchives. Хотя некоторые предлагают решение на основе торрентов, пока не появился заметный домен, что, вероятно, вытеснит запрещенный контент на периферию интернета, включая даркнет, поскольку платформы, такие как Reddit и Discord, вероятно, последуют их примеру и запретят такой контент.

В настоящее время LoRAs знаменитостей на CivitAI все еще видны, но с ограничениями, и большая часть созданного контента была исключена из списков, чтобы предотвратить случайное обнаружение. Один из комментаторов в сессии на Twitch предположил, что репрессии могут усилиться, потенциально запретив все изображения реальных людей в загружаемых моделях или изображениях. Николь согласился:

**«Они не остановятся на этом; они будут требовать все больше и больше — абсолютно! Единственная надежда в том, что мы станем достаточно большими, чтобы иметь больше влияния на то, что нам диктуют...»**

**«Никто не будет покупать биткоины только для использования генератора CivitAI. Мы старались сделать эти изменения максимально приемлемыми, но это то, с чем мы остались. Я приношу извинения, если для некоторых это невыносимо, но это так. Мы сопротивлялись, насколько могли, но в итоге нам сказали: это все — делайте это или конец...»**

**«Эти финансовые институты не понимают, что здесь делают люди. Мы пытались объяснить, но мы практически последняя крепость для NSFW-контента.»**

Николь упомянул, что CivitAI обратилась к многочисленным платежным системам, даже к тем, которые обычно обслуживают высокорисковые сайты, такие как порнографические платформы, но все они опасаются контента с ИИ:

**«Даже платежные системы для высокорисковых сайтов осторожны с контентом ИИ. Если бы мы были традиционным порносайтом, у нас бы не было проблем, но контент ИИ — это то, что их пугает.»**

Куда дальше?

До этого объявления CivitAI уже начал удалять некоторые загрузки. На сайте Hugging Face был создан «экстренный репозиторий» для LoRAs Wan 2.1, включая модели, попадающие в теперь запрещенную категорию «раздеть». Тем временем сабреддит r/datahoarders, известный сохранением правительственной литературы США во время администрации Дональда Трампа, проявил мало интереса к сохранению контента CivitAI.

Несмотря на то, что содействие CivitAI в создании NSFW-контента с помощью ИИ отмечалось в академической литературе, например, в статье 2024 года **Exploring the Use of Abusive Generative AI Models on Civitai**, внимание платежных систем сосредоточено не на том, что создается на самом CivitAI, а на том, как эти модели используются в менее регулируемых сообществах.

Веб-сайт Mr. Deepfakes, когда-то ассоциировавшийся с дипфейками NSFW на основе автоэнкодеров, теперь демонстрирует порнографические видео с знаменитостями, использующие новые генераторы текста в видео и изображения в видео, такие как Hunyuan Video и Wan 2.1, которые набирают популярность и, вероятно, вызовут споры по мере роста их пользовательской базы.

Обязательные метаданные

Еще одно изменение, потребованное платежными системами, по словам Николя, — это включение метаданных во все изображения на сайте. В типичных рабочих процессах с использованием платформ, таких как ComfyUI, созданные изображения содержат метаданные, детализирующие используемую модель и различные настройки. Эти метаданные позволяют пользователям воссоздать процесс генерации и устранить любые недостающие зависимости. CivitAI объявил, что любые изображения или видео без этих данных будут удалены в течение тридцати дней, хотя пользователи могут вручную добавить их через веб-сайт CivitAI. Несмотря на доказательную ценность метаданных, это требование кажется несколько бесполезным, поскольку метаданные могут быть легко скопированы или подделаны.

Пользователи с тысячами изображений на CivitAI теперь сталкиваются с сложной задачей ручной аннотации каждого из них или удаления и повторной загрузки с добавленными метаданными, что приведет к сбросу любых метрик вовлеченности, таких как «лайки» или «buzz».

Новые правила

• Контент, помеченный именами реальных людей или идентифицированный как ресурсы реальных людей, больше не будет отображаться в публичных лентах.
• Контент с темами, связанными с детьми/несовершеннолетними, будет отфильтрован из лент.
• Контент категорий X и XXX без метаданных генерации будет скрыт из публичного просмотра и помечен предупреждением, позволяя загрузчику добавить недостающие детали. Такой контент будет виден только его создателю до обновления.
• Изображения, созданные с использованием функции Bring Your Own Image (BYOI), теперь должны применять не менее 50% шумового изменения во время генерации, чтобы предотвратить создание почти точных копий. Это правило не распространяется на изображения, полностью созданные на CivitAI или ремикшированные из другого контента CivitAI, которые могут использовать любой уровень шума.
• При просмотре с включенным контентом X или XXX поиск по именам знаменитостей не даст результатов. Комбинирование имен знаменитостей с взрослым контентом остается запрещенным.
• Реклама не будет отображаться на изображениях или ресурсах, предназначенных для воспроизведения внешности реальных людей.
• Чаевые (Buzz) будут отключены для изображений или ресурсов, изображающих реальных людей.
• Модели, предназначенные для воспроизведения реальных людей, не будут допущены к раннему доступу, ограничивая монетизацию изображений знаменитостей или реальных людей.
• Добавлено заявление о соответствии 2257, подтверждающее, что весь откровенный материал на платформе является синтетическим и не основан на реальных фотографиях или видео.
• Новая страница запроса на удаление контента позволяет любому сообщить о нарушении или незаконном материале без необходимости входа в систему. Зарегистрированные пользователи должны использовать встроенные инструменты отчетности для каждого поста. Это отдельно от существующей формы для запроса удаления своего изображения с платформы.
• CivitAI внедрил новую систему модерации через партнерство с Clavata, чьи инструменты анализа изображений превосходят предыдущие решения, такие как Amazon Rekognition и Hive.

*Несмотря на упоминание «наследства» Барбары Эден, актриса из «Я мечтаю о Джинни» все еще жива, ей сейчас 93 года.*
^†*Архивировано: https://archive.ph/tsMb0*

*Впервые опубликовано в четверг, 24 апреля 2024 года. Исправлено в четверг, 24 апреля 2025 года, 14:32:28: исправлены даты.*