Civitai укрепляет правила глубоких положений на фоне давления со стороны MasterCard и Visa

Civitai, один из самых выдающихся репозиториев моделей искусственного интеллекта в Интернете, недавно внесла значительные изменения в свои политики в отношении содержания NSFW, особенно в отношении знаменитостей Лораса. Эти изменения были подкреплены давлением со стороны платежных фасилитаторов MasterCard и Visa. Знаменитости Loras, которые являются сгенерированными пользователями моделями, которые позволяют создавать изображения сгенерированных AI хорошо известных людей, были популярной особенностью на сайте, с сотнями или даже тысячами таких моделей, преимущественно с участием женских предметов.

В Twitch Live Stream менеджер по взаимодействию с сообществом Civitai, Аласдейр Николл, который также является создателем моделей SFW, обсудил причины этих изменений в политике. Николл объяснил, что сайт был вынужден соблюдать из -за опасений от процессоров платежей относительно содержания взрослых и изображений реальных людей. Он намекнул, что Visa и Mastercard могут потребовать еще более строгих мер в будущем:

** «Это не изменения, которые мы хотели внести. Это все о новом и предстоящем законодательстве. Существуют законы о глубокости и порно -законы, в которых платежные процессоры, особенно Visa и Mastercard, обеспокоены потенциальными судебными исками, которые стимулируют эти изменения ». **

** «Нам дали другие варианты, такие как удаление всего не безопасного контента для работы, или перемещение контента X и Triple-X на совершенно новую платформу с гео-блокировкой, учитывая правила в более чем половине штатов США, а также многие азиатские страны и Великобританию ... **

** Еще один вариант состоял в том, чтобы переключиться на крипто-платежи, но для нас не было хороших вариантов ». **

За последние несколько дней домен Civitai переживал прерывистое время простоя, поскольку эти изменения были реализованы. Ранее сайт запрещал темы NSFW в изображениях знаменитости Lora, но теперь невозможно просмотреть и увидеть эти знаменитости лора, наряду со многими моделями NSFW, предназначенными для зрелого содержания.

Официальное объявление поясняет:

** 'Контент с меткой реальных имен лиц (например, «Том Круз») или отмечен как ресурсы POI (реального человека), будут скрыты от каналов.' **

На сессии Twitch Nicoll разработал дополнительные меры по защите известных фигур и реальных людей. В то время как Civitai всегда позволял людям запросить удаление моделей ИИ, изображающих их, Николл упомянул новую систему, предназначенную для предотвращения повторной загрузки таких изображений, даже если система не видела их раньше. Чтобы достичь этого, сайт сотрудничает с системой модерации AI Clavata, хотя полная степень участия Clavata остается неясной.

Николл обменился конкретными примерами:

** «Том Хэнкс получил свое сходство от нас. Многие взрослые актрисы и актеры A-List сделали то же самое ... **

** «Первым, кто сделал это, была Барбара Иден, или, скорее, ее имущество - что забавно, потому что она довольно пожилая». **

Защищен по умолчанию?

За последние пару лет метафизическая компания AI VFX пыталась создать систему, позволяющую людям зарегистрировать свое сходство, в основном нацеленные на голливудские звезды, обеспокоенные кражей идентичности на основе искусственного интеллекта. Актеры, такие как Энн Хэтэуэй, Октавия Спенсер и Том Хэнкс, которые работали с Metaphysic в фильме ** здесь ** (2024), поддержали эту инициативу. Однако с быстрым ростом законов о глубокости и потенциальной защите общего права, предлагаемая служба на основе подписки от метафизии может стать избыточной. Неясно, будет ли Pro предложение Metaphysic перенести в двойной отрицательный VFX, который приобрел активы Metaphysic в прошлом году. Все чаще глобальное законодательство и рыночное давление, кажется, готовы предлагать более надежную защиту и средства правовой защиты, чем коммерческие решения.

Кипятить лягушку

В отчете 2023 года 404 СМИ подчеркивались распространенность знаменитостей и моделей порно ИИ на Civitai, хотя основатель сайта, Джастин Майер, преуменьшал связь между этими моделями и их использование в создании порнографического контента. Николл пояснил, что основная забота о Visa и Mastercard - это не поколение контента, а хостинг этих моделей:

** «Некоторые считают, что мы находимся в этой ситуации, потому что мы разрешаем поколение. Это не так. Просто размещать эти модели и контент достаточно, чтобы провести изучение. '**

Общественные дискуссии уже давно удивлялись тем, что Civitai было разрешено принимать знаменитости. В ожидании зажима появились несколько инициатив, чтобы сохранить Лораса, в том числе субреддит R/Civitaiarchives. В то время как некоторые предлагают решение на основе торрента, еще не появилось видного домена, вероятно, выдвигая запрещенный контент на полосы интернета, включая темную сеть, поскольку такие платформы, как Reddit и Discord, вероятно, будут следовать примеру в запрете такого контента.

В настоящее время знаменитости Loras в Civitai все еще видны, но с ограничениями, и большинство генерируемых контента было отменено, чтобы предотвратить повседневное открытие. Один комментатор на сессии Twitch предположил, что репрессия может усилить, потенциально запретив все сходства реальных людей в загруженных моделях или изображениях. Николл согласился:

** «Они не останутся здесь; Они будут продолжать требовать все больше и больше - абсолютно! Единственная надежда - это то, что мы становятся достаточно большими, чтобы больше сказать, что нас продиктовано ... **

** «Никто не собирается купить биткойн, чтобы использовать генератор Civitai. Мы старались сделать эти изменения максимально приемлемыми, но это то, что у нас осталось. Я извиняюсь, если это невыносимо для некоторых, но это то, что есть. Мы отодвинули как можно больше, но в конечном итоге нам сказали, что это так - делай это или все кончено ... **

** «Эти финансовые учреждения не понимают, что люди здесь делают. Мы попытались объяснить, но мы практически последним бастионом для содержания NSFW. '**

Николл упомянул, что Civitai обратился к многочисленным платежным процессорам, даже те, кто обычно обслуживает сайты высокого риска, такие как порнографические платформы, но все опасаются в отношении содержания ИИ:

** Даже обработчики платежей с высоким риском осторожны в отношении содержания искусственного интеллекта. Если бы мы были традиционным порно -сайтом, мы были бы в порядке, но содержание ИИ - это то, что их пугает ». **

Где дальше?

Перед этим объявлением Civitai уже начал удалять определенные загрузки. «Аварийный репозиторий» для WAN 2.1 Loras был создан на веб-сайте Hugbing Face, включая модели, которые попадают в нынешнюю категорию «Donress». Между тем, Subreddit R/Datahoarders, известные тем, что сохранили литературу правительства США во время администрации Дональда Трампа, проявил небольшой интерес к сохранению содержания Civitai.

Несмотря на то, что в академической литературе отмечалось облегчение Civitai, в том, что в академической литературе отмечалось в статье 2024 года **, исследуя использование оскорбительных генеративных моделей ИИ на Civitai **, в центре внимания платежных процессоров сосредоточено не на том, что производится в самом Civitai, а на том, как эти модели используются в менее регулируемых сообществах.

Веб-сайт Mr. Deepfakes, когда-то синонимичный с глубоким фарматом NSFW на основе AutoEncoder, теперь демонстрирует порнографические видео на основе знаменитостей с использованием новых генераторов текста к Video и изображения-видео, такими как Hunyuan Video и WAN 2.1, которые получают тягу и, вероятно, создают противоречия, поскольку их пользователь расширяется.

Обязательные метаданные

По словам Николла, еще одно изменение, требуемое образовательными платежами, - это включение метаданных во все изображения на сайте. В типичных рабочих процессах с использованием таких платформ, как Comfyui, сгенерированные изображения содержат метаданные, детализирующие используемую модель и различные настройки. Эти метаданные позволяют пользователям воссоздать процесс генерации и решать любые недостающие зависимости. Civitai объявил, что любое изображение или видео, не имеющее этих данных, будут удалены в течение тридцати дней, хотя пользователи могут вручную добавить его через веб -сайт Civitai. Несмотря на доказательственную ценность метаданных, это требование кажется несколько бесполезным, так как метаданные могут быть легко скопированы или фальсифицированы.

Пользователи с тысячами изображений на Civitai теперь сталкиваются с сложной задачей вручную аннотировать каждый из них или удалять и повторную загрузку их с помощью добавленных метаданных, что сбросило бы любые показатели взаимодействия, такие как «лайки» или «Buzz».

Новые правила

• Контент, помеченный именами реальных людей или идентифицированные как ресурсы реального лица, больше не будет появляться в общественных каналах.
• Содержание с детьми/незначительными темами будет отфильтрован из кормов.
• Контент с оценкой X и XXX, в которых отсутствует метаданные генерации, будут скрыты от публичного представления и помечены предупреждением, что позволит загрузчику добавить недостающие детали. Такой контент останется видимым только для своего создателя до обновления.
• Изображения, созданные с использованием функции «Принести собственное изображение» (BYOI), теперь должны применять не менее 50% изменение шума во время генерации, чтобы предотвратить создание почти эксплуатационных реплик. Это правило не относится к изображениям, полностью созданным на Civitai или ремиксы из другого контента Civitai, который может использовать любой уровень Denoise.
• При просмотре с включенным контентом X или XXX поиск имен знаменитостей не вернет результатов. Сочетание имен знаменитостей со зрелым содержанием остается запрещенным.
• Рекламные объявления не будут отображаться на изображениях или ресурсах, предназначенных для воспроизведения внешнего вида реальных людей.
• Tipping (Buzz) будет отключено для изображений или ресурсов, которые изображают реальных людей.
• Модели, предназначенные для воспроизведения реальных людей, не будут иметь права на ранний доступ, ограничивая монетизацию знаменитостей или сходства с реальным человеком.
• Было добавлено заявление о соответствии 2257, чтобы подтвердить, что весь явный материал на платформе синтетический и не основан на реальной фотографии или видео.
• Новая страница запроса на удаление контента позволяет любому сообщать о оскорбительных или незаконных материалах без необходимости входа в систему. Зарегистрированные пользователи должны использовать встроенные инструменты отчетности в каждом посте. Это отдельно от существующей формы для запроса удаления сходства с платформы.
• Civitai представила новую систему модерации благодаря партнерству с Clavata, чьи инструменты анализа изображений превосходят предыдущие решения, такие как Amazon Rekognition и Hive.

*Несмотря на упоминание о «поместье» Барбары Эдена, актриса «Я мечтаю о Джанни» еще жива, в настоящее время в возрасте 93 лет.*
^† *Архивировано: https://archive.ph/tsmb0*

*Впервые опубликовано в четверг, 24 апреля 202 года. Поправлено, в четверг, 24 апреля 2025 г. 14:32:28: Исправленные даты.*