Сенаторы США оказывают давление на компании X, Meta и Alphabet в связи с сексуализированными дипфейками

Кризис в технологической отрасли, связанный с несогласованными сексуализированными дипфейками, теперь выходит далеко за пределы платформы X.

В письме, направленном руководителям компаний X, Meta, Alphabet, Snap, Reddit и TikTok, несколько сенаторов США требуют предоставить доказательства того, что эти компании располагают «надежными механизмами защиты и политиками», а также четкое объяснение того, как они намерены сдерживать распространение сексуализированных дипфейков на своих платформах.

Сенаторы также требуют, чтобы все компании хранили любые документы и информацию, связанные с созданием, обнаружением, модерацией и монетизацией сгенерированных искусственным интеллектом изображений сексуального характера, а также любые соответствующие политики.

Это письмо поступило всего через несколько часов после того, как X объявила об обновлении Grok, запрещающем редактирование изображений, на которых реальные люди изображены в откровенной одежде, а также об ограничении создания и редактирования изображений через Grok только для платных подписчиков. (X и xAI работают под эгидой одной и той же компании.)

Ссылаясь на сообщения СМИ, в которых подробно описывается, насколько легко и часто Grok генерировал изображения сексуального характера и обнаженные изображения женщин и детей, сенаторы отметили, что существующие меры защиты платформ, призванные предотвратить публикацию пользователями изображений сексуального характера без согласия, могут оказаться недостаточными.

«Мы признаем, что многие компании придерживаются политики, направленной против интимных изображений без согласия и сексуальной эксплуатации, и что многие системы искусственного интеллекта заявляют о блокировке откровенной порнографии. Однако на практике, как видно из приведенных выше примеров, пользователи находят способы обойти эти меры безопасности. Или же эти меры не работают», — говорится в письме.

Grok — и, соответственно, X — подвергся резкой критике за то, что способствует этой тенденции, но и другие платформы не застрахованы от подобных проблем.

Включитесь в список ожидания Disrupt 2026

Запишитесь в список ожидания Disrupt 2026, чтобы обеспечить себе приоритетный доступ, когда появятся билеты по ранней продаже. На прошлых мероприятиях Disrupt выступали Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла — это лишь часть списка из более чем 250 лидеров отрасли, которые проведут свыше 200 сессий, призванных стимулировать ваш рост и усилить ваше конкурентное преимущество. Кроме того, вы сможете установить контакты с сотнями стартапов, внедряющих инновации во всех секторах.

Включитесь в список ожидания Disrupt 2026

Запишитесь в список ожидания Disrupt 2026, чтобы получить приоритетный доступ к билетам по ранней продаже, когда они появятся в продаже. На прошлых мероприятиях Disrupt на сцене выступали Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Элад Гил и Винод Хосла — они стали частью состава из более чем 250 лидеров отрасли, которые проведут свыше 200 сессий, призванных стимулировать ваш рост и усилить ваши конкурентные преимущества. Кроме того, вы сможете установить контакты с сотнями стартапов, внедряющих инновации во всех секторах.

Deepfakes впервые привлекли внимание на Reddit, где страница с синтетическими порнографическими видеороликами с участием знаменитостей стала вирусной, прежде чем платформа удалила её в 2018 году. С тех пор количество сексуализированных deepfakes, направленных против знаменитостей и политиков, значительно возросло на TikTok и YouTube, хотя обычно они создаются где-то ещё.

В прошлом году Наблюдательный совет Meta обратил внимание на два случая с откровенными изображениями женщин-публичных личностей, созданными с помощью ИИ, а на платформе размещалась реклама приложений для обнажения — хотя позже компания подала в суд на компанию CrushAI. Поступали многочисленные сообщения о том, что дети распространяют дипфейки своих одноклассников в Snapchat. А Telegram, который не включен в список сенаторов, также стал известен тем, что на его серверах размещаются боты, предназначенные для «раздевания» фотографий женщин.

В ответ на письмо компания X сослалась на своё заявление об обновлении Grok.

«Мы не допускаем и не будем допускать на Reddit никаких интимных материалов, опубликованных без согласия (NCIM), не предлагаем никаких инструментов, способных их создавать, и принимаем активные меры по их выявлению и удалению», — заявил представитель Reddit в заявлении, присланном по электронной почте. «Reddit строго запрещает NCIM, включая изображения, которые были подделаны или сгенерированы с помощью искусственного интеллекта. Мы также запрещаем запрашивать такой контент у других пользователей, делиться ссылками на приложения для «обнажения» или обсуждать способы создания такого контента на других платформах», — добавил представитель.

Компании Alphabet, Snap, TikTok и Meta не ответили на запросы о комментариях сразу.

В письме содержится требование к компаниям предоставить:

• Определения в рамках политики компании таких терминов, как «контент типа дипфейк», «интимные изображения без согласия» или аналогичных терминов.
• Описания политик каждой компании и подхода к их обеспечению в отношении созданных с помощью ИИ дипфейков, изображающих тела людей без их согласия, фотографий без обнаженности, измененной одежды и «виртуального раздевания».
• Описания действующих правил в отношении отредактированных медиафайлов и контента откровенного характера, а также внутренних инструкций, предоставляемых модераторам.
• Информацию о том, как действующие политики регулируют использование инструментов искусственного интеллекта и генераторов изображений в отношении контента сексуального характера или интимного содержания.
• Какие фильтры, защитные механизмы или меры были внедрены для предотвращения создания и распространения дипфейков.
• Какие механизмы используют компании для выявления контента с использованием дипфейков и предотвращения его повторной загрузки.
• Как они предотвращают извлечение пользователями прибыли из такого контента.
• Как платформы предотвращают монетизацию контента, сгенерированного ИИ без согласия участников.
• Как условия предоставления услуг компаний позволяют им блокировать или приостанавливать доступ пользователям, публикующим дипфейки.
• Что делают компании для уведомления жертв о появлении сексуальных дипфейков, созданных без их согласия.

Письмо подписано сенаторами Лизой Блант Рочестер (демократ от штата Делавэр), Тэмми Болдуин (демократ от штата Висконсин), Ричардом Блюменталем (демократ от штата Коннектикут), Кирстен Гиллибранд (демократ от штата Нью-Йорк), Марк Келли (демократ от Аризоны), Бен Рэй Лухан (демократ от Нью-Мексико), Брайан Шац (демократ от Гавайев) и Адам Шифф (демократ от Калифорнии).

Этот шаг был предпринят всего через день после того, как владелец xAI Илон Маск заявил, что ему «не известно о каких-либо изображениях обнажённых несовершеннолетних, сгенерированных Grok». Позже в среду генеральный прокурор Калифорнии начал расследование в отношении чат-бота xAI в связи с растущим давлением со стороны правительств по всему миру, разочарованных отсутствием мер безопасности вокруг Grok, что и привело к подобным инцидентам.

xAI утверждает, что принимает меры по удалению «незаконного контента на X, включая [CSAM] и изображения обнаженных людей без их согласия», хотя ни компания, ни Маск не объяснили, почему Grok вообще было разрешено генерировать такие изображения.

Проблема не ограничивается также только манипулированными изображениями сексуального характера, созданными без согласия. Хотя не все сервисы генерации и редактирования изображений на основе ИИ позволяют пользователям «раздевать» людей, они по-прежнему упрощают создание дипфейков. Например, по имеющимся данным, Sora 2 от OpenAI позволяла пользователям создавать откровенные видео с участием детей; Nano Banana от Google, по-видимому, сгенерировала изображение, на котором Чарли Кирк получает пулю; а расистские видео, созданные с помощью видеомодели ИИ от Google, набирают миллионы просмотров в социальных сетях.

Проблема становится ещё более сложной, когда в дело вступают китайские генераторы изображений и видео. Многие китайские технологические компании и приложения — особенно те, что связаны с ByteDance, — предлагают простые способы редактирования лиц, голосов и видео, и эти материалы распространились на западные социальные платформы. В Китае действуют более строгие требования к маркировке синтетического контента, которых нет на федеральном уровне в США, где люди вместо этого полагаются на разрозненные и несогласованно применяемые правила самих платформ.

Американские законодатели уже приняли ряд законов, направленных на борьбу с порнографией, созданной с помощью дипфейков, но их влияние оказалось ограниченным. Закон «Take It Down Act», вступивший в силу на федеральном уровне в мае, призван криминализировать создание и распространение сексуализированных изображений, созданных без согласия лиц, изображенных на них. Однако ряд положений закона затрудняет привлечение к ответственности платформ, генерирующих изображения, поскольку основная нагрузка по контролю ложится на отдельных пользователей.

Между тем ряд штатов пытается взять дело в свои руки, чтобы защитить потребителей и обеспечить честность выборов. На этой неделе губернатор штата Нью-Йорк Кэти Хочул предложила законы, которые обяжут маркировать контент, сгенерированный искусственным интеллектом, как таковой, и запретят дипфейки, созданные без согласия, в определенные периоды перед выборами, включая изображения кандидатов от оппозиции.