Meta подала в суд на приложение Crush AI 'Nudify' из-за рекламы на платформе

Компания Meta подала иск против создателя широко распространенного приложения Crush AI для "обнажения", которое, как утверждается, размещало тысячи рекламных объявлений на платформах Meta. Одновременно с судебным иском Meta объявила о принятии новых мер по борьбе с подобными приложениями, такими как Crush AI.

В иске, поданном в Гонконге, Meta обвинила Joy Timeline HK, компанию, стоящую за Crush AI, в попытке обойти систему проверки рекламы для продвижения услуг по обнажению AI. Согласно сообщению в блоге Meta, компания неоднократно удаляла объявления этой организации за нарушение политики, но Joy Timeline HK упорно создавала новые.

Как сообщает Алексиос Мантсарлис, автор рассылки Faked Up, Crush AI использовал генеративный искусственный интеллект для создания неконсенсусных, сексуально откровенных глубоких подделок реальных людей. По сообщениям, в начале января 2025 года сервис разместил на платформах Meta более 8 000 объявлений о своих инструментах "искусственного интеллекта для раздевания". Анализ, проведенный Мантсарлисом в январе, показал, что почти 90 % трафика веб-сайта Crush AI поступало из Facebook или Instagram, и он лично сообщил о нескольких из этих сайтов в Meta.

Чтобы обойти рекламные гарантии Meta, Crush AI якобы создал десятки аккаунтов рекламодателей и регулярно менял доменные имена. Мантсарлис отметил, что многие аккаунты были помечены как "Eraser Annyone's Clothes", после чего следовали числовые вариации. На одном из этапов сервис даже вел активную страницу в Facebook, продвигая свои предложения.

Facebook и Instagram не одиноки в решении подобных проблем. Такие платформы, как X и Meta, быстро внедряют функции генеративного ИИ, но одновременно пытаются предотвратить создание небезопасной среды, особенно для молодых пользователей.

Исследования показывают, что в 2024 году на платформах, включая X и Reddit, резко возросло количество ссылок на приложения для раздевания с помощью ИИ. Сообщается, что YouTube также показывал рекламу таких приложений миллионам зрителей. В ответ на это Meta и TikTok заблокировали поисковые запросы, связанные с инструментами искусственного интеллекта для обнажения, хотя полностью устранить эти сервисы по-прежнему сложно.

В своем блоге Meta сообщила, что разработала специальную технологию для обнаружения рекламы сервисов искусственного обнажения или раздевания, даже если объявления не содержат откровенных изображений. В настоящее время компания использует системы сопоставления шаблонов для быстрого выявления и удаления дублирующихся объявлений, а также расширяет свой лексикон отмеченных терминов, фраз и эмодзи.

Сэкономьте $200+ на пропуске на TechCrunch All Stage

Создавайте умнее. Масштабируйте быстрее. Общайтесь глубже. Присоединяйтесь к лидерам индустрии из Precursor Ventures, NEA, Index Ventures, Underscore VC и других компаний, чтобы провести день стратегических сессий, семинаров и ценных знакомств.

Сэкономьте $200+ на пропуске на TechCrunch All Stage

Стройте умнее. Масштабируйте быстрее. Общайтесь глубже. Присоединяйтесь к лидерам индустрии из Precursor Ventures, NEA, Index Ventures, Underscore VC и других компаний, чтобы провести день стратегических сессий, семинаров и ценных контактов.

Компания Meta заявила, что применяет уже известные методы разрушения сетей вредоносных агентов к этим новым скоплениям аккаунтов, продвигающих услуги искусственного интеллекта для обнажения. С января 2025 года компания ликвидировала четыре отдельные сети, рекламирующие эти инструменты.

Помимо собственных платформ, Meta начнет делиться информацией о приложениях AI nudify в рамках программы Lantern от Tech Coalition - совместной инициативы с Google, Snap и другими технологическими компаниями по борьбе с сексуальной эксплуатацией детей в Интернете. Meta сообщила, что с марта через эту сеть было передано более 3800 уникальных URL-адресов.

Что касается законодательства, Meta обязалась продолжать поддерживать законы, позволяющие родителям контролировать и одобрять загружаемые подростками приложения. Ранее компания поддержала закон США Take It Down Act и в настоящее время сотрудничает с законодателями по его реализации.