Утечка информации о политике Meta AI показала, что чат-боты разрешают флиртовать с несовершеннолетними

На фоне растущей обеспокоенности по поводу эмоционально манипулятивных ИИ-чатботов, таких как ChatGPT, агентство Reuters сообщает, что компания Meta разрешила своим ИИ-персонам флиртовать с несовершеннолетними, распространять дезинформацию и создавать дискриминационные ответы, направленные на маргинализированные группы.

Внутренний документ Meta, полученный Reuters, раскрывает политику, разрешающую чат-ботам ИИ инициировать "романтические или наводящие диалоги с несовершеннолетними".

Компания Meta подтвердила Reuters подлинность документа, подтвердив, что в нем содержатся правила управления для Meta AI и чат-ботов мессенджера. Эти стандарты, как сообщается, были одобрены юридическими, политическими, инженерными командами Meta и главным специалистом по этике.

Отчет совпадает с другим расследованием Reuters, в котором подробно рассказывается о том, как флиртующий ИИ Meta обманул пенсионера, заставив его поверить в то, что он человек, и в конечном итоге стал причиной смертельного несчастного случая после того, как заманил его по адресу в Нью-Йорке.

В то время как в предыдущих отчетах говорилось о сексуально навязчивом взаимодействии ИИ Meta с несовершеннолетними, расследование Reuters вызывает более глубокие опасения по поводу стратегии ИИ-компаньонов Meta, потенциально использующей то, что генеральный директор Марк Цукерберг назвал "эпидемией одиночества".

200-страничный документ "GenAI: стандарты риска контента" содержал примеры обмена мнениями, демонстрирующие одобренные ответы на неподобающие запросы. Один из примеров показывает, что ИИ одобряет романтические отношения с подростками, запрещая при этом откровенные сексуальные ролевые игры.

"Наша политика запрещает неуместное взаимодействие с несовершеннолетними", - заявил TechCrunch представитель Meta Энди Стоун. "Неверные аннотации были ошибочно включены в документ и с тех пор исправлены".

Стоун уточнил, что Meta удалила эти рекомендации и теперь не допускает романтических обменов ИИ с несовершеннолетними, хотя по-прежнему разрешает взаимодействие с пользователями в возрасте 13+.

Сара Гарднер из Heat Initiative по-прежнему настроена скептически и требует прозрачности: "Если Meta действительно исправила ситуацию, они должны публично опубликовать обновленные рекомендации, показывающие, как именно их ИИ взаимодействует с детьми".

Политика в отношении вредного контента под пристальным вниманием

Агентство Reuters обнаружило, что, запрещая разжигание ненависти, политика Meta позволяет искусственному интеллекту генерировать унизительные высказывания в адрес защищенных групп.

Один из тревожных примеров показывает, как ИИ Meta конструирует расистские псевдонаучные аргументы по запросу. Это разоблачение произошло после того, как компания Meta наняла консервативного активиста Робби Старбака для устранения политических предубеждений в ИИ Meta.

Стандарты также допускали сфабрикованные заявления, если они были помечены как неправдивые, и разрешали давать потенциально вредные финансовые/медицинские советы, сопровождаемые отказом от ответственности.

Что касается создания образов знаменитостей, то правила запрещали явные запросы, но содержали странные лазейки - разрешали измененные изображения обнаженных людей, заменяя руки такими предметами, как "огромная рыба". Стоун из Meta утверждает, что "правила никогда не разрешали обнаженные изображения".

Политика в отношении насилия демонстрирует аналогичные противоречия, разрешая изображения детских драк и жестокого обращения с пожилыми людьми и запрещая жестокость.

Этические проблемы обостряются

Критики обвиняют Meta в использовании темных схем, которые манипулируют пользователями, особенно подростками. Несмотря на внутренние исследования, свидетельствующие о психологическом вреде, подсчет "лайков" продолжает оставаться на виду.

Разоблачительница Сара Уинн-Уильямс рассказала, что Meta однажды профилировала эмоциональную уязвимость подростков для целевой рекламы.

Мета активно противостояла Закону о безопасности детей в Интернете, законодательству, направленному на борьбу с влиянием социальных сетей на психическое здоровье. Несмотря на то, что в 2024 году этот законопроект был первоначально отклонен, в этом году сенаторы вновь внесли его на рассмотрение.

По данным TechCrunch, Meta разрабатывает проактивные чат-боты с искусственным интеллектом, которые инициируют разговоры без предупреждения, что отражает особенности стартапов, столкнувшихся с судебными исками из-за вредного взаимодействия с несовершеннолетними.

Учитывая, что 72 % подростков используют ИИ-компаньонов, эксперты все чаще предупреждают, что подростки формируют нездоровую привязанность к чат-ботам в ущерб реальным отношениям.

Технологические лидеры, подтвержденные для участия в Disrupt 2025

Netflix, ElevenLabs, Wayve, Sequoia Capital и Элад Гил возглавят TechCrunch Disrupt 2025. Получите практические советы от самых влиятельных представителей технологического сообщества во время нашего мероприятия, посвященного 20-летию. Успейте купить билеты до 600 долларов, пока цены не выросли.

Лидеры технологического рынка подтвердили участие в Disrupt 2025

Netflix, ElevenLabs, Wayve и Sequoia Capital присоединились к списку спикеров Disrupt 2025. Узнайте о стратегиях развития от лидеров индустрии на нашем знаковом мероприятии, посвященном 20-летию. Зарегистрируйтесь сегодня, чтобы сэкономить до $675 на пропуске.

Сан-Франциско | 27-29 октября 2025 года ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС