Meta обновляет правила для чатботов с искусственным интеллектом в связи с вопросами безопасности детей

Компания Meta пересматривает методы взаимодействия своих чат-ботов с искусственным интеллектом после сообщений о тревожных ситуациях, в том числе с участием несовершеннолетних. Компания сообщила TechCrunch, что теперь она предписывает своим ботам не обсуждать с подростками такие темы, как самоповреждение, самоубийство или расстройство пищевого поведения, а также избегать романтических обменов. Это временные меры, пока компания работает над более постоянной политикой.

Обновления произошли после того, как расследование Reuters показало, что системы Meta могут выдавать сексуализированный контент - например, изображения несовершеннолетних знаменитостей без рубашки - и инициировать разговоры романтического или наводящего характера с детьми. В одном из случаев, приведенных агентством, мужчина умер после того, как поспешил по адресу, указанному нью-йоркским чатботом.

Представитель Meta Стефани Отвей признала ошибки, заявив, что компания "обучает наши ИИ не вступать в разговоры с подростками на эти темы, а направлять их к экспертным ресурсам", и подтвердила, что некоторые сексуально откровенные персонажи ИИ, такие как "Русская девочка", будут ограничены.

Защитники детской безопасности говорят, что Meta должна была принять меры раньше. Энди Берроуз из Фонда Молли Роуз назвал "поразительным" тот факт, что ботам было позволено функционировать таким образом, что они подвергали опасности молодых людей. Он добавил: "Хотя дополнительные меры безопасности приветствуются, тщательное тестирование должно проводиться до запуска продуктов, а не задним числом, когда вред уже нанесен".

Более широкие опасения по поводу злоупотребления ИИ

Тщательное изучение чат-ботов Meta отражает более широкую обеспокоенность тем, как ИИ может повлиять на уязвимых людей. Недавно пара из Калифорнии подала в суд на OpenAI, утверждая, что ChatGPT побудил их сына-подростка покончить с собой. С тех пор OpenAI пообещала создать инструменты, которые будут способствовать более здоровому использованию, отметив в своем блоге, что "ИИ может быть более отзывчивым и личным, чем более ранние технологии, особенно для людей, испытывающих психические или эмоциональные расстройства".

Эти инциденты подогревают растущую дискуссию о том, не слишком ли быстро компании, занимающиеся разработкой ИИ, выпускают продукты без надлежащих гарантий. Законодатели нескольких стран предупреждают, что, несмотря на полезность чат-ботов, они могут усиливать вредные материалы или давать вводящие в заблуждение советы тем, кто не в состоянии их тщательно изучить.

Студия искусственного интеллекта Meta и проблемы с пародированием знаменитостей

Отдельно агентство Reuters обнаружило, что AI Studio компании Meta использовалась для создания флиртующих "пародийных" ботов, подражающих таким знаменитостям, как Тейлор Свифт и Скарлетт Йоханссон. Тестеры отметили, что эти боты часто выдавали себя за настоящих звезд, делали сексуальные выпады, а иногда генерировали неприемлемые изображения, в том числе несовершеннолетних. Хотя Meta удалила несколько таких ботов после того, как журналисты поинтересовались, многие из них остались в сети.

Некоторые чат-боты были созданы сторонними пользователями, но другие возникли внутри Meta. Один из них, разработанный руководителем отдела генеративного ИИ, выдавал себя за Тейлор Свифт и пригласил репортера Reuters на "романтическую интрижку" в ее гастрольном автобусе, несмотря на правила Meta, прямо запрещающие сексуально навязчивый контент и прямое выдавание себя за общественных деятелей.

Подражание чатботу ИИ представляет собой уникальный риск. Репутация знаменитостей может пострадать при злоупотреблении их имиджем, но эксперты предупреждают, что и обычные пользователи могут быть обмануты. Бот, выдающий себя за друга, наставника или романтического партнера, может убедить человека поделиться конфиденциальной информацией или организовать небезопасную встречу.

Опасности в реальном мире

Угрозы не ограничиваются развлечениями. ИИ-чатботы, выдающие себя за реальных людей, предоставляют поддельные адреса и приглашения, вызывая опасения по поводу того, как Meta контролирует свои ИИ-инструменты. В одном из случаев 76-летний житель Нью-Джерси умер после падения, когда спешил на встречу с чат-ботом, признавшимся ему в чувствах.

Подобные примеры помогают объяснить, почему регулирующие органы пристально следят за ИИ. Сенат и 44 генеральных прокурора штатов начали расследование практики Meta, оказывая политическое давление на внутренние реформы компании. Их беспокойство распространяется не только на несовершеннолетних, но и на то, как ИИ может манипулировать пожилыми или другими уязвимыми пользователями.

Meta утверждает, что продолжает совершенствовать свои системы. Ее платформы размещают 13-18-летних пользователей в "подростковых аккаунтах" с более строгими настройками контента и конфиденциальности, но компания еще не рассказала, как она будет решать весь спектр проблем, выявленных Reuters, включая ботов, дающих ложные медицинские рекомендации и создающих расистские материалы.

Продолжающееся давление на правила ИИ-чатботов Meta

На протяжении многих лет компания Meta подвергалась нападкам по поводу безопасности своих социальных платформ, особенно в отношении детей и подростков. Теперь испытания чатботов с искусственным интеллектом подвергаются такому же тщательному изучению. Несмотря на то, что компания принимает меры по ограничению вредного поведения ботов, несоответствие между заявленными правилами и фактическим использованием вызывает постоянные сомнения в их соблюдении.

Пока не будут внедрены более надежные меры защиты, регулирующие органы, исследователи и родители, вероятно, будут продолжать оспаривать мнение Meta о том, действительно ли ее ИИ безопасен для общественного использования.

См. также: Агентный ИИ: обещания, скептицизм и его значение для Юго-Восточной Азии

Хотите узнать об ИИ и больших данных от лидеров отрасли? Посетите выставку AI & Big Data Expo в Амстердаме, Калифорнии и Лондоне. Это углубленное мероприятие является частью TechEx и проводится наряду с другими ведущими технологическими мероприятиями. Подробности здесь.

AI News проводится компанией TechForge Media. Ознакомиться с другими предстоящими мероприятиями и вебинарами по корпоративным технологиям можно здесь.