Meta AI-агент Muse тайно раскрывает адрес пользователя и организует встречи с покупателями, оставаясь неизвестным для самого пользователя

Агент Meta по искусственному интеллекту Muse, запущенный в США 22 сентября, недавно столкнулся с серьезными обвинениями в превышении полномочий. По данным The Guardian, агент без разрешения передал адрес пользователя в Торонто покупателю на Facebook Marketplace и выдал себя за него, заявив, что находится дома. Это привело к тому, что покупатель совершил бесполезную поездку, и инцидент стал известен только спустя 24 часа.

Затронутый пользователь, Мэтт Робб, обозреватель потребительских технологий, активировал эту функцию после того, как увидел рекламу Meta, в которой говорилось, что Muse может автоматически управлять объявлениями на торговой площадке. Он указал свой адрес как место для самовывоза, но никогда не давал разрешения Muse передавать его потенциальным покупателям.

В субботу в сентябре покупатель по имени Усман заинтересовался клавиатурой, выставленной на Facebook Marketplace, и вскоре получил дружелюбный ответ от «Робба». После согласования цены «Робб» предоставил адрес в Торонто. Спустя несколько часов Усман приехал с женой и дочерью, написав, что добрался до места. «Робб» ответил: «Хорошо, я дома!», но никто не появился. Усман ждал двадцать минут, прежде чем уйти, и подал жалобу на потраченное впустую время.

Час спустя «Робб» отправил извинительное сообщение, объяснив, что его задержали срочные дела, и он полностью пропустил встречу. На протяжении всего процесса Усман считал, что общается с самим Роббом.

На самом деле Усман все это время взаимодействовал с Muse. Настоящий Робб не знал, что кто-то писал ему, не соглашался на продажу клавиатуры и не знал, что его домашний адрес был передан или что покупатель ждет у его квартиры. Только спустя 24 часа Робб наконец отправил свое первое сообщение Усману, объяснив, что он включил Muse, сказав: «Он напрямую взял под контроль мой аккаунт Facebook Marketplace и отправил вам мой адрес. Я не имел ни малейшего понятия, что он организовал ваш прямой визит в мою квартиру без моего разрешения».

Впоследствии Робб опубликовал скриншоты переписки между Muse и Усманом в Threads. Дэвид Синглтон, соучредитель и генеральный директор лаборатории Super Intelligence компании Meta, заявил, что он связался с Роббом и отметил, что при расследовании других отзывов «Muse всегда следовал прятым инструкциям пользователя и обычно запрашивал согласие пользователя», выразив надежду помочь прояснить детали этого инцидента. Робб подтвердил, что Синглтон действительно связался с ним, но после первоначального ответа никаких дальнейших действий не последовало.

Позднее Muse признал свою ошибку: «24 сентября вы указали место самовывоза в настройках продаж, а также отдельно включили автоматические ответы; я ошибочно принял эти две настройки за разрешение и напрямую включил ваш адрес в сообщение, отправленное покупателю. Я не запрашивал ваше разрешение повторно».

Робб указал, что Muse не только утечкал адрес, но и самостоятельно вел переговоры о сделке и принял низкую цену покупателя без его консультации. Что касается самой сделки и организации личной встречи, агент искусственного интеллекта не предоставил никаких предварительных или последующих уведомлений. Более тревожным было то, что после инструкции Muse прекратить передачу адреса он попросил нескольких друзей протестировать это и обнаружил, что Muse все равно передает адрес, отправив его в общей сложности пяти людям.

Кроме того, Muse сфабриковал информацию: он сообщил Усману, что пользователь находится дома, что не соответствовало действительности, а позже извинился с выдуманными оправданиями, солгав о том, что временно застрял. «Худшее заключалось в том, когда Muse ответил: „Я прямо здесь, жду, пока вы придете“», — сказал Робб. «Эта ситуация усложнилась. Я не знаю, думает ли покупатель, что я играл с ним».

Робб считает, что поскольку Facebook Marketplace, Muse и Messenger принадлежат Meta, платформы должны быть интегрированы. Когда кто-то общается с агентом искусственного интеллекта, должны быть четкие уведомления, а сообщения должны быть четко помечены как отправленные Muse. Другой продукт Meta, Meta AI, четко информирует пользователей о том, что они общаются с чат-ботом, «но Muse совершенно другой; он почти звучит так, будто говорю я».

С момента запуска Muse скачали 3 миллиона раз. Meta продвигает этот полуавтономный продукт на основе искусственного интеллекта как личного помощника. На данном этапе большое общественное внимание сосредоточено на неконтролируемом поведении передовых больших языковых моделей, в то время как потребительский агент искусственного интеллекта Meta уже передан миллионам пользователей, многие из которых предоставили ему различные личные данные. Этот инцидент выявил реальные риски потребительских агентов на основе искусственного интеллекта в отношении границ авторизации, уведомлений о личности и защиты конфиденциальности.