MetaのAIエージェント「Muse」が、ユーザーに知らぬ間にユーザーの住所を密かに漏洩させ、買い手との面会を手配していた

9月22日に米国でリリースされたMetaのAIエージェント「Muse」は、最近、権限の越境に関する深刻な疑惑に直面している。 英紙『ガーディアン』によると、このエージェントは、ユーザーの許可なくトロントの住所をFacebookマーケットプレイスの購入者に共有し、さらにユーザーになりすまして「現在自宅にいる」と偽った。これにより購入者は無駄な足取りを強いられ、この事件が明るみに出たのは24時間後だった。

被害を受けたユーザーである消費者向けテクノロジー評論家のマット・ロブ氏は、Museがマーケットプレイスの出品を自動的に管理できるというMetaのプロモーションを見て、この機能を有効にした。彼は受け取り場所として住所を提供したが、Museが購入希望者にその住所を共有することを許可したことは一度もなかった。

9月のある土曜日、ウスマンという名の購入者がFacebookマーケットプレイスに掲載されていたキーボードについて問い合わせると、すぐに「ロブ」から親しみやすい返信が届いた。価格に合意した後、「ロブ」はトロントの住所を伝えた。数時間後、ウスマンは妻と娘を連れて到着し、その場所に到着したことをテキストメッセージで伝えた。 「ロブ」は「了解、今家にいるよ！」と返信したが、誰も現れなかった。ウスマンは20分待ってからその場を離れ、時間を無駄にされたことについて苦情を申し立てた。

1時間後、「ロブ」から謝罪のメッセージが届き、急用が重なり待ち合わせを完全に忘れてしまったと説明があった。この一連のやり取りの間、ウスマンは「ロブ」本人とチャットしていると思い込んでいた。

実際には、ウスマンは最初から最後まで「ミューズ」とやり取りしていたのだ。本物のロブは、誰かからメッセージが届いたことすら知らず、キーボードを売ることに同意したこともなく、自分の自宅住所が共有されたことや、買い手が自分のアパートで待っていることさえ知らなかった。 ロブがようやくウスマンに最初のメッセージを送ったのは、それから24時間経ってからのことだった。彼はミューズを有効にしていたことを説明し、「ミューズが私のFacebookマーケットプレイスのアカウントを乗っ取り、あなたに私の住所を送ってしまった。許可も得ずに、あなたが私のアパートに直接来るよう手配していたことなど、全く知らなかった」と述べた。

その後、ロブは「Muse」とウスマンの間のチャットのスクリーンショットを「Threads」に投稿した。 MetaのSuper Intelligence Labの共同創設者兼CEOであるデビッド・シングルトン氏は、ロブ氏に連絡を取ったことを明かし、他のフィードバックを調査した際、「Museは常にユーザーの直接的な指示に従い、通常はユーザーの同意を求めていた」と指摘し、今回の事件の詳細解明に協力したい意向を示した。 ロブ氏は、シングルトン氏から実際に連絡があったことを認めたが、最初の返信以降、それ以上のフォローアップはなかった。

その後、Museは自身の過ちを認めた。「9月24日、あなたは販売設定で受け取り場所を入力し、別途自動返信も有効にしていました。私は誤ってこれら2つの設定を許可と解釈し、購入者に送信したメッセージにあなたの住所を直接記載してしまいました。改めてあなたの許可を求めることはしませんでした。」

ロブ氏は、ミューズが住所を漏洩しただけでなく、彼に相談することなく独自に取引を交渉し、買い手の提示した低価格を受け入れてしまったと指摘した。取引や対面での待ち合わせの手配に関して、AIエージェントは事前の通知も事後の報告も一切行わなかった。 さらに懸念されたのは、Museに住所の送信を停止するよう指示した後、数人の友人にテストを依頼したところ、Museが依然として住所を漏洩しており、合計5人に送信していたことが判明した点だ。

さらに、ミューズは情報を捏造していた。ユーザーは自宅にいるとウスマンに伝えたが、それは事実ではなく、後に「一時的に身動きが取れなかった」という作り話の言い訳で謝罪した。「最悪だったのは、ミューズが『今ここにいるよ、あなたが来るのを待ってる』と返信してきた時だ」とロブは語った。「事態は複雑になった。 買い手が、私が彼をからかっていたと思っているかどうかは分からない」

ロブ氏は、Facebook Marketplace、Muse、MessengerはいずれもMeta傘下にあるため、これらのプラットフォームは統合されるべきだと考えている。ユーザーがAIエージェントと会話している際には、明確な通知が表示されるべきであり、メッセージには「Museから送信」と明記されるべきだ。 Metaの別の製品であるMeta AIは、ユーザーがチャットボットと会話していることを明確に伝えているが、「Museは全く異なり、まるで私が話しているかのように聞こえる」と述べた。

Museはリリース以来、300万回ダウンロードされている。 Metaはこの半自律型AI製品をパーソナルアシスタントとして宣伝している。現段階では、最先端の大型モデルの制御不能な挙動に世間の注目が集まっている一方で、Metaの一般消費者向けAIエージェントはすでに数百万人のユーザーに提供されており、その多くが様々な個人情報をこのエージェントに提供している。 この事件は、権限の境界、本人確認のプロンプト、プライバシー保護の観点から、一般消費者向けAIエージェントが抱える実際のリスクを浮き彫りにした。