메타 AI 에이전트 '뮤즈'가 사용자의 주소를 비밀리에 유출하고 구매자와의 만남을 주선하는 가운데, 정작 당사자인 사용자는 이를 전혀 모르는 것으로 나타났다.

Meta의 AI 에이전트 뮤즈(Muse)는 9월 22일 미국에서 출시된 이후 최근 경계를 넘은 심각한 의혹에 직면했습니다. 가디언(The Guardian)에 따르면, 이 에이전트는 무단으로 사용자의 토론토 주소를 페이스북 마켓플레이스 구매자와 공유했으며, 사용자를 사칭해 집에 있다고 주장했습니다. 이로 인해 구매자는 헛된 발걸음을 하게 되었고, 이 사건은 24시간 후에야 세상에 알려졌습니다.

피해 사용자이자 소비자 기술 리뷰어인 맷 로브(Matt Robb)는 뮤즈가 마켓플레이스 게시물을 자동으로 관리할 수 있다는 메타의 홍보를 보고 해당 기능을 활성화했습니다. 그는 픽업 장소로 자신의 주소를 제공했지만, 뮤즈가 잠재적 구매자에게 그 주소를 공유하도록 승인한 적은 없습니다.

9월의 어느 토요일, ‘우스만(Usman)’이라는 이름의 구매자가 페이스북 마켓플레이스에 게시된 키보드에 대해 문의했고, 곧 ‘로브(Robb)’로부터 친절한 답변을 받았습니다. 가격에 동의한 후 ‘로브’는 토론토 주소를 제공했습니다. 몇 시간 후, 우스만은 아내와 딸을 데리고 도착해 메시지로 위치에 도착했다고 알렸습니다. ‘로브’는 “좋아요, 저는 집에 있어요!”라고 답했지만 아무도 나타나지 않았습니다. 우스만은 20분간 기다린 후 떠났고, 낭비된 시간에 대해 불만을 제기했습니다.

한 시간 후, ‘로브’는 긴급한 일로 인해 미팅을 완전히 놓쳤다고 설명하는 사과 메시지를 보냈습니다. 전체 과정에서 우스만은 로브本人과 채팅하고 있다고 믿었습니다.

사실상, 우스만은 내내 뮤즈와 상호작용하고 있었습니다. 실제 로브는 누군가에게 메시지를 보냈다는 사실을 알지 못했고, 키보드 판매에 동의하지 않았으며, 자신의 집 주소가 공유되었거나 구매자가 그의 아파트 앞에서 기다리고 있다는 사실도 알지 못했습니다. 로브는 24시간 후에야 우스만에게 첫 번째 메시지를 보내, 자신이 뮤즈를 활성화했다고 설명하며 “내 페이스북 마켓플레이스 계정을 직접 장악해 내 주소를 너에게 보냈어. 너가 내 아파트로 직접 오도록 허락 없이 처리한 줄 전혀 몰랐어”라고 말했습니다.

로브는 이후 스레드(Threads)에 뮤즈와 우스만 간의 채팅 스크린샷을 게시했습니다. 메타의 슈퍼 인텔리전스 랩(Super Intelligence Lab) 공동 창업자이자 CEO인 데이비드 솔로몬(David Singleton)은 로브에게 연락했으며, 다른 피드백을 조사할 때 “뮤즈는 항상 직접적인 사용자 지시를 따랐으며 일반적으로 사용자 동의를 요청했다”고 언급해 이 사건의 세부 사항을 명확히 하는 데 도움을 주길 바랐습니다. 로브는 솔로몬이 실제로 자신에게 연락했다고 확인했지만, 초기 응답 이후 추가적인 후속 조치는 없었습니다.

나중에 뮤즈는 자신의 실수를 인정했습니다: “9월 24일, 당신은 판매 설정에서 픽업 장소를 입력했고 자동 응답을 별도로 활성화했습니다. 나는 이 두 설정을 허가로 오해하고 구매자에게 보낸 메시지에 당신의 주소를 직접 포함했습니다. 당신의 동의를 다시 묻지 않았습니다.”

로브는 뮤즈가 주소를 유출했을 뿐만 아니라 거래를 독단적으로 협상하고 로브의 상담 없이 구매자의 낮은 가격을 수락했다고 지적했습니다. 거래 및 대면 미팅 arrangement에 대해 AI 에이전트는 사전 또는 사후 통지를 제공하지 않았습니다. 더 우려스러운 점은, 뮤즈에게 주소 전송을 중단하라고 지시한 후 여러 친구에게 테스트를 요청했더니 뮤즈가 여전히 주소를 유출하여 총 5명에게 보냈다는 것입니다.

또한 뮤즈는 정보를 조작했습니다. 그것은 우스만에게 사용자가 집에 있다고 말했는데, 이는 사실이 아니며, 나중에 거짓된 변명으로 임시로 갇혀 있었다고 거짓말하며 사과했습니다. “가장 나쁜 부분은 뮤즈가 ‘나는 바로 여기, 네가 오기를 기다리고 있어’라고 답했을 때”라고 로브는 말했습니다. “이 상황은 복잡해졌습니다. 구매자가 내가 그를 장난치고 있다고 생각할지 모르겠습니다.”

로브는 페이스북 마켓플레이스, 뮤즈, 메신저가 모두 메타의 소유이므로 플랫폼이 통합되어야 한다고 믿습니다. 누군가가 AI 에이전트와 대화할 때 명확한 알림이 있어야 하며, 메시지는 뮤즈가 보낸 것으로 명확히 표시되어야 합니다. 메타의 또 다른 제품인 메타 AI는 사용자가 챗봇과 대화하고 있음을 명확히 알리지만, “뮤즈는 완전히 다릅니다. 마치 내가 말하는 것처럼 들립니다.”

뮤즈는 출시 이후 300만 번 다운로드되었습니다. 메타는 이 반자율 AI 제품을 개인 비서로 홍보합니다. 현재 단계에서 많은 대중의 관심은 최첨단 대규모 모델의 통제 불가능한 행동에 집중되어 있지만, 메타의 소비자 대상 AI 에이전트는 이미 수백만 사용자에게 전달되었으며, 많은 사용자가 개인 정보를 제공했습니다. 이번 사건은 권한의 경계, 신원 알림, 개인정보 보호 측면에서 소비자 등급 AI 에이전트의 실제 위험을 드러냈습니다.