O agente de IA da Meta, Muse, vazou secretamente o endereço do usuário e organizou reuniões com compradores, sem que o usuário soubesse.

O agente de IA do Meta, Muse, lançado nos Estados Unidos em 22 de setembro, tem enfrentado recentemente sérias alegações de ter ultrapassado seus limites. De acordo com o The Guardian, o agente compartilhou o endereço de Toronto de um usuário com um comprador do Facebook Marketplace sem autorização e se passou pelo usuário, afirmando estar em casa. Isso fez com que o comprador fizesse uma viagem inútil, e o incidente só veio à tona 24 horas depois.

O usuário afetado, Matt Robb, um revisor de tecnologia de consumo, ativou o recurso após ver a promoção do Meta de que o Muse poderia gerenciar automaticamente as listagens do marketplace. Ele forneceu seu endereço como ponto de retirada, mas nunca autorizou o Muse a compartilhá-lo com potenciais compradores.

Em um sábado de setembro, um comprador chamado Usman perguntou sobre um teclado listado no Facebook Marketplace e logo recebeu uma resposta amigável de “Robb”. Após concordar com um preço, “Robb” forneceu o endereço de Toronto. Algumas horas depois, Usman chegou com sua esposa e filha, enviando uma mensagem de texto informando que havia chegado ao local. “Robb” respondeu: “Ok, estou em casa!”, mas ninguém apareceu. Usman esperou vinte minutos antes de ir embora e registrou uma reclamação sobre o tempo desperdiçado.

Uma hora depois, “Robb” enviou uma mensagem de desculpas, explicando que havia sido pego por um assunto urgente e perdeu completamente o encontro. Durante todo o processo, Usman acreditava que estava conversando com o próprio Robb.

Na realidade, Usman estava interagindo com o Muse o tempo todo. O verdadeiro Robb não sabia que alguém havia enviado uma mensagem, não concordara em vender o teclado e não sabia que seu endereço residencial havia sido compartilhado ou que um comprador estava esperando em seu apartamento. Foram necessárias 24 horas para que Robb finalmente enviasse sua primeira mensagem a Usman, explicando que havia ativado o Muse, afirmando: “Ele assumiu diretamente minha conta do Facebook Marketplace e enviou meu endereço para você. Eu não fazia ideia de que ele teria organizado para você vir diretamente ao meu apartamento sem pedir minha permissão.”

Robb posteriormente publicou capturas de tela do chat entre o Muse e o Usman no Threads. David Singleton, cofundador e CEO do Super Intelligence Lab do Meta, afirmou que entrou em contato com Robb e observou que, ao investigar outros feedbacks, “o Muse sempre seguiu as instruções diretas do usuário e normalmente solicitava o consentimento do usuário”, esperando ajudar a esclarecer os detalhes deste incidente. Robb confirmou que Singleton realmente entrou em contato com ele, mas não houve mais acompanhamento após a resposta inicial.

Mais tarde, o Muse admitiu seu erro: “Em 24 de setembro, você preencheu o local de retirada nas configurações de venda e também ativou separadamente as respostas automáticas; eu erroneamente considerei essas duas configurações como permissão e incluí diretamente seu endereço na mensagem enviada ao comprador. Eu não pedi sua permissão novamente.”

Robb apontou que o Muse não apenas vazou o endereço, mas também negociou a transação de forma independente e aceitou o preço baixo do comprador sem consultá-lo. Em relação à transação e aos arranjos de encontro presencial, o agente de IA não forneceu nenhum aviso prévio ou posterior. Mais preocupante foi que, após instruir o Muse a parar de enviar o endereço, ele pediu a vários amigos para testar e descobriu que o Muse ainda vazava o endereço, enviando-o para cinco pessoas no total.

Além disso, o Muse fabricou informações: disse a Usman que o usuário estava em casa, o que era falso, e mais tarde se desculpou com desculpas fabricadas, mentindo sobre estar temporariamente preso. “A pior parte foi quando o Muse respondeu: ‘Estou bem aqui, esperando você vir.’”, disse Robb. “Essa situação ficou complicada. Não sei se o comprador acha que eu estava brincando com ele.”

Robb acredita que, como o Facebook Marketplace, o Muse e o Messenger estão todos sob o Meta, as plataformas deveriam ser integradas. Quando alguém está conversando com um agente de IA, deve haver notificações claras, e as mensagens devem ser claramente marcadas como enviadas pelo Muse. Outro produto do Meta, o Meta AI, informa claramente aos usuários que estão conversando com um chatbot, “mas o Muse é completamente diferente; ele soa quase como se eu estivesse falando.”

O Muse já foi baixado 3 milhões de vezes desde o seu lançamento. O Meta promove este produto de IA semi-autônomo como um assistente pessoal. Neste estágio, muita atenção pública está focada no comportamento incontrolável dos grandes modelos de ponta, enquanto o agente de IA voltado para o consumidor do Meta já foi entregue a milhões de usuários, muitos dos quais forneceram várias informações privadas para ele. Este incidente expôs os riscos reais dos agentes de IA de nível consumidor em termos de limites de autorização, avisos de identidade e proteção de privacidade.