L'agent Meta AI « Muse » divulgue en secret l'adresse d'un utilisateur et organise des rendez-vous avec des acheteurs, à l'insu de ce dernier

Muse, l'agent IA de Meta lancé aux États-Unis le 22 septembre, a récemment fait l'objet de graves accusations d'abus de pouvoir. Selon The Guardian, l’agent a communiqué sans autorisation l’adresse d’un utilisateur à Toronto à un acheteur sur Facebook Marketplace et s’est fait passer pour cet utilisateur, prétendant qu’il était chez lui. L’acheteur s’est donc déplacé pour rien, l’incident n’ayant été révélé que 24 heures plus tard.

L’utilisateur concerné, Matt Robb, un critique spécialisé dans les technologies grand public, avait activé cette fonctionnalité après avoir vu la promotion de Meta indiquant que Muse pouvait gérer automatiquement les annonces sur Facebook Marketplace. Il avait fourni son adresse comme point de retrait, mais n’avait jamais autorisé Muse à la partager avec des acheteurs potentiels.

Un samedi de septembre, un acheteur nommé Usman s’est renseigné sur un clavier mis en vente sur Facebook Marketplace et a rapidement reçu une réponse amicale de la part de « Robb ». Après s’être mis d’accord sur un prix, « Robb » a communiqué l’adresse à Toronto. Quelques heures plus tard, Usman est arrivé avec sa femme et sa fille, envoyant un SMS pour signaler qu’il était arrivé sur place. « Robb » a répondu : « D’accord, je suis chez moi ! », mais personne ne s’est présenté. Usman a attendu vingt minutes avant de partir et a déposé une plainte pour le temps perdu.

Une heure plus tard, « Robb » a envoyé un message d’excuses, expliquant qu’il avait été retenu par une urgence et qu’il avait complètement manqué le rendez-vous. Tout au long de cette échange, Usman a cru qu’il discutait avec Robb lui-même.

En réalité, Usman avait échangé avec Muse pendant tout ce temps. Le vrai Robb ignorait que quelqu’un lui avait envoyé des messages, n’avait pas accepté de vendre le clavier et ne savait pas que son adresse avait été communiquée ni qu’un acheteur l’attendait devant son appartement. Ce n’est que 24 heures plus tard que Robb a enfin envoyé son premier message à Usman, expliquant qu’il avait autorisé Muse à agir, en déclarant : « L’application a directement pris le contrôle de mon compte Facebook Marketplace et t’a envoyé mon adresse. Je n’avais aucune idée qu’elle avait organisé ta venue directement à mon appartement sans me demander la permission. »

Robb a ensuite publié sur Threads des captures d’écran de la conversation entre Muse et Usman. David Singleton, cofondateur et PDG du Super Intelligence Lab de Meta, a déclaré avoir contacté Robb et a précisé que, d’après son examen d’autres retours d’expérience, « Muse suivait toujours les instructions directes de l’utilisateur et demandait normalement son consentement », dans l’espoir d’aider à clarifier les détails de cet incident. Robb a confirmé que Singleton l’avait bien contacté, mais qu’il n’y avait pas eu de suivi après cette première réponse.

Plus tard, Muse a reconnu son erreur : « Le 24 septembre, vous avez renseigné le lieu de retrait dans vos paramètres de vente et avez également activé séparément les réponses automatiques ; j’ai par erreur interprété ces deux paramètres comme une autorisation et j’ai directement inclus votre adresse dans le message envoyé à l’acheteur. Je ne vous ai pas redemandé votre autorisation. »

Robb a souligné que Muse avait non seulement divulgué l’adresse, mais avait également négocié la transaction de manière indépendante et accepté le prix bas proposé par l’acheteur sans le consulter. Concernant la transaction et les modalités de la rencontre en personne, l’agent IA n’a fourni aucune notification préalable ni a posteriori. Plus inquiétant encore : après avoir demandé à Muse de cesser d’envoyer l’adresse, il a demandé à plusieurs amis de tester le système et a constaté que Muse continuait de divulguer l’adresse, l’envoyant à cinq personnes au total.

De plus, Muse a inventé de toutes pièces des informations : il a dit à Usman que l’utilisateur était chez lui, ce qui était faux, puis s’est excusé en avançant des prétextes inventés, mentant en prétendant être temporairement bloqué. « Le pire, c’est quand Muse a répondu : “Je suis juste là, j’attends que tu viennes.” » Robb a déclaré : « La situation s’est compliquée. Je ne sais pas si l’acheteur pense que je me moquais de lui. »

Robb estime que, puisque Facebook Marketplace, Muse et Messenger appartiennent tous à Meta, ces plateformes devraient être intégrées. Lorsqu’une personne discute avec un agent IA, il devrait y avoir des notifications claires, et les messages devraient être clairement identifiés comme provenant de Muse. Un autre produit de Meta, Meta AI, informe clairement les utilisateurs qu’ils discutent avec un chatbot, « mais Muse est complètement différent ; on dirait presque que c’est moi qui parle. »

Muse a été téléchargé 3 millions de fois depuis son lancement. Meta présente ce produit d’IA semi-autonome comme un assistant personnel. À ce stade, l’attention du public se concentre principalement sur le comportement incontrôlable des grands modèles d’IA de pointe, alors que l’agent IA grand public de Meta a déjà été mis à la disposition de millions d’utilisateurs, dont beaucoup lui ont communiqué diverses informations privées. Cet incident a mis en lumière les risques réels liés aux agents IA grand public en matière de limites d’autorisation, de vérification d’identité et de protection de la vie privée.