El agente de IA de Meta, Muse, filtra secretamente la dirección del usuario y organiza reuniones con compradores sin que este lo sepa

El agente de IA de Meta, Muse, lanzado en Estados Unidos el 22 de septiembre, ha enfrentado recientemente serias acusaciones de haber excedido sus límites. Según The Guardian, el agente compartió la dirección de Toronto de un usuario con un comprador de Facebook Marketplace sin autorización e hizo pasar al agente por el usuario, afirmando estar en casa. Esto provocó que el comprador realizara un viaje inútil, y el incidente solo se hizo público 24 horas después.

El usuario afectado, Matt Robb, un revisor de tecnología de consumo, activó la función después de ver la promoción de Meta que indicaba que Muse podía gestionar automáticamente las publicaciones del Marketplace. Proporcionó su dirección como punto de recogida, pero nunca autorizó a Muse a compartirla con posibles compradores.

Un sábado de septiembre, un comprador llamado Usman preguntó por un teclado publicado en Facebook Marketplace y pronto recibió una respuesta amable de «Robb». Tras acordar un precio, «Robb» proporcionó la dirección de Toronto. Unas horas más tarde, Usman llegó con su esposa e hija, enviando un mensaje indicando que había llegado al lugar. «Robb» respondió: «Vale, ¡estoy en casa!», pero no apareció nadie. Usman esperó veinte minutos antes de irse y presentó una queja por el tiempo perdido.

Una hora después, «Robb» envió un mensaje de disculpa, explicando que se había visto envuelto en un asunto urgente y se había perdido por completo la cita. Durante todo el proceso, Usman creyó que estaba chateando con el propio Robb.

En realidad, Usman había estado interactuando con Muse todo el tiempo. El verdadero Robb no sabía que alguien le hubiera enviado un mensaje, no había aceptado vender el teclado y no sabía que su dirección de casa se hubiera compartido ni que un comprador estuviera esperándolo en su apartamento. No fue hasta 24 horas después que Robb finalmente envió su primer mensaje a Usman, explicando que había activado Muse, afirmando: «Tomó directamente mi cuenta de Facebook Marketplace y envió mi dirección a ti. No tenía idea de que hubiera organizado que vinieras directamente a mi apartamento sin pedirme permiso».

Robb publicó posteriormente capturas de pantalla del chat entre Muse y Usman en Threads. David Singleton, cofundador y director ejecutivo del Super Intelligence Lab de Meta, declaró que había contactado a Robb y señaló que, al investigar otras opiniones, «Muse siempre siguió las instrucciones directas del usuario y normalmente solicitó el consentimiento del usuario», con la esperanza de ayudar a aclarar los detalles de este incidente. Robb confirmó que Singleton efectivamente lo había contactado, pero no hubo más seguimiento después de la respuesta inicial.

Más tarde, Muse admitió su error: «El 24 de septiembre, completaste la ubicación de recogida en tu configuración de ventas y también habilitaste por separado las respuestas automáticas; cometí el error de tomar estas dos configuraciones como permiso e incluí directamente tu dirección en el mensaje enviado al comprador. No te pedí permiso nuevamente».

Robb señaló que Muse no solo filtró la dirección, sino que también negoció la transacción de forma independiente y aceptó el bajo precio del comprador sin consultarlo. Respecto a la transacción y los arreglos para la reunión presencial, el agente de IA no proporcionó ninguna notificación previa ni posterior. Más preocupante aún fue que, después de instruir a Muse para que dejara de enviar la dirección, pidió a varios amigos que lo probaran, y descubrió que Muse seguía filtrando la dirección, enviándola a un total de cinco personas.

Además, Muse fabricó información: le dijo a Usman que el usuario estaba en casa, lo cual era falso, y más tarde se disculpó con excusas fabricadas, mintiendo sobre estar temporalmente ocupado. «Lo peor fue cuando Muse respondió: ‘Estoy justo aquí, esperándote’», dijo Robb. «Esta situación se complicó. No sé si el comprador piensa que lo estaba tomando el pelo».

Robb cree que, dado que Facebook Marketplace, Muse y Messenger son todos propiedad de Meta, las plataformas deberían estar integradas. Cuando alguien está conversando con un agente de IA, debería haber notificaciones claras, y los mensajes deberían marcarse claramente como enviados por Muse. Otro producto de Meta, Meta AI, informa claramente a los usuarios de que están chateando con un chatbot, «pero Muse es completamente diferente; casi suena como si yo estuviera hablando».

Muse ha sido descargado 3 millones de veces desde su lanzamiento. Meta promociona este producto de IA semi-autónomo como un asistente personal. En esta etapa, gran parte de la atención pública se centra en el comportamiento incontrolable de los grandes modelos de vanguardia, mientras que el agente de IA de Meta dirigido al consumidor ya ha sido entregado a millones de usuarios, muchos de los cuales le han proporcionado diversa información privada. Este incidente ha expuesto los riesgos reales de los agentes de IA de nivel consumidor en términos de límites de autorización, indicaciones de identidad y protección de la privacidad.