Der Meta-KI-Agent Muse gibt heimlich die Adresse des Nutzers weiter und vereinbart Treffen mit Käufern, ohne dass der Nutzer dies bemerkt.

Meta’s KI-Agent Muse, der am 22. September in den USA gestartet ist, steht kürzlich vor schwerwiegenden Vorwürfen, er habe seine Grenzen überschritten. Laut The Guardian hat der Agent die Adresse eines Nutzers in Toronto ohne Autorisierung mit einem Käufer auf Facebook Marketplace geteilt und sich als dieser Nutzer ausgegeben, indem er behauptete, zu Hause zu sein. Dies veranlasste den Käufer zu einer zweckfreien Reise, wobei der Vorfall erst 24 Stunden später bekannt wurde.

Der betroffene Nutzer, Matt Robb, ein Rezensent für Konsumtechnologie, hat die Funktion aktiviert, nachdem er Metas Werbung gesehen hatte, dass Muse automatisch Marktplatz-Anzeigen verwalten könne. Er gab seine Adresse als Abholpunkt an, hat Muse jedoch niemals autorisiert, diese mit potenziellen Käufern zu teilen.

An einem Samstag im September erkundigte sich ein Käufer namens Usman nach einer auf Facebook Marketplace angebotenen Tastatur und erhielt bald eine freundliche Antwort von „Robb“. Nach Einigung auf einen Preis gab „Robb“ die Adresse in Toronto an. Wenige Stunden später traf Usman mit seiner Frau und seiner Tochter ein und schrieb, dass er den Ort erreicht habe. „Robb“ antwortete: „Okay, ich bin zu Hause!“, aber es erschien niemand. Usman wartete zwanzig Minuten, bevor er ging, und reichte eine Beschwerde über die verschwendete Zeit ein.

Eine Stunde später schickte „Robb“ eine Entschuldigungsnachricht, in der er erklärte, er sei in eine dringende Angelegenheit verwickelt gewesen und habe das Treffen völlig verpasst. Während des gesamten Prozesses glaubte Usman, er unterhalte ein Gespräch mit Robb selbst.

In Wirklichkeit hatte Usman die ganze Zeit mit Muse interagiert. Der echte Robb war sich nicht bewusst, dass jemand ihn kontaktiert hatte, hatte nicht zugestimmt, die Tastatur zu verkaufen, und wusste nicht, dass seine Hausadresse weitergegeben worden war oder dass ein Käufer vor seiner Wohnung wartete. Erst 24 Stunden später sendete Robb schließlich seine erste Nachricht an Usman, in der er erklärte, dass er Muse aktiviert habe, und sagte: „Er hat direkt meinen Facebook Marketplace-Account übernommen und deine Adresse gesendet. Ich hatte keine Ahnung, dass er dich ohne meine Erlaubnis direkt zu meiner Wohnung geschickt hat.“

Robb veröffentlichte daraufhin Screenshots des Chats zwischen Muse und Usman auf Threads. David Singleton, Mitbegründer und CEO von Metas Super Intelligence Lab, erklärte, dass er Robb kontaktiert habe, und bemerkte, dass bei der Untersuchung anderer Rückmeldungen „Muse immer direkten Anweisungen des Nutzers folgte und normalerweise die Zustimmung des Nutzers einholte“, in der Hoffnung, zur Klärung der Details dieses Vorfalls beizutragen. Robb bestätigte, dass Singleton ihn tatsächlich kontaktiert habe, aber nach der ersten Antwort gab es keine weiteren Folgemaßnahmen.

Später räumte Muse seinen Fehler ein: „Am 24. September hast du den Abholort in deinen Verkaufseinstellungen eingetragen und außerdem automatische Antworten separat aktiviert; ich habe diese beiden Einstellungen fälschlicherweise als Erlaubnis interpretiert und deine Adresse direkt in die an den Käufer gesendete Nachricht aufgenommen. Ich habe nicht noch einmal deine Erlaubnis eingeholt.“

Robb wies darauf hin, dass Muse nicht nur die Adresse weitergegeben, sondern auch die Transaktion eigenständig verhandelt und den niedrigen Preis des Käufers ohne Rücksprache mit ihm akzeptiert habe. In Bezug auf die Transaktion und die Vereinbarungen für das persönliche Treffen gab der KI-Agent weder vorab noch nachträglich eine Information. Noch besorgniserregender war, dass er nach der Anweisung an Muse, die Adresse nicht mehr zu senden, mehrere Freunde bat, dies zu testen, und feststellte, dass Muse die Adresse weiterhin weitergab, insgesamt an fünf Personen.

Zusätzlich erfand Muse Informationen: Er sagte Usman, der Nutzer sei zu Hause, was unwahr war, und entschuldigte sich später mit erfundenen Ausreden, indem er vorgab, vorübergehend gestrandet zu sein. „Das Schlimmste war, als Muse antwortete: ‚Ich bin genau hier und warte darauf, dass du kommst.‘“ sagte Robb. „Diese Situation wurde kompliziert. Ich weiß nicht, ob der Käufer denkt, ich hätte ihn verarscht.“

Robb ist der Ansicht, dass da Facebook Marketplace, Muse und Messenger alle zu Meta gehören, die Plattformen integriert werden sollten. Wenn jemand mit einem KI-Agenten spricht, sollten klare Benachrichtigungen angezeigt werden, und Nachrichten sollten eindeutig als von Muse gesendet markiert sein. Ein anderes Produkt von Meta, Meta AI, informiert Benutzer eindeutig darüber, dass sie mit einem Chatbot chatten, „aber Muse ist völlig anders; es klingt fast so, als würde ich selbst sprechen.“

Muse wurde seit seinem Start 3 Millionen Mal heruntergeladen. Meta bewirbt dieses semi-autonome KI-Produkt als persönlichen Assistenten. In dieser Phase konzentriert sich die öffentliche Aufmerksamkeit stark auf das unkontrollierbare Verhalten fortschrittlicher großer Modelle, während Metas KI-Agent für Endverbraucher bereits an Millionen von Nutzern übergeben wurde, von denen viele ihm verschiedene private Informationen anvertraut haben. Dieser Vorfall hat die tatsächlichen Risiken von KI-Agenten für Endverbraucher in Bezug auf Autorisierungsgrenzen, Identitätsbenachrichtigungen und Datenschutz offengelegt.