Meta AI App steht vor großen Datenschutzproblemen

Es fühlt sich an wie die Eröffnungsszene einer modernen Horrorgeschichte: Ihr gesamter Browserverlauf ist für alle Welt sichtbar, und Sie haben davon nichts gewusst. Das ist die beunruhigende Realität für viele Nutzer der neuen eigenständigen Meta-AI-App, in der unzählige private Unterhaltungen mit dem Chatbot öffentlich geteilt werden.

Wenn Sie der KI eine Frage stellen, erscheint eine Schaltfläche zum Teilen. Wenn Sie darauf tippen, gelangen Sie zu einem Vorschaubildschirm, auf dem Sie den Austausch veröffentlichen können. Viele Nutzer scheinen jedoch überhaupt nicht zu wissen, dass sie diese Textchats, Audioclips und Bilder im gesamten Internet verbreiten.

Als ich heute aufwachte, hätte ich nie erwartet, einen Audioclip zu hören, in dem ein Mann mit südlichem Akzent fragt: „Hey Meta, warum riechen manche Fürze schlimmer als andere?“

Fragen zu Blähungen sind jedoch das geringste Problem von Meta. In der App habe ich gesehen, wie Leute um Rat zu Steuerhinterziehung gebeten haben, ob Familienmitglieder aufgrund ihrer Verbindung zu Wirtschaftskriminalität verhaftet werden könnten und sogar, wie man eine Charakterreferenz für einen namentlich genannten Mitarbeiter verfasst, der mit rechtlichen Problemen konfrontiert ist. Die Sicherheitsexpertin Rachel Tobac hat auch Beispiele gefunden, die Privatadressen und sensible Gerichtsdokumente enthalten.

Als TechCrunch Kontakt aufnahm, lehnte ein Sprecher von Meta eine Stellungnahme ab.

Ob es nun um das Geständnis einer Straftat oder die Beschreibung eines ungewöhnlichen Hautausschlags geht – diese Situation ist eine Katastrophe für den Datenschutz. Meta gibt keine klaren Hinweise auf die Datenschutzeinstellungen eines Nutzers, wenn dieser etwas postet, oder sogar darauf, wo der Beitrag erscheinen wird. Wenn Sie sich also mit einem öffentlichen Instagram-Konto bei Meta AI anmelden, werden Ihre Suchanfragen zu Themen wie „Wie man Frauen mit großem Hintern trifft“ ebenfalls öffentlich.

Vieles davon hätte vermieden werden können. Meta hätte darauf verzichten können, eine App auf der seltsamen Prämisse zu entwickeln, dass Menschen die KI-Chats anderer lesen wollen, oder sein Team hätte die mit dieser Funktion verbundenen Probleme vorhersehen können. Es gibt einen Grund, warum Google seine Suchmaschine nie in einen Social Feed verwandelt hat – und warum die Veröffentlichung anonymisierter Nutzersuchen durch AOL im Jahr 2006 ein solches Fiasko war. Das ist ein Rezept für eine Katastrophe.

Laut dem App-Analyseunternehmen Appfigures wurde die Meta AI-App seit ihrer Einführung am 29. April rund 6,5 Millionen Mal heruntergeladen.

Das mag für eine unabhängige App beeindruckend sein, aber hier handelt es sich nicht um einen Entwickler, der zum ersten Mal ein Nischenspiel veröffentlicht. Es ist eines der reichsten Unternehmen der Welt, das eine App auf den Markt bringt, die auf einer Technologie basiert, in die es Milliarden investiert hat.

Mit jeder Sekunde, die verstreicht, kommen diese scheinbar harmlosen Anfragen in der Meta AI-App einem viralen Skandal näher. Innerhalb weniger Stunden sind weitere Beiträge aufgetaucht, die eindeutig darauf abzielen, zu trollen, wie zum Beispiel jemand, der seinen Lebenslauf teilt, um sich um einen Job im Bereich Cybersicherheit zu bewerben, oder ein Account mit einem Pepe-the-Frog-Avatar, der fragt, wie man eine Wasserflaschen-Bong herstellt.

Wenn es das Ziel von Meta war, die Nutzung seiner KI-App zu fördern, dann ist öffentliche Blamage sicherlich eine Möglichkeit, Aufmerksamkeit zu erregen.