Meredith Whittaker hebt die "tiefgreifende" Sicherheit, Datenschutzrisiken in der Agentic AI hervor

Auf der SXSW-Konferenz in Austin, Texas, äußerte die Präsidentin von Signal, Meredith Whittaker, ernsthafte Bedenken hinsichtlich der Datenschutzrisiken, die mit agentischem AI verbunden sind. Sie beschrieb den Einsatz von AI-Agenten anschaulich als „das Gehirn in ein Glas zu stecken“ und betonte damit die beunruhigende Natur dieser aufkommenden Technologie. Whittaker wies darauf hin, dass AI-Agenten, die als Werkzeuge zur Verbesserung des täglichen Lebens durch die Verwaltung von Aufgaben wie dem Finden von Konzerten, dem Buchen von Tickets und dem Planen von Veranstaltungen beworben werden, erhebliche Herausforderungen in Bezug auf Datenschutz und Sicherheit darstellen.

„Also können wir unser Gehirn einfach in ein Glas stecken, weil das Ding das übernimmt und wir es nicht anfassen müssen, richtig?“ überlegte Whittaker und betonte den hands-off-Ansatz, den AI-Agenten fördern. Sie erläuterte weiter die umfassenden Zugriffsrechte, die diese Agenten benötigen würden, einschließlich der Kontrolle über Webbrowser, Kreditkarteninformationen, Kalender und Messaging-Apps. „Es müsste in der Lage sein, diesen [Prozess] über unser gesamtes System hinweg mit etwas zu steuern, das wie Root-Berechtigungen aussieht, und auf jede einzelne dieser Datenbanken zugreifen – wahrscheinlich im Klartext, weil es kein Modell gibt, das das verschlüsselt erledigt“, warnte sie.

Whittaker sprach auch die benötigte Rechenleistung für diese AI-Agenten an und stellte fest, dass solche Operationen wahrscheinlich auf Cloud-Servern und nicht auf dem Gerät des Nutzers stattfinden würden. „Das wird fast sicher an einen Cloud-Server gesendet, wo es verarbeitet und zurückgesendet wird. Es gibt also ein tiefgreifendes Problem mit Sicherheit und Datenschutz, das diesen Hype um Agenten begleitet und letztendlich droht, die Blut-Hirn-Schranke zwischen der Anwendungsschicht und der OS-Schicht zu durchbrechen, indem all diese separaten Dienste zusammengeführt und ihre Daten vermischt werden“, schloss sie.

Sie äußerte besondere Besorgnis über die Auswirkungen auf den Datenschutz, wenn eine Messaging-App wie Signal mit AI-Agenten integriert würde. Eine solche Integration würde die Vertraulichkeit von Nachrichten gefährden, da der Agent auf die App zugreifen müsste, um Texte zu senden und auch Daten abzurufen, um diese Kommunikationen zusammenzufassen.

Whittakers Bemerkungen kamen, nachdem sie die breitere Abhängigkeit der AI-Industrie von einem Überwachungsmodell diskutiert hatte, das eine massive Datensammlung beinhaltet. Sie kritisierte das „größer ist besser AI-Paradigma“, das die Anhäufung von Daten priorisiert, und warnte vor dessen potenziellen negativen Folgen. Mit agentischem AI, so warnte sie, riskieren wir eine weitere Erosion von Datenschutz und Sicherheit im Streben nach einem „magischen Dschinn-Bot, der die Notwendigkeiten des Lebens erledigt“.