Meredith Whittaker hebt die "tiefgreifende" Sicherheit, Datenschutzrisiken in der Agentic AI hervor

Auf der SXSW -Konferenz in Austin, Texas, äußerte Signal Präsident Meredith Whittaker ernsthafte Bedenken hinsichtlich der mit Agentic AI verbundenen Privatsphäre. Sie beschrieb den Einsatz von AI -Agenten lebhaft als "Ihr Gehirn in ein Glas" und hob die beunruhigende Natur dieser aufkommenden Technologie hervor. Whittaker wies darauf hin, dass AI -Agenten, die als Tools für die Verbesserung des täglichen Lebens beworben werden, indem sie Aufgaben wie das Finden von Konzerten, die Buchung von Tickets und die Planung von Veranstaltungen, die Herausforderungen für Privatsphäre und Sicherheit darstellen.

"Also können wir unser Gehirn einfach in ein Glas legen, weil das Ding das tut und wir es nicht berühren müssen, oder?" Whittaker überlegte und betonte den Hands-Off-Ansatz, den AI-Agenten ermutigen. Sie fuhr fort, den umfangreichen Zugang zu diesen Agenten zu beschreiben, einschließlich der Kontrolle über Webbrowser, Kreditkarteninformationen, Kalender und Messaging -Apps. "Es müsste in der Lage sein, diesen [Prozess] in unserem gesamten System mit etwas voranzutreiben, das wie die Root -Erlaubnis aussieht und auf alle einzelnen dieser Datenbanken zugreift - wahrscheinlich im Klar, weil es kein Modell gibt, um dies verschlüsselt zu machen", warnte sie.

Whittaker befasste sich auch mit der für diese KI -Agenten erforderlichen Verarbeitungsleistung und stellte fest, dass solche Vorgänge wahrscheinlich eher auf Cloud -Servern als auf dem Gerät des Benutzers auftreten würden. "Das wird mit ziemlicher Sicherheit an einen Cloud-Server gesendet, auf dem er verarbeitet und zurückgesandt wird. Es gibt also ein tiefes Problem mit Sicherheit und Privatsphäre, das diesen Hype um Agenten einhält, und letztendlich droht es, die Blut-Hirn-Barriere zwischen der Anwendungsschicht und der OS-Schicht zu brechen, indem sie alle diese getrennten Dienste [und] verwirrt hat, um ihre Daten zu begleiten", schließte sie.

Sie äußerte sich besondere Bedenken hinsichtlich der Auswirkungen auf die Privatsphäre, wenn eine Messaging -App wie Signal in KI -Agenten integrieren sollte. Eine solche Integration würde die Vertraulichkeit von Nachrichten beeinträchtigen, da der Agent auf die App zugreifen müsste, um Texte zu senden und Daten abzurufen, um diese Kommunikation zusammenzufassen.

Die Äußerungen von Whittaker wurden kamen, nachdem sie über das Vertrauen der KI -Branche in ein Überwachungsmodell diskutierte, das die Erfassung von Massendaten beinhaltet. Sie kritisierte das "Größere ist besseres AI -Paradigma", was die Datenakkumulation priorisiert und vor seinen potenziellen negativen Folgen warnt. Mit der Agentic AI warnte sie, wir riskieren, die Privatsphäre und Sicherheit weiter zu erodieren, um einen "magischen Genie -Bot zu verfolgen, der sich um die Erfordernisse des Lebens kümmert".