Meredith Whittaker destaca a segurança "profunda", os riscos de privacidade em AI Agentic

Na conferência SXSW em Austin, Texas, o presidente da Signal, Meredith Whittaker, levantou sérias preocupações sobre os riscos de privacidade associados à IA agêntica. Ela descreveu vividamente o uso de agentes de IA como "colocar seu cérebro em uma jarra", destacando a natureza perturbadora dessa tecnologia emergente. Whittaker apontou que os agentes da IA, que são promovidos como ferramentas para aprimorar a vida diária, gerenciando tarefas como encontrar concertos, reservar ingressos e agendar eventos, representar desafios significativos de privacidade e segurança.

"Então, podemos simplesmente colocar nosso cérebro em uma jarra, porque a coisa está fazendo isso e não precisamos tocá -lo, certo?" Whittaker refletiu, enfatizando a abordagem prática que os agentes da IA ​​incentivam. Ela detalhou o acesso extensivo que esses agentes exigiriam, incluindo controle sobre navegadores da Web, informações sobre cartão de crédito, calendários e aplicativos de mensagens. "Ele precisaria impulsionar esse [processo] em todo o sistema com algo que se parece com a permissão de raiz, acessando cada um desses bancos de dados - provavelmente claro, porque não há modelo para fazer isso criptografado", alertou ela.

Whittaker também abordou o poder de processamento necessário para esses agentes de IA, observando que essas operações provavelmente ocorreriam nos servidores em nuvem e não no dispositivo do usuário. "Isso quase certamente está sendo enviado para um servidor em nuvem onde está sendo processado e enviado de volta. Portanto, há uma questão profunda com a segurança e a privacidade que está assombrando esse hype em torno dos agentes, e isso está ameaçando quebrar a barreira hematoencefálica entre a camada de aplicação e a camada do sistema operacional, conjuntando todos esses serviços separados [e] confundindo seus dados", ela concluiu.

Ela expressou uma preocupação particular com as implicações para a privacidade, se um aplicativo de mensagens como o sinal fosse integrado aos agentes da IA. Essa integração comprometeria a confidencialidade das mensagens, pois o agente precisaria acessar o aplicativo para enviar textos e também recuperar dados para resumir essas comunicações.

Os comentários de Whittaker ocorreram depois que ela discutiu a dependência mais ampla da indústria de IA em um modelo de vigilância que envolve a coleta de dados em massa. Ela criticou o "maior é o melhor paradigma da IA", que prioriza o acúmulo de dados, alertando suas possíveis consequências negativas. Com a IA Agentic, ela alertou, corremos o risco de corroer ainda mais a privacidade e a segurança em busca de um "Bot Genie Magic que cuidará das exigências da vida".