Meredith Whittaker làm nổi bật bảo mật 'sâu sắc', rủi ro quyền riêng tư trong AI tác nhân

Tại hội nghị SXSW ở Austin, Texas, Chủ tịch Tín hiệu Meredith Whittaker đã đưa ra những lo ngại nghiêm trọng về các rủi ro quyền riêng tư liên quan đến AI của tác nhân. Cô mô tả một cách sinh động việc sử dụng các tác nhân AI là "đặt bộ não của bạn vào một cái bình", làm nổi bật bản chất đáng lo ngại của công nghệ mới nổi này. Whittaker chỉ ra rằng các đại lý AI, được quảng bá như là công cụ để tăng cường cuộc sống hàng ngày bằng cách quản lý các nhiệm vụ như tìm kiếm các buổi hòa nhạc, đặt vé và lên lịch các sự kiện, đặt ra các thách thức bảo mật và bảo mật đáng kể.

"Vì vậy, chúng ta chỉ có thể đặt bộ não của chúng ta vào một cái lọ vì sự việc đang làm điều đó và chúng ta không phải chạm vào nó, phải không?" Whittaker trầm ngâm, nhấn mạnh cách tiếp cận thực tế mà các đặc vụ AI khuyến khích. Cô tiếp tục chi tiết các truy cập rộng rãi mà các đại lý này sẽ yêu cầu, bao gồm kiểm soát các trình duyệt web, thông tin thẻ tín dụng, lịch và ứng dụng nhắn tin. "Nó sẽ cần phải có khả năng điều khiển [quá trình] trên toàn bộ hệ thống của chúng tôi với một cái gì đó trông giống như quyền root, truy cập vào từng cơ sở dữ liệu đó - có lẽ trong rõ ràng, bởi vì không có mô hình nào để làm điều đó được mã hóa", cô cảnh báo.

Whittaker cũng giải quyết sức mạnh xử lý cần thiết cho các tác nhân AI này, lưu ý rằng các hoạt động đó có thể sẽ xảy ra trên các máy chủ đám mây thay vì trên thiết bị của người dùng. "Điều đó gần như chắc chắn được gửi đến một máy chủ đám mây nơi nó được xử lý và gửi lại. Vì vậy, có một vấn đề sâu sắc với bảo mật và quyền riêng tư đang ám ảnh sự cường điệu này xung quanh các tác nhân, và điều đó cuối cùng đe dọa phá vỡ hàng rào máu não giữa lớp ứng dụng và lớp hệ điều hành bằng cách kết hợp tất cả các dịch vụ riêng biệt.

Cô bày tỏ mối quan tâm đặc biệt về những tác động đối với quyền riêng tư nếu một ứng dụng nhắn tin như Tín hiệu được tích hợp với các đại lý AI. Việc tích hợp như vậy sẽ thỏa hiệp tính bảo mật của các tin nhắn, vì tác nhân sẽ cần truy cập ứng dụng để gửi văn bản và cũng truy xuất dữ liệu để tóm tắt các thông tin liên lạc đó.

Nhận xét của Whittaker được đưa ra sau khi cô thảo luận về sự phụ thuộc của ngành AI rộng lớn hơn vào một mô hình giám sát liên quan đến việc thu thập dữ liệu đại chúng. Cô chỉ trích "Bigger là mô hình AI tốt hơn", ưu tiên tích lũy dữ liệu, cảnh báo về những hậu quả tiêu cực tiềm ẩn của nó. Với AI Agentic, cô cảnh báo, chúng tôi có nguy cơ làm xói mòn quyền riêng tư và an ninh hơn trong việc theo đuổi một "bot ma thuật Genie sẽ chăm sóc các ngoại lệ của cuộc sống."