Meredith Whittaker làm nổi bật bảo mật 'sâu sắc', rủi ro quyền riêng tư trong AI tác nhân

Tại hội nghị SXSW ở Austin, Texas, Chủ tịch Signal Meredith Whittaker đã bày tỏ những lo ngại nghiêm trọng về các rủi ro quyền riêng tư liên quan đến AI agentic. Bà mô tả một cách sống động việc sử dụng các tác nhân AI như "đặt bộ não của bạn vào một cái lọ," nhấn mạnh bản chất đáng lo ngại của công nghệ mới nổi này. Whittaker chỉ ra rằng các tác nhân AI, được quảng bá là công cụ để cải thiện cuộc sống hàng ngày bằng cách quản lý các nhiệm vụ như tìm kiếm buổi hòa nhạc, đặt vé, và lên lịch sự kiện, đang đặt ra những thách thức đáng kể về quyền riêng tư và an ninh.

"Vậy là chúng ta chỉ cần đặt bộ não của mình vào một cái lọ vì thứ đó đang làm việc đó và chúng ta không cần phải chạm vào, đúng không?" Whittaker trầm ngâm, nhấn mạnh cách tiếp cận không cần can thiệp mà các tác nhân AI khuyến khích. Bà tiếp tục chi tiết về mức độ truy cập rộng lớn mà các tác nhân này sẽ yêu cầu, bao gồm kiểm soát trình duyệt web, thông tin thẻ tín dụng, lịch trình, và ứng dụng nhắn tin. "Nó sẽ cần có khả năng điều khiển quá trình đó trên toàn bộ hệ thống của chúng ta với thứ gì đó giống như quyền root, truy cập vào từng cơ sở dữ liệu đó — có lẽ là không mã hóa, vì không có mô hình nào để làm điều đó một cách mã hóa," bà cảnh báo.

Whittaker cũng đề cập đến sức mạnh xử lý cần thiết cho các tác nhân AI này, lưu ý rằng các hoạt động như vậy có khả năng diễn ra trên các máy chủ đám mây thay vì trên thiết bị của người dùng. "Điều đó gần như chắc chắn được gửi đến một máy chủ đám mây nơi nó được xử lý và gửi lại. Vì vậy, có một vấn đề sâu sắc về an ninh và quyền riêng tư đang ám ảnh sự cường điệu xung quanh các tác nhân, và điều đó cuối cùng đe dọa phá vỡ rào cản máu-não giữa lớp ứng dụng và lớp hệ điều hành bằng cách kết hợp tất cả các dịch vụ riêng biệt này [và] làm lẫn lộn dữ liệu của chúng," bà kết luận.

Bà bày tỏ lo ngại đặc biệt về các tác động đối với quyền riêng tư nếu một ứng dụng nhắn tin như Signal tích hợp với các tác nhân AI. Sự tích hợp như vậy sẽ làm tổn hại đến tính bảo mật của các tin nhắn, vì tác nhân sẽ cần truy cập vào ứng dụng để gửi tin nhắn và cũng lấy dữ liệu để tóm tắt các cuộc giao tiếp đó.

Những nhận xét của Whittaker được đưa ra sau khi bà thảo luận về sự phụ thuộc rộng lớn hơn của ngành công nghiệp AI vào mô hình giám sát liên quan đến việc thu thập dữ liệu hàng loạt. Bà chỉ trích "mô hình AI càng lớn càng tốt," ưu tiên tích lũy dữ liệu, cảnh báo về những hậu quả tiêu cực tiềm tàng của nó. Với AI agentic, bà cảnh báo, chúng ta có nguy cơ làm xói mòn thêm quyền riêng tư và an ninh trong việc theo đuổi một "con bot thần kỳ sẽ giải quyết các nhu cầu cấp thiết của cuộc sống."