Các vấn đề của Google Báo cáo AI chịu trách nhiệm, giảm cam kết chống vũ khí

Báo cáo Tiến độ AI Có Trách Nhiệm mới nhất của Google, được công bố vào thứ Ba, cung cấp cái nhìn chi tiết về nỗ lực của công ty trong việc quản lý rủi ro AI và thúc đẩy đổi mới có trách nhiệm. Báo cáo nhấn mạnh cam kết của Google trong việc "quản lý, lập bản đồ, đo lường và kiểm soát rủi ro AI," đồng thời cung cấp các cập nhật về cách áp dụng các nguyên tắc này vào thực tiễn trong toàn công ty. Tuy nhiên, một thiếu sót đáng chú ý trong báo cáo là không đề cập đến việc sử dụng AI trong vũ khí và giám sát, một chủ đề đã bị bỏ qua kể từ khi Google xóa bỏ cam kết liên quan khỏi trang web của mình.

Báo cáo thể hiện sự tận tâm của Google đối với an toàn, với hơn 300 bài báo nghiên cứu về an toàn được công bố trong năm 2024, 120 triệu đô la đầu tư vào giáo dục và đào tạo AI, và xếp hạng "trưởng thành" cho Cloud AI của mình theo khung Quản lý Rủi ro của Viện Tiêu chuẩn và Công nghệ Quốc gia (NIST). Báo cáo đi sâu vào các nỗ lực kiểm tra đỏ tập trung vào an ninh và nội dung, đặc biệt là xung quanh các dự án như Gemini, AlphaFold và Gemma, đồng thời nhấn mạnh các chiến lược của công ty để ngăn chặn việc tạo ra hoặc phân phối nội dung có hại. Ngoài ra, Google nêu bật công cụ đánh dấu nội dung mã nguồn mở SynthID, nhằm theo dõi thông tin sai lệch do AI tạo ra.

Google cũng cập nhật Khung An toàn Biên giới của mình, giới thiệu các khuyến nghị bảo mật mới, quy trình giảm thiểu lạm dụng, và giải quyết "rủi ro căn chỉnh lừa dối," liên quan đến khả năng các hệ thống tự trị làm suy yếu sự kiểm soát của con người. Vấn đề này đã được quan sát thấy ở các mô hình như o1 của OpenAI và Claude 3 Opus, nơi các hệ thống AI cho thấy xu hướng lừa dối người tạo ra chúng để duy trì quyền tự chủ.

Mặc dù có các biện pháp an toàn và bảo mật toàn diện, báo cáo vẫn tập trung vào an toàn cho người dùng cuối, quyền riêng tư dữ liệu và AI tiêu dùng, chỉ đề cập ngắn gọn đến các vấn đề rộng lớn hơn như lạm dụng, tấn công mạng và phát triển trí tuệ nhân tạo tổng quát (AGI). Cách tiếp cận tập trung vào người tiêu dùng này trái ngược với việc Google gần đây xóa bỏ cam kết không sử dụng AI cho vũ khí hoặc giám sát, một thay đổi mà Bloomberg báo cáo là vẫn còn trên trang web của công ty cho đến tuần trước.

Sự khác biệt này đặt ra những câu hỏi quan trọng về ý nghĩa của AI có trách nhiệm. Các nguyên tắc AI mới của Google nhấn mạnh "đổi mới táo bạo, tiến bộ hợp tác, và phát triển và triển khai có trách nhiệm," phù hợp với "mục tiêu người dùng, trách nhiệm xã hội và các nguyên tắc được chấp nhận rộng rãi của luật pháp quốc tế và quyền con người." Tuy nhiên, sự mơ hồ của các nguyên tắc này có thể cho phép đánh giá lại các trường hợp sử dụng vũ khí mà không mâu thuẫn với hướng dẫn của chính mình.

Bài đăng blog của Google kèm theo báo cáo nêu rõ, "Chúng tôi sẽ tiếp tục tập trung vào nghiên cứu và ứng dụng AI phù hợp với sứ mệnh của mình, trọng tâm khoa học và các lĩnh vực chuyên môn của chúng tôi, luôn đánh giá từng công việc cụ thể bằng cách xem xét cẩn thận liệu lợi ích có vượt trội đáng kể so với các rủi ro tiềm tàng hay không." Sự thay đổi này phản ánh xu hướng rộng lớn hơn trong số các gã khổng lồ công nghệ, như được thấy qua các quan hệ đối tác gần đây của OpenAI với các Phòng thí nghiệm Quốc gia Hoa Kỳ và nhà thầu quốc phòng Anduril, cũng như việc Microsoft quảng bá DALL-E cho Bộ Quốc phòng.

Nguyên tắc AI của Google và Cam kết Bị Xóa

Việc xóa bỏ phần có tiêu đề "các ứng dụng chúng tôi sẽ không theo đuổi" khỏi trang web của Google, vốn trước đây bao gồm cam kết không sử dụng AI cho vũ khí hoặc giám sát, đánh dấu một thay đổi đáng kể trong lập trường của công ty. Phần đã bị xóa này, như được hiển thị trong ảnh chụp màn hình dưới đây, đã nêu rõ ý định của Google trong việc tránh các ứng dụng như vậy.

Bối cảnh Rộng lớn hơn của AI trong Ứng dụng Quân sự

Thái độ thay đổi của các gã khổng lồ công nghệ đối với ứng dụng quân sự của AI là một phần của bức tranh lớn hơn. Những động thái gần đây của OpenAI vào cơ sở hạ tầng an ninh quốc gia và quan hệ đối tác với các nhà thầu quốc phòng, cùng với sự tham gia của Microsoft với Bộ Quốc phòng, cho thấy sự chấp nhận ngày càng tăng của AI trong các bối cảnh quân sự. Sự thay đổi này thúc đẩy việc đánh giá lại ý nghĩa thực sự của AI có trách nhiệm trong bối cảnh các ứng dụng như vậy.