Eric Schmidt phản đối dự án Agi Manhattan

Trong một bài báo chính sách được công bố vào thứ Tư, cựu CEO Google Eric Schmidt, cùng với CEO Scale AI Alexandr Wang và Giám đốc Trung tâm An toàn AI Dan Hendrycks, đã khuyên Mỹ không nên khởi động một sáng kiến kiểu Dự án Manhattan để phát triển các hệ thống AI với trí tuệ "siêu phàm", thường được gọi là AGI.

Có tiêu đề "Chiến lược Siêu trí tuệ", bài báo cảnh báo rằng nỗ lực của Mỹ nhằm độc quyền AI siêu trí tuệ có thể gây ra phản ứng mạnh mẽ từ Trung Quốc, có thể dưới dạng một cuộc tấn công mạng, điều này có thể làm gián đoạn quan hệ toàn cầu.

Các đồng tác giả lập luận, "Một Dự án Manhattan cho AGI giả định rằng các đối thủ sẽ chấp nhận sự mất cân bằng lâu dài hoặc hủy diệt toàn diện thay vì hành động để ngăn chặn nó. Điều bắt đầu như một nỗ lực để tạo ra siêu vũ khí và kiểm soát toàn cầu có nguy cơ gây ra các biện pháp đối phó thù địch và leo thang căng thẳng, do đó làm suy yếu chính sự ổn định mà chiến lược này tuyên bố đảm bảo."

Bài báo này, được viết bởi ba nhân vật chủ chốt trong lĩnh vực AI của Mỹ, được đưa ra ngay sau khi một ủy ban quốc hội Mỹ đề xuất một sáng kiến kiểu "Dự án Manhattan" để tài trợ phát triển AGI, so sánh với dự án bom nguyên tử của Mỹ vào những năm 1940. Bộ trưởng Năng lượng Mỹ Chris Wright gần đây tuyên bố Mỹ đang ở "khởi đầu của một Dự án Manhattan mới" về AI, phát biểu tại một địa điểm siêu máy tính với đồng sáng lập OpenAI Greg Brockman đứng bên cạnh.

Bài báo Chiến lược Siêu trí tuệ thách thức xu hướng gần đây của một số lãnh đạo chính sách và ngành công nghiệp Mỹ, những người tin rằng một chương trình AGI do chính phủ hậu thuẫn là cách tốt nhất để theo kịp Trung Quốc.

Schmidt, Wang và Hendrycks nhìn nhận Mỹ đang ở trong một tình thế giống như một cuộc đối đầu về AGI, tương tự khái niệm hủy diệt lẫn nhau được đảm bảo. Cũng như các quốc gia tránh độc quyền vũ khí hạt nhân để ngăn chặn các cuộc tấn công phủ đầu, các tác giả cho rằng Mỹ nên thận trọng khi vội vã thống trị các hệ thống AI tiên tiến cao.

Mặc dù việc so sánh AI với vũ khí hạt nhân có thể dường như quá mức, các nhà lãnh đạo toàn cầu đã xem AI là một tài sản quân sự quan trọng. Lầu Năm Góc đã lưu ý rằng AI đang thúc đẩy chuỗi tiêu diệt của quân đội.

Các tác giả giới thiệu ý tưởng về Sự cố AI Đảm bảo Lẫn nhau (MAIM), nơi các chính phủ có thể thực hiện hành động phủ đầu để vô hiệu hóa các dự án AI đe dọa thay vì chờ đợi đối thủ vũ khí hóa AGI.

Schmidt, Wang và Hendrycks khuyến nghị Mỹ chuyển trọng tâm từ "thắng cuộc đua siêu trí tuệ" sang phát triển các phương pháp để ngăn chặn các quốc gia khác tạo ra AI siêu trí tuệ. Họ đề xuất chính phủ nên "mở rộng kho vũ khí tấn công mạng để vô hiệu hóa các dự án AI đe dọa" do các quốc gia khác kiểm soát và hạn chế quyền truy cập của đối thủ vào các chip AI tiên tiến và mô hình mã nguồn mở.

Bài báo nhấn mạnh sự chia rẽ trong cộng đồng chính sách AI giữa những người "bi quan", tin rằng các kết quả thảm khốc của AI là không thể tránh khỏi và ủng hộ việc làm chậm tiến độ AI, và những người "lạc quan", thúc đẩy việc đẩy nhanh phát triển AI và hy vọng điều tốt nhất.

Các tác giả đề xuất một con đường thứ ba: một cách tiếp cận thận trọng đối với phát triển AGI nhấn mạnh các chiến lược phòng thủ.

Lập trường này đặc biệt đáng chú ý từ Schmidt, người trước đây đã nhấn mạnh sự cần thiết để Mỹ cạnh tranh quyết liệt với Trung Quốc trong phát triển AI. Chỉ vài tháng trước, Schmidt đã viết một bài xã luận nói rằng DeepSeek đánh dấu một thời điểm quan trọng trong cuộc đua AI Mỹ-Trung.

Mặc dù chính quyền Trump quyết tâm thúc đẩy sự phát triển AI của Mỹ, các đồng tác giả nhắc nhở rằng các quyết định của Mỹ về AGI có tác động toàn cầu.

Khi thế giới theo dõi sự thúc đẩy của Mỹ vào AI, Schmidt và các đồng tác giả của ông cho rằng một chiến lược phòng thủ hơn có thể là lựa chọn khôn ngoan hơn.