Eric Schmidt phản đối dự án Agi Manhattan

# openai # China # agi

Trong một bài báo chính sách được phát hành vào thứ Tư, cựu Giám đốc điều hành của Google, Eric Schmidt, cùng với Giám đốc điều hành AI AIA ALEXANDR và ​​Trung tâm Giám đốc An toàn AI Dan Hendrycks, đã tư vấn chống lại Hoa Kỳ đưa ra một sáng kiến ​​theo phong cách dự án Manhattan để phát triển hệ thống AI với trí thông minh "siêu phàm", thường được gọi là AGI. Với tiêu đề "Chiến lược siêu thị", bài báo cảnh báo rằng một nỗ lực của Hoa Kỳ nhằm độc quyền AI Superintellect có thể gây ra phản ứng mạnh mẽ từ Trung Quốc, có thể dưới dạng một cuộc tấn công mạng, có thể phá vỡ quan hệ toàn cầu. Các đồng tác giả lập luận, "một dự án Manhattan cho AGI cho rằng các đối thủ sẽ chấp nhận sự mất cân bằng hoặc giết người lâu dài thay vì di chuyển để ngăn chặn nó. Bài viết này, được chấp bút bởi ba nhân vật quan trọng trong khu vực AI của Mỹ, đến ngay sau khi một ủy ban quốc hội Hoa Kỳ đề xuất một sáng kiến ​​"theo kiểu dự án Manhattan" để tài trợ cho sự phát triển của AGI, thu hút sự tương đồng với dự án bom nguyên tử của Hoa Kỳ những năm 1940. Bộ trưởng Năng lượng Hoa Kỳ Chris Wright gần đây đã tuyên bố Hoa Kỳ là "Sự khởi đầu của một dự án Manhattan mới" trên AI, phát biểu tại một trang web siêu máy tính với đồng sáng lập Openai, Greg Brockman bên cạnh. Bài viết chiến lược của SuperIntelleD thách thức sự thúc đẩy gần đây của một số nhà lãnh đạo chính sách và ngành công nghiệp của Mỹ, những người tin rằng một chương trình AGI được chính phủ hậu thuẫn là cách tốt nhất để theo kịp Trung Quốc. Schmidt, Wang và Hendrycks nhìn thấy Hoa Kỳ trong một tình huống gần giống với một cuộc đình công đối với AGI, tương tự như khái niệm về sự hủy diệt được đảm bảo lẫn nhau. Giống như các quốc gia tránh độc quyền vũ khí hạt nhân để ngăn chặn các cuộc đình công phủ đầu, các tác giả cho rằng Hoa Kỳ nên cảnh giác khi vội vã thống trị các hệ thống AI cao cấp cao. Mặc dù so sánh AI với vũ khí hạt nhân có vẻ như trên đỉnh cao, các nhà lãnh đạo toàn cầu đã xem AI là một tài sản quân sự quan trọng. Lầu năm góc đã lưu ý rằng AI đang tăng tốc chuỗi giết người của quân đội. Các tác giả giới thiệu ý tưởng về sự cố AI (MAIM) được đảm bảo lẫn nhau, nơi các chính phủ có thể có hành động phủ đầu để vô hiệu hóa các dự án AI đe dọa thay vì chờ đợi những kẻ thù vũ khí hóa AGI. Schmidt, Wang và Hendrycks khuyến nghị Hoa Kỳ nên chuyển trọng tâm từ "chiến thắng cuộc đua sang SuperIntellect" sang các phương pháp phát triển để ngăn chặn các quốc gia khác tạo ra AI Superintellect. Họ đề nghị chính phủ nên "mở rộng kho vũ khí của các cuộc tấn công mạng để vô hiệu hóa các dự án AI đe dọa" được kiểm soát bởi các quốc gia khác và hạn chế quyền truy cập của đối thủ đối với các chip AI tiên tiến và các mô hình nguồn mở. Bài viết nhấn mạnh một sự chia rẽ trong cộng đồng chính sách AI giữa "những kẻ diệt vong", người tin rằng kết quả AI thảm khốc là không thể tránh khỏi và ủng hộ cho việc làm chậm tiến trình của AI, và "con đà điểu", người thúc đẩy tăng tốc phát triển AI và hy vọng điều tốt nhất. Các tác giả đề xuất một con đường thứ ba: một cách tiếp cận thận trọng để phát triển AGI nhấn mạnh các chiến lược phòng thủ. Lập trường này đặc biệt đáng chú ý từ Schmidt, người trước đây đã nhấn mạnh sự cần thiết của Hoa Kỳ để cạnh tranh tích cực với Trung Quốc trong sự phát triển của AI. Chỉ vài tháng trước, Schmidt đã viết một OP-ED nói rằng Deepseek đã đánh dấu một khoảnh khắc quan trọng trong cuộc đua AI Hoa Kỳ-Trung Quốc. Mặc dù chính quyền Trump quyết tâm thúc đẩy sự phát triển AI của Mỹ, các đồng tác giả nhắc nhở chúng tôi rằng các quyết định của Hoa Kỳ về AGI có ý nghĩa toàn cầu. Khi thế giới quan sát sự thúc đẩy của Mỹ vào AI, Schmidt và các đồng tác giả của anh ta cho rằng một chiến lược phòng thủ hơn có thể là lựa chọn khôn ngoan hơn.

Bài viết liên quan

Nhận xét (20)