Giấy an toàn AGI của Deepmind không gây hoài nghi

# deepmind # agi

Vào thứ Tư, Google Deepmind đã bỏ một tờ giấy dài 145 trang đi sâu vào cách tiếp cận của họ đối với sự an toàn của AGI. AGI, hay trí thông minh chung nhân tạo, là loại AI có thể giải quyết bất kỳ nhiệm vụ nào mà con người có thể, và đó là một chủ đề nóng trong thế giới AI. Một số người nghĩ rằng đó chỉ là một ảo mộng, trong khi những người khác, như những bức ảnh lớn tại Anthropic, tin rằng nó nằm ngay xung quanh khúc quanh và có thể gây ra một số rắc rối nghiêm trọng nếu chúng ta kiểm soát các biện pháp an toàn. Bài báo của DeepMind, được chấp nhận sự giúp đỡ từ người đồng sáng lập Shane Legg, cho rằng AGI có thể xuất hiện vào năm 2030 và có thể dẫn đến những gì họ gọi là "tác hại nghiêm trọng". Họ không đánh vần chính xác, nhưng họ ném xung quanh các cụm từ đáng sợ như "rủi ro hiện sinh" có thể "phá hủy vĩnh viễn nhân loại". "Chúng tôi đặt cược vào việc nhìn thấy một AGI đặc biệt trước thập kỷ này", các tác giả lưu ý. "Một AGI đặc biệt là một hệ thống có thể phù hợp với các kỹ năng của 1% người lớn hàng đầu trong một loạt các nhiệm vụ phi vật lý, bao gồm những thứ khó khăn như học các kỹ năng mới." Ngay từ đầu, bài báo so sánh cách xử lý rủi ro AGI của DeepMind với cách nhân học và Openai làm điều đó. Nó nói rằng nhân học không lớn trong "đào tạo, giám sát và bảo mật mạnh mẽ", trong khi Openai của Openai về "tự động hóa" một loại nghiên cứu an toàn AI có tên là Alignment Research. Bài báo cũng ném một số bóng râm vào ý tưởng về AI SuperintElgent - AI tốt hơn trong công việc hơn bất kỳ con người nào. . Nhưng họ nghĩ rằng có thể các phương pháp hiện tại của chúng tôi có thể dẫn đến "cải tiến AI đệ quy", nơi AI thực hiện nghiên cứu AI của riêng mình để tạo ra các hệ thống AI thông minh hơn. Và điều đó, họ cảnh báo, có thể siêu nguy hiểm. Nhìn chung, bài viết cho thấy chúng ta cần phát triển các cách để giữ cho các diễn viên xấu tránh xa AGI, hiểu rõ hơn về hệ thống AI đang làm gì và làm cho môi trường hoạt động AI an toàn hơn. Họ thừa nhận rất nhiều trong số những ý tưởng này vẫn đang trong giai đoạn đầu và có "vấn đề nghiên cứu mở", nhưng họ kêu gọi chúng tôi không bỏ qua các vấn đề an toàn có thể xảy ra theo cách của chúng tôi. "AGI có thể mang lại những lợi ích đáng kinh ngạc hoặc tổn hại nghiêm trọng", các tác giả chỉ ra. "Vì vậy, để xây dựng AGI đúng cách, điều quan trọng đối với các nhà phát triển AI hàng đầu để lên kế hoạch trước và giải quyết những rủi ro lớn đó." Mặc dù vậy, không phải ai cũng ở trên tàu với ý tưởng của tờ giấy. Heidy Khlaaf, nhà khoa học AI trưởng tại Viện AI phi lợi nhuận hiện nay, nói với TechCrunch rằng cô nghĩ rằng AGI quá mờ nhạt là một khái niệm "được đánh giá nghiêm ngặt một cách khoa học". Một nhà nghiên cứu AI khác, Matthew Guzdial từ Đại học Alberta, cho biết ông không tin rằng cải thiện AI đệ quy là có thể thực hiện được ngay bây giờ. "Cải thiện đệ quy là những gì mà các lập luận kỳ dị tình báo dựa trên", Guzdial nói với TechCrunch, "nhưng chúng tôi chưa bao giờ thấy bất kỳ bằng chứng nào cho thấy nó thực sự hoạt động." Sandra Wachter, người nghiên cứu công nghệ và quy định tại Oxford, chỉ ra một lo lắng cấp bách hơn: AI củng cố bản thân với "đầu ra không chính xác". "Với ngày càng nhiều nội dung do AI tạo ra trực tuyến và dữ liệu thực được thay thế, các mô hình đang học hỏi từ các đầu ra của chính họ đầy những điểm không chính xác hoặc ảo giác", cô nói với TechCrunch. "Vì chatbot chủ yếu được sử dụng để tìm kiếm và tìm ra sự thật, chúng tôi luôn có nguy cơ được cho ăn thông tin sai lệch được trình bày theo một cách rất thuyết phục." Kỹ lưỡng như vậy, bài báo của DeepMind có lẽ sẽ không kết thúc các cuộc tranh luận về việc AGI thực sự có khả năng như thế nào - và vấn đề an toàn của AI cần sự chú ý nhất ngay bây giờ.

Bài viết liên quan

Nhận xét (45)