Noam Brown: Các mô hình AI 'Lý luận' có thể đã xuất hiện hàng thập kỷ trước

Noam Brown, một nhà nghiên cứu hàng đầu về lý luận AI tại OpenAI, gần đây đã chia sẻ những hiểu biết tại hội nghị GTC của Nvidia ở San Jose, cho rằng những tiến bộ trong AI "lý luận" có thể đã đạt được từ 20 năm trước nếu các phương pháp và thuật toán phù hợp được biết đến. Ông giải thích, "Có nhiều lý do khác nhau khiến hướng nghiên cứu này bị bỏ qua," nhấn mạnh một khoảng trống trong cách tiếp cận lẽ ra có thể được lấp đầy sớm hơn nhiều.

Nhìn lại hành trình nghiên cứu của mình, Brown nhận thấy một điều quan trọng: "Tôi nhận ra trong quá trình nghiên cứu rằng, OK, có điều gì đó đang thiếu. Con người dành nhiều thời gian suy nghĩ trước khi hành động trong một tình huống khó khăn. Có lẽ điều này sẽ rất hữu ích [trong AI]." Quan sát này đã dẫn ông đến việc phát triển các mô hình AI mô phỏng lý luận giống con người, thay vì chỉ dựa vào sức mạnh tính toán.

Công trình của ông tại Đại học Carnegie Mellon, đặc biệt với AI Pluribus, đã đánh bại các tay chơi poker hàng đầu, là một ví dụ điển hình cho cách tiếp cận này. Pluribus mang tính đột phá vì nó sử dụng lý luận để giải quyết vấn đề, trái ngược với các phương pháp dựa trên sức mạnh tính toán phổ biến vào thời điểm đó.

Tại OpenAI, Brown đã đóng góp vào việc phát triển o1, một mô hình AI sử dụng phương pháp được gọi là suy luận thời gian kiểm tra. Kỹ thuật này cho phép AI "suy nghĩ" trước khi phản hồi, nâng cao độ chính xác và độ tin cậy, đặc biệt trong các lĩnh vực như toán học và khoa học.

Trong buổi thảo luận, Brown đã đề cập đến thách thức của nghiên cứu học thuật khi cạnh tranh với quy mô các thí nghiệm được thực hiện bởi các phòng thí nghiệm AI lớn như OpenAI. Ông thừa nhận khó khăn ngày càng tăng do nhu cầu tính toán ngày càng lớn của các mô hình hiện đại, nhưng đề xuất rằng các học giả vẫn có thể đóng góp đáng kể bằng cách tập trung vào các lĩnh vực yêu cầu ít sức mạnh tính toán hơn, chẳng hạn như thiết kế kiến trúc mô hình.

Ông nhấn mạnh tiềm năng hợp tác giữa học thuật và các phòng thí nghiệm tiên phong, nói rằng, "[C]ó cơ hội hợp tác giữa các phòng thí nghiệm tiên phong [và học thuật]. Chắc chắn, các phòng thí nghiệm tiên phong đang xem xét các ấn phẩm học thuật và suy nghĩ cẩn thận rằng, OK, liệu điều này có đưa ra một lập luận thuyết phục rằng, nếu được mở rộng hơn, nó sẽ rất hiệu quả. Nếu có lập luận thuyết phục từ bài báo, bạn biết đấy, chúng tôi sẽ điều tra điều đó trong các phòng thí nghiệm này."

Những bình luận của Brown đặc biệt đúng lúc khi chính quyền Trump đã đề xuất cắt giảm đáng kể ngân sách cho khoa học, một động thái bị các chuyên gia AI chỉ trích, bao gồm Geoffrey Hinton, những người cho rằng các cắt giảm này có thể gây nguy hiểm cho các nỗ lực nghiên cứu AI trên toàn cầu.

Ông cũng chỉ ra vai trò quan trọng của học thuật trong việc cải thiện chuẩn mực đánh giá AI, lưu ý, "Tình trạng các chuẩn mực trong AI thực sự rất tệ, và điều đó không yêu cầu nhiều sức mạnh tính toán để thực hiện." Các chuẩn mực AI hiện tại thường tập trung vào kiến thức không rõ ràng và không phản ánh chính xác các khả năng quan trọng nhất đối với người dùng, dẫn đến sự nhầm lẫn về tiềm năng thực sự và tiến bộ của các mô hình AI.

Cập nhật lúc 4:06 chiều PT: Một phiên bản trước của bài viết này ngụ ý rằng Brown đang đề cập đến các mô hình lý luận như o1 trong các nhận xét ban đầu của mình. Thực tế, ông đang nói về công trình của mình về AI chơi trò chơi trước thời gian tại OpenAI. Chúng tôi xin lỗi vì lỗi này.