AI chia tỷ lệ đột phá của các chuyên gia

Đã có một số xôn xao trên mạng xã hội về việc các nhà nghiên cứu phát hiện ra một "quy luật mở rộng" AI mới, nhưng các chuyên gia đang tiếp nhận nó với một chút nghi ngờ. Quy luật mở rộng AI, vốn giống như các hướng dẫn không chính thức, cho thấy cách các mô hình AI cải thiện khi bạn cung cấp nhiều dữ liệu và sức mạnh tính toán hơn. Cho đến khoảng một năm trước, xu hướng lớn là tập trung vào "huấn luyện trước" – cơ bản là huấn luyện các mô hình lớn hơn trên các tập dữ liệu lớn hơn. Điều đó vẫn đang diễn ra, nhưng giờ đây chúng ta có thêm hai quy luật mở rộng mới: mở rộng sau huấn luyện, tập trung vào việc điều chỉnh hành vi của mô hình, và mở rộng thời gian kiểm tra, liên quan đến việc sử dụng nhiều sức mạnh tính toán hơn trong quá trình suy luận để tăng cường khả năng "suy luận" của mô hình (nghĩ đến các mô hình như R1).

Gần đây, các nhà nghiên cứu từ Google và UC Berkeley đã công bố một bài báo mà một số người trên mạng gọi là quy luật thứ tư: "tìm kiếm thời gian suy luận." Phương pháp này khiến mô hình đưa ra một loạt các câu trả lời có thể cho một truy vấn cùng lúc và sau đó chọn câu trả lời tốt nhất. Các nhà nghiên cứu tuyên bố rằng nó có thể nâng cao hiệu suất của một mô hình cũ hơn, như Gemini 1.5 Pro của Google, để vượt qua mô hình "suy luận" o1-preview của OpenAI trên các bài kiểm tra khoa học và toán học.

Eric Zhao, một nghiên cứu sinh tiến sĩ của Google và là đồng tác giả của bài báo, đã chia sẻ trên X rằng chỉ cần lấy mẫu ngẫu nhiên 200 câu trả lời và để mô hình tự xác minh, Gemini 1.5 – mà anh gọi đùa là "mô hình cổ xưa đầu năm 2024" – có thể vượt qua o1-preview và thậm chí tiến gần đến o1. Anh chỉ ra rằng việc tự xác minh trở nên dễ dàng hơn khi bạn mở rộng quy mô, điều này hơi trái ngược với trực giác nhưng rất thú vị.

Nhưng không phải ai cũng bị thuyết phục. Matthew Guzdial, một nhà nghiên cứu AI và trợ lý giáo sư tại Đại học Alberta, nói với TechCrunch rằng phương pháp này hoạt động tốt nhất khi bạn có một cách rõ ràng để đánh giá các câu trả lời. Tuy nhiên, hầu hết các câu hỏi không đơn giản như vậy. Anh nói, "Nếu chúng ta không thể viết mã để xác định điều chúng ta muốn, chúng ta không thể sử dụng tìm kiếm [thời gian suy luận]. Đối với tương tác ngôn ngữ chung, chúng ta không thể làm điều này... Nó thường không phải là cách tiếp cận tốt để thực sự giải quyết hầu hết các vấn đề."

Zhao phản hồi, nói rằng bài báo của họ thực sự xem xét các trường hợp mà bạn không có cách rõ ràng để đánh giá các câu trả lời, và mô hình phải tự tìm ra. Anh lập luận rằng khoảng cách giữa việc có cách đánh giá rõ ràng và không có cách đó có thể thu hẹp khi bạn mở rộng quy mô.

Mike Cook, một nghiên cứu sinh tại King's College London, ủng hộ quan điểm của Guzdial, nói rằng tìm kiếm thời gian suy luận không thực sự cải thiện khả năng suy luận của mô hình. Nó giống như một cách khắc phục cho xu hướng sai lầm đầy tự tin của mô hình. Anh chỉ ra rằng nếu mô hình của bạn sai 5% thời gian, việc kiểm tra 200 lần thử sẽ giúp phát hiện những sai lầm đó dễ dàng hơn.

Tin tức này có thể là một chút thất vọng đối với ngành công nghiệp AI, vốn luôn tìm kiếm cách để tăng cường khả năng "suy luận" của mô hình mà không tốn quá nhiều chi phí. Như các tác giả của bài báo đã lưu ý, các mô hình suy luận có thể tiêu tốn hàng ngàn đô la chi phí tính toán chỉ để giải một bài toán.

Có vẻ như cuộc tìm kiếm các kỹ thuật mở rộng mới vẫn còn lâu mới kết thúc.

Cập nhật 3/20 5:12 sáng theo giờ Thái Bình Dương: Bổ sung ý kiến từ đồng tác giả nghiên cứu Eric Zhao, người phản đối một đánh giá từ một nhà nghiên cứu độc lập đã phê bình công trình này.