Các nhà nghiên cứu phát triển đối thủ nguồn mở thành mô hình 'lý luận' $ 50 của Openai với giá dưới 50 đô la

Thứ Sáu tuần trước, một bài báo nghiên cứu đột phá từ các chuyên gia AI tại Stanford và Đại học Washington đã gây chú ý, tiết lộ rằng họ đã phát triển một mô hình AI "suy luận" có tên s1 với chi phí dưới 50 đô la tín dụng tính toán đám mây. Phát hiện này đang làm rung chuyển thế giới AI, vì s1 có thể sánh ngang với các mô hình hàng đầu như o1 của OpenAI và R1 của DeepSeek khi đối mặt với các thách thức về toán học và lập trình.

Mô hình s1, cùng với tất cả chi tiết hấp dẫn về dữ liệu huấn luyện và mã nguồn của nó, hiện đã có sẵn trên GitHub. Nhóm nghiên cứu bắt đầu với một mô hình cơ bản thông thường và sau đó đưa nó qua quá trình tinh cất bằng một kỹ thuật gọi là chưng cất. Quá trình này liên quan đến việc trích xuất "nước cốt suy luận" từ một mô hình AI khác bằng cách huấn luyện dựa trên các phản hồi của nó. Trong trường hợp này, s1 đã học được sự thông minh từ mô hình Gemini 2.0 Flash Thinking Experimental của Google. Đây là một chiến thuật tương tự như những gì các nhà nghiên cứu tại Berkeley đã sử dụng để tạo ra mô hình suy luận AI của riêng họ với chi phí khoảng 450 đô la chỉ trong tháng trước.

Đối với một số người, ý tưởng rằng một nhóm nghiên cứu nhỏ vẫn có thể tạo ra sóng gió trong lĩnh vực AI mà không cần ngân sách khổng lồ là điều thú vị. Nhưng sự xuất hiện của s1 cũng đặt ra một số câu hỏi nghiêm túc về tương lai của việc phát triển mô hình AI. Nếu một mô hình cạnh tranh với những mô hình được xây dựng bằng hàng triệu đô la có thể được sao chép với ngân sách eo hẹp, điều gì ngăn cản mọi người làm điều tương tự?

Không ngạc nhiên khi các gã khổng lồ trong lĩnh vực AI không hài lòng. Chẳng hạn, OpenAI đã chỉ trích DeepSeek, cáo buộc họ sử dụng dữ liệu API của mình để thúc đẩy quá trình chưng cất mô hình. Trong khi đó, nhóm s1 tập trung vào việc tìm cách đơn giản nhất để đạt được hiệu suất suy luận vững chắc và một thứ gọi là "tăng quy mô thời gian kiểm tra," nơi một mô hình AI có thêm thời gian để suy nghĩ trước khi trả lời. Đây cũng là những cải tiến mà mô hình o1 của OpenAI đã mang lại, và những công ty khác như DeepSeek đã cố gắng bắt chước theo cách riêng của họ.

Bài báo về s1 gợi ý rằng bạn có thể chưng cất các mô hình suy luận với một tập dữ liệu tương đối nhỏ bằng kỹ thuật được gọi là tinh chỉnh có giám sát (SFT). Điều này liên quan đến việc huấn luyện mô hình AI để sao chép các hành vi cụ thể từ một tập dữ liệu, và nó rẻ hơn so với học tăng cường quy mô lớn mà DeepSeek đã sử dụng cho mô hình R1 của họ, vốn cạnh tranh với o1 của OpenAI.

Google cung cấp Gemini 2.0 Flash Thinking Experimental miễn phí thông qua nền tảng Google AI Studio, mặc dù có giới hạn hàng ngày. Nhưng có một vấn đề—điều khoản của Google không cho phép kỹ nghệ ngược các mô hình của họ để tạo ra các dịch vụ cạnh tranh. Chúng tôi đang chờ phản hồi từ Google về việc này.

Bản thân mô hình s1 bắt đầu như một mô hình AI thông thường từ phòng thí nghiệm Qwen của Alibaba, mà bất kỳ ai cũng có thể tải xuống miễn phí. Để huấn luyện s1, các nhà nghiên cứu đã xây dựng một tập dữ liệu chỉ gồm 1.000 câu hỏi được chọn lọc cẩn thận, cùng với các câu trả lời và quá trình "suy nghĩ" đằng sau mỗi câu, nhờ vào Gemini 2.0 của Google. Toàn bộ quá trình huấn luyện mất chưa đến 30 phút trên 16 GPU Nvidia H100. Theo Niklas Muennighoff, một nhà nghiên cứu tại Stanford tham gia dự án, bạn có thể thực hiện điều này ngày hôm nay với chi phí tính toán khoảng 20 đô la.

Các nhà nghiên cứu cũng thực hiện một động thái thông minh để khiến s1 kiểm tra lại công việc của mình và kéo dài thời gian "suy nghĩ"—họ chỉ đơn giản bảo nó "chờ." Việc thêm từ này trong quá trình suy luận của s1 đã giúp nó đưa ra câu trả lời chính xác hơn một chút, theo bài báo.

Nhìn về phía trước đến năm 2025, các gã khổng lồ công nghệ như Meta, Google và Microsoft được dự đoán sẽ đổ hàng trăm tỷ đô la vào cơ sở hạ tầng AI, phần lớn trong số đó sẽ dành cho việc huấn luyện làn sóng mô hình AI tiếp theo. Mặc dù chưng cất được chứng minh là một cách hiệu quả để tái tạo khả năng AI với chi phí thấp, nhưng nó sẽ không dẫn đến việc tạo ra các mô hình AI đột phá hoàn toàn mới trong thời gian gần.