AI mới của Anthropic: Giá cả phải chăng để đào tạo

Mô hình AI mới nhất của Anthropic, Claude 3.7 Sonnet, được cho là đã được huấn luyện chỉ với vài chục triệu đô la, sử dụng ít hơn 10^26 FLOPs sức mạnh tính toán. Thông tin này đến từ giáo sư Wharton Ethan Mollick, người đã chia sẻ trên X rằng ông nhận được thông tin trực tiếp từ đội ngũ PR của Anthropic. Họ nói với ông: "Tôi được Anthropic liên hệ và họ nói rằng Sonnet 3.7 không được xem là mô hình 10^26 FLOP và chi phí vài chục triệu đô la," mặc dù họ ám chỉ rằng các mô hình tương lai sẽ lớn hơn rất nhiều.

TechCrunch đã cố gắng tìm hiểu thêm từ Anthropic nhưng không nhận được phản hồi trước khi bài báo của họ được đăng.

Nếu Claude 3.7 Sonnet thực sự chỉ tốn vài chục triệu đô la để huấn luyện, thì thật đáng kinh ngạc khi nghĩ rằng việc triển khai các mô hình AI hàng đầu đang trở nên rẻ hơn bao nhiêu. Để bạn hình dung, Claude 3.5, ra mắt vào mùa thu năm 2024, cũng tốn vài chục triệu đô la để huấn luyện, theo lời CEO của Anthropic, Dario Amodei.

Khi so sánh những con số này với chi phí huấn luyện các mô hình lớn từ năm 2023, điều đó còn ấn tượng hơn. OpenAI đã chi hơn 100 triệu đô la để đưa mô hình GPT-4 vào hoạt động, theo lời CEO của họ, Sam Altman. Còn Google? Họ đã chi gần 200 triệu đô la cho mô hình Gemini Ultra, theo một nghiên cứu của Stanford.

Nhưng khoan đã, Amodei nghĩ rằng chi phí cho các mô hình AI trong tương lai có thể lên đến hàng tỷ đô la. Và hãy nhớ rằng, chi phí huấn luyện chỉ là một phần của bức tranh. Còn có kiểm tra an toàn, nghiên cứu cơ bản, và tất cả những thứ liên quan. Thêm vào đó, khi thế giới AI bắt đầu tập trung vào các mô hình "suy luận" xử lý vấn đề lâu hơn, chi phí để duy trì hoạt động của các mô hình này có lẽ sẽ tiếp tục tăng.