Intel Capital tăng TrueFoundry với 19 triệu đô la để mở rộng triển khai AI

TrueFoundry, một công ty khởi nghiệp được thành lập bởi các cựu kỹ sư của Meta, đã thành công huy động được 19 triệu USD trong vòng gọi vốn mới do Intel Capital dẫn đầu. Công ty đổi mới này chuyên hỗ trợ các doanh nghiệp mở rộng hệ thống AI của họ một cách hiệu quả, một thách thức ngày càng trở nên quan trọng với sự nổi lên của AI tạo sinh (GenAI) kể từ khi ChatGPT ra mắt vào tháng 11 năm 2022.

Sự xuất hiện của GenAI đã thúc đẩy các doanh nghiệp ở mọi quy mô khám phá việc tích hợp AI, nhưng công nghệ này phụ thuộc vào các mô hình ngôn ngữ lớn đòi hỏi sức mạnh tính toán đáng kể. Không phải doanh nghiệp nào cũng có khả năng tiếp cận nhiều GPU, khiến việc tối ưu hóa GPU trở nên quan trọng. Ngoài ra, các công ty phải thử nghiệm với nhiều mô hình khác nhau để tìm ra mô hình phù hợp nhất với nhu cầu của họ và tinh chỉnh chúng để tăng tính liên quan đến hoạt động của mình.

TrueFoundry giải quyết các vấn đề này thông qua mô hình nền tảng như một dịch vụ, được thiết kế đặc biệt cho các nhà khoa học dữ liệu toàn diện. Nền tảng này cung cấp các tính năng như tự động mở rộng, bảo trì chủ động, kiểm soát truy cập tập trung và giám sát thời gian thực, giúp đơn giản hóa toàn bộ quá trình triển khai AI.

Ra mắt vào tháng 6 năm 2021 bởi Nikunj Bajaj, Abhishek Choudhary và Anuraag Gutgutia—tất cả đều là cựu kỹ sư của Meta và cựu sinh viên IIT Kharagpur—TrueFoundry ban đầu tập trung vào việc đẩy nhanh triển khai học máy trên các môi trường đám mây khác nhau. Khi GenAI trở nên phổ biến vào năm 2023, công ty khởi nghiệp này đã điều chỉnh hệ thống của mình để hỗ trợ các khả năng của GenAI.

“Trong quá khứ, các nhà khoa học dữ liệu bị giới hạn trong việc làm việc với các mô hình và thử nghiệm. Việc triển khai thực tế thường được giao cho các kỹ sư học máy. Với hệ thống của chúng tôi, chúng tôi trao quyền cho các nhà khoa học dữ liệu để tự xây dựng và thử nghiệm các hệ thống phức tạp này ở quy mô lớn trước khi chuyển giao cho đội ngũ nền tảng để triển khai cuối cùng,” Gutgutia giải thích trong một cuộc phỏng vấn độc quyền.

Sản phẩm chủ lực của công ty khởi nghiệp là một hệ thống tự động sử dụng AI để phân tích nhật ký và số liệu, giúp mở rộng các ứng dụng AI bằng cách tối ưu hóa việc sử dụng GPU và quản lý yêu cầu bộ nhớ. Gutgutia chia sẻ với TechCrunch rằng một trong những khách hàng của TrueFoundry, chỉ hoạt động với đội ngũ hai người, đã quản lý được 10 triệu yêu cầu mỗi giây bằng cách sử dụng hệ thống này.

TrueFoundry tự hào có 30 khách hàng trả phí trên toàn cầu, cùng với nhiều người dùng tận dụng khung RAG mã nguồn mở của mình để thử nghiệm. Trong số các khách hàng, Nvidia sử dụng phần mềm của TrueFoundry để tối ưu hóa các cụm GPU của mình, trong khi ResMed sử dụng nó để xây dựng một nền tảng AI nội bộ. Các khách hàng đáng chú ý khác bao gồm Siemens Healthineers, Automation Anywhere, Games24x7 và Whatfix.

Phần mềm được xây dựng trên Kubernetes, đảm bảo tương thích với các nền tảng đám mây lớn như AWS, Google Cloud Platform và Azure, và cũng có thể được triển khai tại chỗ. Các doanh nghiệp sử dụng TrueFoundry đã báo cáo rằng họ xây dựng và ra mắt các nền tảng AI nội bộ chỉ trong hai tháng, đạt được lợi tức đầu tư trong bốn tháng, nhanh hơn đáng kể so với mức trung bình ngành là 14 tháng. Bajaj lưu ý rằng khách hàng đã giảm được 40-50% chi phí cơ sở hạ tầng và cải thiện tốc độ triển khai gấp 10 lần.

Mặc dù các nhà cung cấp đám mây như Amazon và Google đã giới thiệu các giải pháp triển khai AI của riêng họ như SageMaker và Vertex, Gutgutia nhấn mạnh với TechCrunch rằng TrueFoundry vẫn rất cần thiết. Nó đẩy nhanh việc sử dụng tài nguyên tính toán cho các nhà cung cấp đám mây, tăng tốc thời gian đưa ứng dụng AI ra thị trường và giảm tổng chi phí.

Vòng gọi vốn Series A, hoàn toàn dựa trên vốn cổ phần, có sự tham gia của Eniac Ventures, Peak XV Partners, Jump Capital và các nhà đầu tư thiên thần bao gồm Gokul Rajaram, Mohit Aron và Cyan Banister.

TrueFoundry dự định sử dụng số tiền để mở rộng đội ngũ từ 45 thành viên tại Ấn Độ để bao gồm các vị trí tiếp cận thị trường tại Mỹ, như bán hàng, hỗ trợ khách hàng và tiếp thị sản phẩm. Công ty cũng hướng đến việc tăng cường quan hệ đối tác, đặc biệt với các nhà cung cấp đám mây, và đang nỗ lực để được liệt kê trên các thị trường đám mây chính, bắt đầu với AWS Marketplace.

Hơn nữa, TrueFoundry chuẩn bị ra mắt một tác nhân AI sẽ giúp đề xuất các tài nguyên phù hợp, cho phép tự động mở rộng và hỗ trợ xử lý sự cố.

Với vòng gọi vốn mới nhất này, TrueFoundry đã huy động được tổng cộng hơn 21 triệu USD, bao gồm vòng hạt giống 2,3 triệu USD vào tháng 9 năm 2022 do Peak XV’s (lúc đó là Sequoia India) Surge dẫn đầu. Công ty khởi nghiệp này đã tăng gấp bốn lần cơ sở khách hàng trong năm ngoái và triển khai hơn 1.000 cụm cho khối lượng công việc học máy. Gutgutia tiết lộ với TechCrunch rằng doanh thu định kỳ hàng năm của TrueFoundry vượt quá 1,5 triệu USD, với kế hoạch tăng gấp đôi con số này trong năm tới.