Intel Capital tăng TrueFoundry với 19 triệu đô la để mở rộng triển khai AI

TrueFoundry, một công ty khởi nghiệp được thành lập bởi cựu kỹ sư Meta, đã bảo đảm thành công 19 triệu đô la trong vòng tài trợ mới do Intel Capital dẫn đầu. Công ty sáng tạo này được dành riêng để giúp các doanh nghiệp mở rộng quy mô hệ thống AI của họ một cách hiệu quả, một thách thức ngày càng phù hợp với sự gia tăng của AI (Genai) phát triển kể từ khi ra mắt TATGPT vào tháng 11 năm 2022.

Sự xuất hiện của Genai đã thúc đẩy các doanh nghiệp thuộc mọi quy mô khám phá sự tích hợp AI, nhưng sự phụ thuộc của công nghệ vào các mô hình ngôn ngữ lớn đòi hỏi sức mạnh tính toán đáng kể. Không phải mọi doanh nghiệp đều có quyền truy cập vào nhiều GPU, làm cho tối ưu hóa GPU trở nên quan trọng. Ngoài ra, các công ty phải thử nghiệm các mô hình khác nhau để xác định mô hình phù hợp nhất cho nhu cầu của họ và tinh chỉnh họ để tăng cường sự liên quan đến hoạt động của họ.

TrueFoundry đã giải quyết các vấn đề này thông qua mô hình dịch vụ nền tảng của nó, được thiết kế đặc biệt cho các nhà khoa học dữ liệu đầy đủ. Nền tảng này cung cấp các tính năng như tự động chia tỷ lệ, bảo trì chủ động, kiểm soát truy cập tập trung và giám sát thời gian thực, hợp lý hóa toàn bộ quy trình triển khai AI.

Ra mắt vào tháng 6 năm 2021 bởi Nikunj Bajaj, Abhishek Choudhary và Anuraag Gutgutia, tất cả các cựu kỹ sư meta và cựu sinh viên IIT Kharagpur, TrueFoundry, TrueFoundry ban đầu tập trung vào việc tăng tốc triển khai học máy trên các môi trường đám mây khác nhau. Khi Genai trở nên phổ biến vào năm 2023, công ty khởi nghiệp đã điều chỉnh hệ thống của mình để bao gồm hỗ trợ cho các khả năng của Genai.

Trước đây, các nhà khoa học dữ liệu bị giới hạn làm việc với các mô hình và thử nghiệm. Việc triển khai thực tế thường được trao cho các kỹ sư ML. Với hệ thống của chúng tôi, chúng tôi trao quyền cho các nhà khoa học dữ liệu xây dựng và kiểm tra các hệ thống phức tạp này theo quy mô trước khi chuyển chúng cho nhóm nền tảng để triển khai cuối cùng, Gutgutia giải thích trong một cuộc phỏng vấn riêng biệt.

Sản phẩm hàng đầu của Startup là một hệ thống lái tự động sử dụng AI để phân tích nhật ký và số liệu, giúp mở rộng các ứng dụng AI bằng cách tối ưu hóa việc sử dụng GPU và quản lý các yêu cầu bộ nhớ. Gutgutia đã chia sẻ với TechCrunch rằng một trong những khách hàng của TrueFoundry, hoạt động chỉ với một nhóm hai người, đã tìm cách xử lý 10 triệu yêu cầu mỗi giây bằng cách sử dụng hệ thống này.

TrueFoundry tự hào với 30 khách hàng được trả tiền trên toàn cầu, cùng với nhiều người dùng tận dụng khung RAG nguồn mở để thử nghiệm. Trong số các khách hàng của mình, NVIDIA sử dụng phần mềm của TruEFoundry để tối ưu hóa các cụm GPU của mình, trong khi ResMed sử dụng nó để xây dựng nền tảng AI nội bộ. Các khách hàng đáng chú ý khác bao gồm Siemens Healthineers, Tự động hóa ở bất cứ đâu, Games24x7 và Whatfix.

Phần mềm được xây dựng trên Kubernetes, đảm bảo khả năng tương thích với các nền tảng đám mây lớn như AWS, Google Cloud Platform và Azure và cũng có thể được triển khai tại chỗ. Các doanh nghiệp sử dụng TrueFoundry đã báo cáo xây dựng và ra mắt nền tảng AI nội bộ của họ chỉ trong hai tháng, đạt được ROI trong bốn tháng, nhanh hơn đáng kể so với mức trung bình của ngành là 14 tháng. Bajaj lưu ý rằng khách hàng đã thấy chi phí cơ sở hạ tầng giảm 40-50% và cải thiện gấp 10 lần tốc độ triển khai.

Trong khi các nhà cung cấp đám mây như Amazon và Google đã giới thiệu các giải pháp triển khai AI của riêng họ như Sagemaker và Vertex, Gutgutia nhấn mạnh với TechCrunch rằng TrueFoundry vẫn còn rất cần thiết. Nó tăng tốc sử dụng tài nguyên tính toán cho các nhà cung cấp đám mây, tăng tốc độ thời gian ứng dụng AI và giảm chi phí tổng thể.

Vòng tài trợ Series A, hoàn toàn dựa trên vốn chủ sở hữu, đã chứng kiến ​​sự tham gia của Eniac Ventures, Peak XV Partners, Jump Capital và Angel Investors bao gồm Gokul Rajaram, Mohit Aron và Cyan Banister.

TrueFoundry có kế hoạch sử dụng các quỹ để mở rộng nhóm của mình từ 45 thành viên ở Ấn Độ để bao gồm các vị trí tiếp thị ở Mỹ, như bán hàng, thành công của khách hàng và tiếp thị sản phẩm. Công ty cũng nhằm mục đích tăng cường quan hệ đối tác, đặc biệt là với các nhà cung cấp đám mây và đang làm việc để được liệt kê trong các thị trường đám mây quan trọng, bắt đầu với thị trường AWS.

Hơn nữa, TrueFoundry được thiết lập để khởi chạy một tác nhân AI sẽ giúp đề xuất các tài nguyên phù hợp, cho phép tự động chia tỷ lệ và hỗ trợ khắc phục sự cố.

Với vòng mới nhất này, TrueFoundry đã huy động được hơn 21 triệu đô la, bao gồm một vòng hạt giống 2,3 triệu đô la vào tháng 9 năm 2022 dẫn đầu bởi sự gia tăng của Peak XV (sau đó là Sequoia Ấn Độ). Khởi nghiệp đã tăng gấp bốn lần cơ sở khách hàng của mình vào năm ngoái và đã triển khai hơn 1.000 cụm cho khối lượng công việc ML. Gutgutia tiết lộ cho TechCrunch rằng doanh thu định kỳ hàng năm của TruEfoundry là hơn 1,5 triệu đô la, với kế hoạch tăng gấp đôi con số này trong năm tới.