英特爾資本以1900萬美元的價格增強了Truefoundry，以擴展AI部署

TrueFoundry，一家由前Meta工程師創立的初創公司，成功在由Intel Capital領投的新一輪融資中獲得1900萬美元。這家創新公司致力於幫助企業高效擴展其AI系統，這一挑戰自2022年11月ChatGPT推出以來，隨著生成式AI（GenAI）的興起而變得日益重要。

生成式AI的出現促使各規模企業探索AI整合，但該技術對大型語言模型的依賴需要大量計算能力。並非每家企業都能獲得眾多GPU，因此GPU優化至關重要。此外，企業必須試驗各種模型以找出最適合其需求的模型，並進行微調以提升與其業務的相關性。

TrueFoundry透過其平台即服務模型解決這些問題，專為全棧數據科學家設計。該平台提供自動擴展、主動維護、集中訪問控制和實時監控等功能，簡化整個AI部署流程。

TrueFoundry由Nikunj Bajaj、Abhishek Choudhary和Anuraag Gutgutia於2021年6月推出，三人皆為前Meta工程師及IIT Kharagpur校友，最初專注於加速跨不同雲環境的機器學習部署。隨著2023年生成式AI的普及，該初創公司調整其系統以支持生成式AI功能。

“過去，數據科學家僅限於模型操作與試驗，實際部署通常交由ML工程師。我們的系統賦能數據科學家自行大規模構建和測試這些複雜系統，然後再交給平台團隊進行最終部署，”Gutgutia在獨家採訪中解釋道。

該初創公司的旗艦產品是一個自動駕駛系統，利用AI分析日誌和指標，通過優化GPU使用和內存管理需求，幫助擴展AI應用。Gutgutia向TechCrunch透露，TrueFoundry的一位僅有兩人團隊的客戶，利用該系統成功處理每秒1000萬個請求。

TrueFoundry在全球擁有30家付費客戶，還有眾多用戶利用其開源RAG框架進行試驗。其客戶中，Nvidia使用TrueFoundry的軟件優化其GPU集群，而ResMed則用其構建內部AI平台。其他知名客戶包括Siemens Healthineers、Automation Anywhere、Games24x7和Whatfix。

該軟件基於Kubernetes構建，確保與AWS、Google Cloud Platform和Azure等主要雲平台兼容，也可本地部署。使用TrueFoundry的企業報告僅需兩個月即可構建並推出內部AI平台，四個月實現投資回報，遠快於行業平均14個月。Bajaj表示，客戶的基礎設施成本降低了40-50%，部署速度提升了10倍。

雖然Amazon和Google等雲供應商推出了自己的AI部署解決方案，如SageMaker和Vertex，但Gutgutia向TechCrunch強調，TrueFoundry仍然不可或缺。它加速了雲提供商計算資源的利用，縮短了AI應用上市時間，並降低了總體成本。

這輪A輪融資完全基於股權，參與者包括Eniac Ventures、Peak XV Partners、Jump Capital，以及Gokul Rajaram、Mohit Aron和Cyan Banister等天使投資人。

TrueFoundry計劃利用資金將其印度45人團隊擴展至美國，新增銷售、客戶成功和產品營銷等市場開拓職位。公司還旨在加強與雲供應商的合作，並正努力在主要雲市場（如AWS Marketplace）上架。

此外，TrueFoundry即將推出一個AI代理，幫助建議適當資源、啟用自動擴展並協助故障排除。

通過這輪融資，TrueFoundry總計籌資超過2100萬美元，包括2022年9月由Peak XV（當時為Sequoia India）Surge領投的230萬美元種子輪。該初創公司去年客戶基礎增長四倍，部署了超過1000個ML工作負載集群。Gutgutia向TechCrunch透露，TrueFoundry的年度經常性收入超過150萬美元，計劃在未來一年內翻倍。