英特尔资本以1900万美元的价格增强了Truefoundry，以扩展AI部署

TrueFoundry，一家由前Meta工程师创立的初创公司，成功在Intel Capital领投的新一轮融资中获得1900万美元。这家创新公司致力于帮助企业高效扩展AI系统，这一挑战自2022年11月ChatGPT推出以来，随着生成式AI（GenAI）的兴起变得日益重要。

GenAI的出现促使各种规模的企业探索AI整合，但该技术对大型语言模型的依赖需要大量计算能力。并非每家企业都能获得大量GPU，因此GPU优化至关重要。此外，企业必须试验多种模型以找到最适合其需求的模型，并进行微调以提升与业务的相关性。

TrueFoundry通过其平台即服务模式解决这些问题，专为全栈数据科学家设计。该平台提供自动扩展、主动维护、集中访问控制和实时监控等功能，简化整个AI部署流程。

TrueFoundry由Nikunj Bajaj、Abhishek Choudhary和Anuraag Gutgutia——均为前Meta工程师及IIT Kharagpur校友——于2021年6月推出，最初专注于加速跨不同云环境的机器学习部署。随着2023年GenAI的普及，这家初创公司调整其系统以支持GenAI功能。

“过去，数据科学家仅限于处理模型和实验。实际部署通常交给ML工程师。我们的系统使数据科学家能够自行大规模构建和测试这些复杂系统，然后交给平台团队进行最终部署，”Gutgutia在独家采访中解释道。

该初创公司的旗舰产品是一个自动驾驶系统，利用AI分析日志和指标，通过优化GPU使用和内存管理需求帮助扩展AI应用。Gutgutia向TechCrunch透露，TrueFoundry的一家客户仅靠两人团队，使用该系统即可处理每秒1000万个请求。

TrueFoundry在全球拥有30家付费客户，许多用户利用其开源RAG框架进行实验。其客户中，Nvidia使用TrueFoundry的软件优化其GPU集群，ResMed则用其构建内部AI平台。其他知名客户包括Siemens Healthineers、Automation Anywhere、Games24x7和Whatfix。

该软件基于Kubernetes构建，确保与AWS、Google Cloud Platform和Azure等主要云平台兼容，也可本地部署。使用TrueFoundry的企业报告称，仅需两个月即可构建并推出内部AI平台，四个月实现投资回报，远快于行业平均14个月。Bajaj指出，客户的基础设施成本降低40-50%，部署速度提高10倍。

虽然Amazon和Google等云厂商推出了自己的AI部署解决方案，如SageMaker和Vertex，Gutgutia向TechCrunch强调，TrueFoundry仍不可或缺。它加速云提供商的计算资源利用，缩短AI应用上市时间，并降低总体成本。

此次A轮融资全为股权融资，参与者包括Eniac Ventures、Peak XV Partners、Jump Capital及天使投资者Gokul Rajaram、Mohit Aron和Cyan Banister。

TrueFoundry计划用这笔资金将其印度45人团队扩展到美国，增加销售、客户成功和产品营销等市场职位。公司还旨在加强与云厂商的合作，计划从AWS Marketplace开始，进入主要云市场。

此外，TrueFoundry将推出一个AI代理，帮助推荐适当资源、实现自动扩展并协助故障排查。

通过本轮融资，TrueFoundry总计融资金额超过2100万美元，包括2022年9月由Peak XV（当时为Sequoia India）Surge领投的230万美元种子轮。去年，该初创公司客户群增长四倍，部署了超过1000个ML工作负载集群。Gutgutia向TechCrunch透露，TrueFoundry的年经常性收入超过150万美元，计划在未来一年翻倍。