Intel Capital steigert TrueFoundry mit 19 Millionen US -Dollar, um die KI -Bereitstellungen zu skalieren

TrueFoundry, ein von ehemaligen Meta-Ingenieuren gegründetes Startup, hat in einer neuen Finanzierungsrunde unter der Leitung von Intel Capital erfolgreich 19 Millionen Dollar eingesammelt. Dieses innovative Unternehmen widmet sich der Unterstützung von Unternehmen beim effizienten Skalieren ihrer KI-Systeme, eine Herausforderung, die mit dem Aufkommen generativer KI (GenAI) seit der Einführung von ChatGPT im November 2022 zunehmend relevant geworden ist.

Die Entstehung von GenAI hat Unternehmen aller Größen dazu veranlasst, die Integration von KI zu erkunden, aber die Abhängigkeit der Technologie von großen Sprachmodellen erfordert erhebliche Rechenleistung. Nicht jedes Unternehmen hat Zugang zu zahlreichen GPUs, weshalb die GPU-Optimierung entscheidend ist. Zudem müssen Unternehmen mit verschiedenen Modellen experimentieren, um das am besten geeignete für ihre Bedürfnisse zu finden und es zu optimieren, um die Relevanz für ihre Abläufe zu erhöhen.

TrueFoundry begegnet diesen Herausforderungen mit seinem Platform-as-a-Service-Modell, das speziell für Full-Stack-Datenwissenschaftler entwickelt wurde. Die Plattform bietet Funktionen wie automatische Skalierung, proaktive Wartung, zentralisierte Zugriffskontrollen und Echtzeitüberwachung, die den gesamten KI-Bereitstellungsprozess optimieren.

Im Juni 2021 von Nikunj Bajaj, Abhishek Choudhary und Anuraag Gutgutia – alle ehemalige Meta-Ingenieure und Alumni des IIT Kharagpur – gegründet, konzentrierte sich TrueFoundry zunächst auf die Beschleunigung von Machine-Learning-Bereitstellungen in verschiedenen Cloud-Umgebungen. Als GenAI 2023 an Popularität gewann, passte das Startup sein System an, um Unterstützung für GenAI-Funktionen einzuschließen.

„In der Vergangenheit waren Datenwissenschaftler darauf beschränkt, mit Modellen zu arbeiten und zu experimentieren. Die tatsächliche Bereitstellung wurde in der Regel an ML-Ingenieure übergeben. Mit unserem System befähigen wir Datenwissenschaftler, diese komplexen Systeme selbst in großem Maßstab zu entwickeln und zu testen, bevor sie an das Plattformteam für die endgültige Bereitstellung weitergegeben werden“, erklärte Gutgutia in einem exklusiven Interview.

Das Flaggschiffprodukt des Startups ist ein Autopilot-System, das KI nutzt, um Protokolle und Metriken zu analysieren, und hilft, KI-Anwendungen zu skalieren, indem es die GPU-Nutzung optimiert und Speicheranforderungen verwaltet. Gutgutia teilte TechCrunch mit, dass einer der Kunden von TrueFoundry, der mit einem Team von nur zwei Personen arbeitet, mit diesem System 10 Millionen Anfragen pro Sekunde bewältigen konnte.

TrueFoundry hat weltweit 30 zahlende Kunden sowie zahlreiche Nutzer, die sein Open-Source-RAG-Framework für Experimente nutzen. Zu den Kunden gehört Nvidia, das die Software von TrueFoundry zur Optimierung seiner GPU-Cluster einsetzt, während ResMed sie verwendet, um eine interne KI-Plattform aufzubauen. Weitere namhafte Kunden sind Siemens Healthineers, Automation Anywhere, Games24x7 und Whatfix.

Die Software basiert auf Kubernetes, was die Kompatibilität mit großen Cloud-Plattformen wie AWS, Google Cloud Platform und Azure gewährleistet, und kann auch vor Ort bereitgestellt werden. Unternehmen, die TrueFoundry nutzen, berichten, dass sie ihre internen KI-Plattformen in nur zwei Monaten aufbauen und starten konnten und in vier Monaten einen ROI erzielten, was deutlich schneller ist als der Branchendurchschnitt von 14 Monaten. Bajaj stellte fest, dass Kunden eine Reduktion der Infrastrukturkosten um 40-50 % und eine 10-fache Verbesserung der Bereitstellungsgeschwindigkeit verzeichneten.

Während Cloud-Anbieter wie Amazon und Google ihre eigenen KI-Bereitstellungslösungen wie SageMaker und Vertex eingeführt haben, betonte Gutgutia gegenüber TechCrunch, dass TrueFoundry unverzichtbar bleibt. Es beschleunigt die Nutzung von Rechenressourcen für Cloud-Anbieter, verkürzt die Markteinführungszeit von KI-Anwendungen und senkt die Gesamtkosten.

Die Serie-A-Finanzierungsrunde, die vollständig eigenkapitalbasiert war, sah die Beteiligung von Eniac Ventures, Peak XV Partners, Jump Capital und Angel-Investoren wie Gokul Rajaram, Mohit Aron und Cyan Banister.

TrueFoundry plant, die Mittel zu nutzen, um sein Team von 45 Mitgliedern in Indien zu erweitern und Go-to-Market-Positionen in den USA, wie Vertrieb, Kundenerfolg und Produktmarketing, einzunehmen. Das Unternehmen zielt auch darauf ab, Partnerschaften, insbesondere mit Cloud-Anbietern, zu stärken und arbeitet daran, in wichtigen Cloud-Marktplätzen gelistet zu werden, beginnend mit dem AWS Marketplace.

Darüber hinaus plant TrueFoundry den Start eines KI-Agenten, der geeignete Ressourcen vorschlägt, automatische Skalierung ermöglicht und bei der Fehlerbehebung unterstützt.

Mit dieser neuesten Runde hat TrueFoundry insgesamt über 21 Millionen Dollar eingesammelt, einschließlich einer Seed-Runde über 2,3 Millionen Dollar im September 2022, die von Peak XVs (damals Sequoia India) Surge geleitet wurde. Das Startup vervierfachte im letzten Jahr seine Kundenbasis und stellte über 1.000 Cluster für ML-Workloads bereit. Gutgutia teilte TechCrunch mit, dass die jährlichen wiederkehrenden Einnahmen von TrueFoundry über 1,5 Millionen Dollar betragen, mit Plänen, diese Zahl im kommenden Jahr zu verdoppeln.