Intel Capital steigert TrueFoundry mit 19 Millionen US -Dollar, um die KI -Bereitstellungen zu skalieren

TrueFoundry, ein Startup, das von ehemaligen Meta -Ingenieuren gegründet wurde, hat erfolgreich 19 Millionen US -Dollar in einer neuen Finanzierungsrunde von Intel Capital gesichert. Dieses innovative Unternehmen hilft Unternehmen dabei, ihre KI -Systeme effizient zu skalieren, eine Herausforderung, die mit dem Aufstieg der generativen KI (Genai) seit dem Start von ChatGPT im November 2022 zunehmend relevant geworden ist.

Die Entstehung von Genai hat Unternehmen aller Größen zur Erforschung der KI -Integration veranlasst, aber das Vertrauen der Technologie in Großsprachenmodelle erfordert eine erhebliche Rechenleistung. Nicht jedes Unternehmen hat Zugriff auf zahlreiche GPUs, was die GPU -Optimierung entscheidend macht. Darüber hinaus müssen Unternehmen mit verschiedenen Modellen experimentieren, um die am besten geeigneten für ihre Bedürfnisse zu identifizieren und sie zu optimieren, um die Relevanz für ihren Betrieb zu verbessern.

TrueFoundry befasst sich mit diesen Problemen über sein Plattform-AS-A-Service-Modell, das speziell für Vollstapel-Datenwissenschaftler entwickelt wurde. Die Plattform bietet Funktionen wie automatische Skalierung, proaktive Wartung, zentralisierte Zugriffskontrollen und Echtzeitüberwachung, um den gesamten KI-Bereitstellungsprozess zu optimieren.

Im Juni 2021 von Nikunj Bajaj, Abhishek Choudhary und Anuraag Gutgutia - alle ehemaligen Meta -Ingenieure und IIT -Kharagpur -Alumni, konzentrierten sich die Trümlichkeit zunächst auf die Beschleunigung maschineller Lernbereitstellungen in verschiedenen Cloud -Umgebungen. Als Genai 2023 Popularität erlangte, adaptierte das Startup sein System so, dass sie die Unterstützung von Genai -Funktionen umfasst.

„In der Vergangenheit beschränkten sich die Datenwissenschaftler auf die Arbeit mit Modellen und Experimentieren. Der tatsächliche Einsatz wurde normalerweise an ML -Ingenieure übergeben. Mit unserem System befähigen wir Datenwissenschaftler, diese komplexen Systeme selbst in Skala zu erstellen und zu testen, bevor wir sie an das Plattformteam zur endgültigen Bereitstellung weitergeben“, erklärte Gutgutia in einem exklusiven Interview.

Das Flaggschiff -Produkt des Startups ist ein Autopilot -System, das mit AI Protokolle und Metriken analysiert und die AI -Anwendungen durch Optimierung der GPU -Nutzung und das Verwalten von Speicheranforderungen skaliert. Gutgutia teilte TechCrunch mit, dass einer der Kunden von Trufoundry, der mit nur einem Zwei-Personen-Team arbeitete, mit diesem System 10 Millionen Anfragen pro Sekunde bearbeiten konnte.

TrueFoundry bietet weltweit 30 bezahlte Kunden, zusammen mit zahlreichen Benutzern, die den Open-Source-Rag-Framework für Experimente nutzen. Unter seinen Kunden setzt Nvidia die Software von TrueFoundry ein, um seine GPU -Cluster zu optimieren, während Resmed sie verwendet, um eine interne KI -Plattform zu erstellen. Andere bemerkenswerte Kunden sind Siemens Healthineers, Automatisierung überall, Games24x7 und Whatfix.

Die Software basiert auf Kubernetes, um die Kompatibilität mit wichtigen Cloud-Plattformen wie AWS, Google Cloud Platform und Azure zu gewährleisten, und kann auch On-Premise bereitgestellt werden. Unternehmen, die TrueFoundry verwenden, haben in nur zwei Monaten berichtet, dass sie ihre internen KI -Plattformen aufgebaut und auf den Markt bringen und in vier Monaten einen ROI erzielt haben, was deutlich schneller ist als der Branchendurchschnitt von 14 Monaten. Bajaj stellte fest, dass Kunden eine Reduzierung der Infrastrukturkosten um 40-50% und eine Verbesserung der Einsatzgeschwindigkeit um 10-fache verzeichneten.

Während Cloud -Anbieter wie Amazon und Google ihre eigenen KI -Bereitstellungslösungen wie Sagemaker und Vertex eingeführt haben, betonte Gutgutia TechCrunch, dass TrueFoundry weiterhin wesentlich ist. Es beschleunigt die Nutzung von Rechenressourcen für Cloud-Anbieter, beschleunigt die KI-App-Marktzeit und senkt die Gesamtkosten.

In der Serie-A-Finanzierungsrunde, die ausschließlich in Aktienbasis basiert, beteiligt sich Eniac Ventures, Peak XV Partners, Jump Capital und Angel-Investoren, darunter Gokul Rajaram, Mohit Aron und Cyan Banister.

TrueFoundry plant, die Mittel zu nutzen, um sein Team von 45 Mitgliedern in Indien um die Startmarketpositionen in den USA zu erweitern, z. B. Vertrieb, Kundenerfolg und Produktmarketing. Das Unternehmen zielt auch darauf ab, Partnerschaften, insbesondere bei Cloud -Anbietern, zu stärken, und arbeitet daran, auf wichtigen Cloud -Marktplätzen aufgelistet zu werden, beginnend mit dem AWS -Marktplatz.

Darüber hinaus soll TrueFoundry einen AI-Agenten starten, der dazu beiträgt, geeignete Ressourcen vorzuschlagen, die automatische Skalierung zu ermöglichen und bei der Fehlerbehebung zu helfen.

Mit dieser jüngsten Runde hat TrueFoundry insgesamt über 21 Millionen US -Dollar gesammelt, einschließlich einer Saatgutrunde von 2,3 Millionen US -Dollar im September 2022 angeführt von Peak XVs (damals Sequoia India). Das Startup vervierfachte letztes Jahr seinen Kundenstamm und bereitete über 1.000 Cluster für ML -Workloads ein. Gutgutia enthüllte TechCrunch, dass TrueFoundrys jährliche wiederkehrende Einnahmen über 1,5 Millionen US -Dollar beträgt, wobei Pläne für die Verdoppelung dieser Zahl im kommenden Jahr verdoppeln.