Intel Capital stimule TrueFoundry avec 19 millions de dollars pour mettre à l'échelle les déploiements d'IA

TrueFoundry, une startup fondée par d'anciens Meta Engineers, a réussi à obtenir 19 millions de dollars dans un nouveau tour de financement dirigé par Intel Capital. Cette entreprise innovante se consacre à aider les entreprises à évoluer efficacement leurs systèmes d'IA, un défi qui est devenu de plus en plus pertinent avec la montée en puissance de l'IA générative (Genai) depuis le lancement de Chatgpt en novembre 2022.

L'émergence du Genai a incité les entreprises de toutes tailles à explorer l'intégration de l'IA, mais la dépendance de la technologie à l'égard des modèles de langue importante nécessite une puissance informatique substantielle. Toutes les entreprises n'ont pas accès à de nombreux GPU, ce qui rend l'optimisation des GPU cruciale. De plus, les entreprises doivent expérimenter divers modèles pour identifier les plus appropriés pour leurs besoins et les affiner pour améliorer la pertinence de leurs opérations.

TrueFoundry aborde ces problèmes via son modèle de plate-forme en tant que service, spécialement conçu pour les scientifiques des données complètes. La plate-forme propose des fonctionnalités telles que la mise à l'échelle automatique, la maintenance proactive, les contrôles d'accès centralisés et la surveillance en temps réel, rationalisant l'ensemble du processus de déploiement de l'IA.

Lancé en juin 2021 par Nikunj Bajaj, Abhishek Choudhary et Anuraag Guttutia - tous les anciens ingénieurs Meta et les anciens de l'IIT de Kharagpur - TrueFoundry se sont initialement concentrés sur l'accélération des déploiements d'apprentissage automatique dans différents environnements cloud. Alors que Genai a gagné en popularité en 2023, la startup a adapté son système pour inclure le soutien aux capacités de Genai.

«Dans le passé, les scientifiques des données se sont limités à travailler avec des modèles et à expérimenter. Le déploiement réel a généralement été remis aux ingénieurs de ML. Avec notre système, nous permettons aux scientifiques des données de construire et de tester ces systèmes complexes eux-mêmes avant de les transmettre à l'équipe de plate-forme pour le déploiement final», a expliqué Guttutia dans un entretien exclusif.

Le produit phare de la startup est un système de pilote automatique qui utilise l'IA pour analyser les journaux et les métriques, aidant à mettre à l'échelle les applications d'IA en optimisant l'utilisation du GPU et la gestion des exigences de la mémoire. Guttutia a partagé avec TechCrunch que l'un des clients de TrueFoundry, opérant avec seulement une équipe de deux personnes, a réussi à gérer 10 millions de demandes par seconde en utilisant ce système.

TrueFoundry possède 30 clients rémunérés dans le monde, ainsi que de nombreux utilisateurs tirant parti de son cadre de chiffon open-source pour l'expérimentation. Parmi ses clients, NVIDIA utilise le logiciel de TrueFoundry pour optimiser ses clusters GPU, tandis que ResMed l'utilise pour créer une plate-forme d'IA interne. D'autres clients notables incluent Siemens Healthineers, Automation Anywhere, Games24x7 et WhatFix.

Le logiciel est construit sur Kubernetes, garantissant la compatibilité avec les principales plates-formes cloud comme AWS, Google Cloud Platform et Azure, et peut également être déployé sur site. Les entreprises utilisant TrueFoundry ont déclaré construire et lancer leurs plateformes d'IA internes en seulement deux mois, atteignant un retour sur investissement en quatre mois, nettement plus rapide que la moyenne de l'industrie de 14 mois. Bajaj a noté que les clients ont constaté une réduction de 40 à 50% des coûts d'infrastructure et une amélioration 10X de la vitesse de déploiement.

Alors que les fournisseurs de cloud comme Amazon et Google ont présenté leurs propres solutions de déploiement d'IA telles que Sagemaker et Vertex, Gutgutia a souligné à TechCrunch que TrueFoundry reste essentiel. Il accélère l'utilisation des ressources de calcul pour les fournisseurs de cloud, accélère le délai de commercialisation de l'application AI et réduit les coûts globaux.

La série de financement de la série A, qui était entièrement basée sur les actions, a vu la participation d'Eniac Ventures, Peak XV Partners, Jump Capital et des investisseurs providentiels, notamment Gokul Rajaram, Mohit Aron et Cyan Banister.

TrueFoundry prévoit d'utiliser les fonds pour étendre son équipe de 45 membres en Inde pour inclure des postes de mise sur le marché aux États-Unis, tels que les ventes, la réussite des clients et le marketing de produit. La société vise également à renforcer les partenariats, en particulier avec les fournisseurs de cloud, et travaille à être répertorié sur les principaux marchés du cloud, à commencer par le marché AWS.

De plus, TrueFoundry devrait lancer un agent d'IA qui aidera à suggérer des ressources appropriées, à activer la mise à l'échelle automatique et à aider à dépanner.

Avec ce dernier tour, TrueFoundry a recueilli plus de 21 millions de dollars au total, y compris une ronde de semences de 2,3 millions de dollars en septembre 2022 menée par la surtension de pic XV (alors Sequoia India). La startup a quadruplé sa clientèle l'année dernière et a déployé plus de 1 000 clusters pour les charges de travail ML. Guttutia a révélé à TechCrunch que les revenus récurrents annuels de TrueFoundry dépassaient 1,5 million de dollars, avec des plans pour doubler ce chiffre au cours de l'année à venir.