Intel Capital stimule TrueFoundry avec 19 millions de dollars pour mettre à l'échelle les déploiements d'IA

TrueFoundry, une startup fondée par d’anciens ingénieurs de Meta, a obtenu 19 millions de dollars lors d’un nouveau tour de financement mené par Intel Capital. Cette entreprise innovante se consacre à aider les entreprises à faire évoluer leurs systèmes d’IA de manière efficace, un défi de plus en plus pertinent avec l’essor de l’IA générative (GenAI) depuis le lancement de ChatGPT en novembre 2022.

L’émergence de GenAI a incité des entreprises de toutes tailles à explorer l’intégration de l’IA, mais la dépendance de cette technologie aux grands modèles de langage nécessite une puissance de calcul importante. Toutes les entreprises n’ont pas accès à de nombreux GPU, rendant l’optimisation des GPU cruciale. De plus, les entreprises doivent expérimenter divers modèles pour identifier le plus adapté à leurs besoins et les affiner pour améliorer leur pertinence dans leurs opérations.

TrueFoundry répond à ces enjeux grâce à son modèle de plateforme en tant que service, conçu spécifiquement pour les data scientists full-stack. La plateforme propose des fonctionnalités telles que l’auto-scaling, la maintenance proactive, les contrôles d’accès centralisés et la surveillance en temps réel, simplifiant l’ensemble du processus de déploiement de l’IA.

Lancée en juin 2021 par Nikunj Bajaj, Abhishek Choudhary et Anuraag Gutgutia — tous d’anciens ingénieurs de Meta et diplômés de l’IIT Kharagpur — TrueFoundry s’est initialement concentrée sur l’accélération des déploiements d’apprentissage automatique sur différents environnements cloud. Avec la popularité croissante de GenAI en 2023, la startup a adapté son système pour inclure le support des capacités de GenAI.

« Auparavant, les data scientists se limitaient à travailler sur des modèles et à expérimenter. Le déploiement effectif était généralement confié aux ingénieurs ML. Avec notre système, nous permettons aux data scientists de construire et tester ces systèmes complexes à grande échelle eux-mêmes avant de les transmettre à l’équipe de la plateforme pour le déploiement final », a expliqué Gutgutia dans une interview exclusive.

Le produit phare de la startup est un système d’autopilote qui utilise l’IA pour analyser les journaux et les métriques, aidant à faire évoluer les applications d’IA en optimisant l’utilisation des GPU et en gérant les besoins en mémoire. Gutgutia a partagé avec TechCrunch qu’un des clients de TrueFoundry, opérant avec une équipe de seulement deux personnes, a réussi à gérer 10 millions de requêtes par seconde grâce à ce système.

TrueFoundry compte 30 clients payants à l’échelle mondiale, ainsi que de nombreux utilisateurs exploitant son framework RAG open-source pour des expérimentations. Parmi ses clients, Nvidia utilise le logiciel de TrueFoundry pour optimiser ses clusters GPU, tandis que ResMed s’en sert pour construire une plateforme d’IA interne. Parmi les autres clients notables figurent Siemens Healthineers, Automation Anywhere, Games24x7 et Whatfix.

Le logiciel est construit sur Kubernetes, garantissant une compatibilité avec les principales plateformes cloud comme AWS, Google Cloud Platform et Azure, et peut également être déployé sur site. Les entreprises utilisant TrueFoundry ont rapporté avoir construit et lancé leurs plateformes d’IA internes en seulement deux mois, atteignant un retour sur investissement en quatre mois, bien plus rapidement que la moyenne de l’industrie de 14 mois. Bajaj a noté que les clients ont constaté une réduction de 40 à 50 % des coûts d’infrastructure et une amélioration de 10 fois de la vitesse de déploiement.

Bien que des fournisseurs cloud comme Amazon et Google aient introduit leurs propres solutions de déploiement d’IA telles que SageMaker et Vertex, Gutgutia a souligné à TechCrunch que TrueFoundry reste essentiel. Il accélère l’utilisation des ressources informatiques pour les fournisseurs cloud, réduit le temps de mise sur le marché des applications d’IA et diminue les coûts globaux.

Le tour de financement de série A, entièrement basé sur des actions, a vu la participation d’Eniac Ventures, Peak XV Partners, Jump Capital et d’investisseurs providentiels, dont Gokul Rajaram, Mohit Aron et Cyan Banister.

TrueFoundry prévoit d’utiliser les fonds pour élargir son équipe de 45 membres en Inde afin d’inclure des postes de mise sur le marché aux États-Unis, tels que les ventes, le succès client et le marketing de produits. L’entreprise vise également à renforcer ses partenariats, en particulier avec les fournisseurs cloud, et travaille à être répertoriée sur les principaux marchés cloud, en commençant par l’AWS Marketplace.

De plus, TrueFoundry s’apprête à lancer un agent d’IA qui aidera à suggérer des ressources appropriées, permettra l’auto-scaling et assistera dans le dépannage.

Avec ce dernier tour, TrueFoundry a levé plus de 21 millions de dollars au total, y compris un tour de financement initial de 2,3 millions de dollars en septembre 2022, mené par Surge de Peak XV (alors Sequoia India). La startup a quadruplé sa base de clients l’année dernière et déployé plus de 1 000 clusters pour des charges de travail ML. Gutgutia a révélé à TechCrunch que le chiffre d’affaires récurrent annuel de TrueFoundry dépasse 1,5 million de dollars, avec des plans pour doubler ce montant dans l’année à venir.