Intel Capital aumenta TrueFoundry con implementaciones de IA de $ 19 millones a escala

TrueFoundry, una startup fundada por ex ingenieros meta, ha asegurado con éxito $ 19 millones en una nueva ronda de fondos dirigida por Intel Capital. Esta empresa innovadora se dedica a ayudar a las empresas a escalar sus sistemas de IA de manera eficiente, un desafío que se ha vuelto cada vez más relevante con el aumento de la IA generativa (Genai) desde el lanzamiento de ChatGPT en noviembre de 2022.

La aparición de Genai ha llevado a las empresas de todos los tamaños a explorar la integración de IA, pero la dependencia de la tecnología en modelos de lenguaje grandes requiere un poder informático sustancial. No todas las empresas tienen acceso a numerosas GPU, lo que hace que la optimización de GPU sea crucial. Además, las empresas deben experimentar con varios modelos para identificar el más adecuado para sus necesidades y ajustarlos para mejorar la relevancia para sus operaciones.

TrueFoundry aborda estos problemas a través de su modelo de plataforma como servicio, diseñado específicamente para científicos de datos de pila completa. La plataforma ofrece características como escala automática, mantenimiento proactivo, controles de acceso centralizado y monitoreo en tiempo real, simplificando todo el proceso de implementación de IA.

Lanzado en junio de 2021 por Nikunj Bajaj, Abhishek Choudhary y Anuraag Gutgutia, todos los ex ingenieros de Meta y ex alumnos de IIT Kharagpur, la prueba inicialmente centrada en acelerar los despliegues de aprendizaje automático en diferentes entornos de nube. A medida que Genai ganó popularidad en 2023, la startup adaptó su sistema para incluir el soporte para las capacidades de Genai.

"En el pasado, los científicos de datos se limitaron a trabajar con modelos y experimentar. La implementación real generalmente se entregó a los ingenieros de ML. Con nuestro sistema, capacitamos a los científicos de datos para construir y probar estos sistemas complejos a escala ellos mismos antes de pasarlos al equipo de la plataforma para su despliegue final", explicó Gutgutia en una entrevista exclusiva.

El producto insignia de la startup es un sistema de piloto automático que utiliza IA para analizar registros y métricas, lo que ayuda a escalar aplicaciones de IA optimizando el uso de GPU y la gestión de los requisitos de memoria. Gutgutia compartió con TechCrunch que uno de los clientes de TrueFoundry, que operaba con solo un equipo de dos personas, logró manejar 10 millones de solicitudes por segundo usando este sistema.

TrueFoundry cuenta con 30 clientes pagados a nivel mundial, junto con numerosos usuarios que aprovechan su marco de trapo de código abierto para la experimentación. Entre sus clientes, Nvidia emplea el software de TrueFoundry para optimizar sus grupos de GPU, mientras que ResMed lo usa para construir una plataforma de IA interna. Otros clientes notables incluyen Siemens Healthineers, Automation Anywhere, Games24x7 y WhatFix.

El software se basa en Kubernetes, asegurando la compatibilidad con las principales plataformas en la nube como AWS, Google Cloud Platform y Azure, y también se puede implementar en las instalaciones. Las empresas que usan TrueFoundry han informado de construir y lanzar sus plataformas de IA internas en solo dos meses, logrando el ROI en cuatro meses, significativamente más rápido que el promedio de la industria de 14 meses. Bajaj señaló que los clientes han visto una reducción del 40-50% en los costos de infraestructura y una mejora 10x en la velocidad de despliegue.

Si bien los proveedores de la nube como Amazon y Google han introducido sus propias soluciones de implementación de IA como Sagemaker y Vertex, Gutgutia enfatizó a TechCrunch que Truefundry sigue siendo esencial. Acelera la utilización de recursos de cálculo para proveedores de nubes, acelera el tiempo de comercialización de la aplicación AI y reduce los costos generales.

La ronda de financiación de la Serie A, que estaba completamente basada en la equidad, vio la participación de ENIAC Ventures, Peak XV Partners, Jump Capital e inversores ángeles, incluidos Gokul Rajaram, Mohit Aron y Cyan Banister.

TrueFoundry planea usar los fondos para expandir a su equipo de 45 miembros en la India para incluir puestos de ir al mercado en los Estados Unidos, como ventas, éxito del cliente y marketing de productos. La compañía también tiene como objetivo fortalecer las asociaciones, particularmente con los proveedores de la nube, y está trabajando en aparecer en los mercados clave de la nube, comenzando con el mercado de AWS.

Además, TrueFoundry lanzará un agente de IA que ayudará a sugerir los recursos apropiados, habilitar la escala automática y ayudar con la resolución de problemas.

Con esta última ronda, TrueFoundry ha recaudado más de $ 21 millones en total, incluida una ronda de semillas de $ 2.3 millones en septiembre de 2022 dirigida por el aumento de Peak XV (entonces Sequoia India). La startup cuadruplicó su base de clientes el año pasado e implementó más de 1,000 grupos para cargas de trabajo de ML. Gutgutia reveló a TechCrunch que los ingresos recurrentes anuales de TrueFoundry superan los $ 1.5 millones, con planes de duplicar esta cifra en el próximo año.