A Intel Capital aumenta a Truefoundry com US $ 19 milhões para escalar implantações de IA

TrueFoundry, uma startup fundada por ex-engenheiros da Meta, conseguiu captar com sucesso US$ 19 milhões em uma nova rodada de financiamento liderada pela Intel Capital. Esta empresa inovadora dedica-se a ajudar empresas a escalar seus sistemas de IA de forma eficiente, um desafio que se tornou cada vez mais relevante com o surgimento da IA generativa (GenAI) desde o lançamento do ChatGPT em novembro de 2022.

A emergência da GenAI levou empresas de todos os tamanhos a explorar a integração de IA, mas a dependência da tecnologia em grandes modelos de linguagem exige um poder computacional substancial. Nem todas as empresas têm acesso a inúmeras GPUs, tornando a otimização de GPU crucial. Além disso, as empresas devem experimentar vários modelos para identificar o mais adequado às suas necessidades e ajustá-los para aumentar a relevância para suas operações.

TrueFoundry aborda essas questões por meio de seu modelo de plataforma como serviço, projetado especificamente para cientistas de dados full-stack. A plataforma oferece recursos como autoescalonamento, manutenção proativa, controles de acesso centralizados e monitoramento em tempo real, simplificando todo o processo de implantação de IA.

Lançada em junho de 2021 por Nikunj Bajaj, Abhishek Choudhary e Anuraag Gutgutia — todos ex-engenheiros da Meta e ex-alunos do IIT Kharagpur — a TrueFoundry inicialmente focou em acelerar implantações de aprendizado de máquina em diferentes ambientes de nuvem. Com a popularidade da GenAI em 2023, a startup adaptou seu sistema para incluir suporte a capacidades de GenAI.

“No passado, os cientistas de dados estavam limitados a trabalhar com modelos e experimentação. A implantação real geralmente era passada para engenheiros de ML. Com nosso sistema, capacitamos os cientistas de dados a construir e testar esses sistemas complexos em escala por si mesmos antes de passá-los para a equipe da plataforma para a implantação final,” explicou Gutgutia em uma entrevista exclusiva.

O produto principal da startup é um sistema de piloto automático que usa IA para analisar logs e métricas, ajudando a escalar aplicações de IA ao otimizar o uso de GPU e gerenciar requisitos de memória. Gutgutia compartilhou com a TechCrunch que um dos clientes da TrueFoundry, operando com uma equipe de apenas duas pessoas, conseguiu lidar com 10 milhões de solicitações por segundo usando esse sistema.

TrueFoundry possui 30 clientes pagantes globalmente, além de numerosos usuários aproveitando seu framework RAG de código aberto para experimentação. Entre seus clientes, a Nvidia utiliza o software da TrueFoundry para otimizar seus clusters de GPU, enquanto a ResMed o usa para construir uma plataforma interna de IA. Outros clientes notáveis incluem Siemens Healthineers, Automation Anywhere, Games24x7 e Whatfix.

O software é construído em Kubernetes, garantindo compatibilidade com grandes plataformas de nuvem como AWS, Google Cloud Platform e Azure, e também pode ser implantado localmente. Empresas que utilizam a TrueFoundry relataram construir e lançar suas plataformas internas de IA em apenas dois meses, alcançando ROI em quatro meses, significativamente mais rápido que a média da indústria de 14 meses. Bajaj observou que os clientes viram uma redução de 40-50% nos custos de infraestrutura e uma melhoria de 10x na velocidade de implantação.

Enquanto provedores de nuvem como Amazon e Google introduziram suas próprias soluções de implantação de IA, como SageMaker e Vertex, Gutgutia enfatizou à TechCrunch que a TrueFoundry permanece essencial. Ela acelera a utilização de recursos computacionais para provedores de nuvem, agiliza o tempo de chegada ao mercado de aplicativos de IA e reduz os custos gerais.

A rodada de financiamento Série A, que foi inteiramente baseada em ações, contou com a participação da Eniac Ventures, Peak XV Partners, Jump Capital e investidores anjo, incluindo Gokul Rajaram, Mohit Aron e Cyan Banister.

A TrueFoundry planeja usar os fundos para expandir sua equipe de 45 membros na Índia para incluir posições de go-to-market nos EUA, como vendas, sucesso do cliente e marketing de produtos. A empresa também pretende fortalecer parcerias, particularmente com provedores de nuvem, e está trabalhando para ser listada em marketplaces de nuvem importantes, começando pelo AWS Marketplace.

Além disso, a TrueFoundry está pronta para lançar um agente de IA que ajudará a sugerir recursos apropriados, permitir o autoescalonamento e auxiliar na resolução de problemas.

Com esta última rodada, a TrueFoundry arrecadou mais de US$ 21 milhões no total, incluindo uma rodada inicial de US$ 2,3 milhões em setembro de 2022 liderada pela Surge da Peak XV (então Sequoia India). A startup quadruplicou sua base de clientes no último ano e implantou mais de 1.000 clusters para cargas de trabalho de ML. Gutgutia revelou à TechCrunch que a receita recorrente anual da TrueFoundry é superior a US$ 1,5 milhão, com planos de dobrar esse valor no próximo ano.