A Intel Capital aumenta a Truefoundry com US $ 19 milhões para escalar implantações de IA

A Truefoundry, uma startup fundada por ex -meta engenheiros, garantiu com sucesso US $ 19 milhões em uma nova rodada de financiamento liderada pela Intel Capital. Esta empresa inovadora dedica -se a ajudar as empresas a dimensionar seus sistemas de IA com eficiência, um desafio que se tornou cada vez mais relevante com o surgimento de IA generativa (GENAI) desde o lançamento do ChatGPT em novembro de 2022.

O surgimento de Genai levou a empresas de todos os tamanhos para explorar a integração da IA, mas a dependência da tecnologia em grandes modelos de linguagem exige poder de computação substancial. Nem toda empresa tem acesso a inúmeras GPUs, tornando crucial a otimização da GPU. Além disso, as empresas devem experimentar vários modelos para identificar o mais adequado para suas necessidades e ajustá-las para aumentar a relevância para suas operações.

A TrueFoundry aborda esses problemas por meio de seu modelo de plataforma como serviço, projetado especificamente para cientistas de dados de pilha completa. A plataforma oferece recursos como escala automática, manutenção proativa, controles de acesso centralizado e monitoramento em tempo real, simplificando todo o processo de implantação da IA.

Lançado em junho de 2021 por Nikunj Bajaj, Abhishek Choudhary e Anuraag Gutgutia - todos os ex -engenheiros de meta e ex -alunos do IIT Kharagpur - o truefoundry se concentrou inicialmente em acelerar implantações de aprendizado de máquina em diferentes ambientes de nuvem. À medida que a Genai ganhou popularidade em 2023, a startup adaptou seu sistema para incluir o suporte aos recursos da Genai.

"No passado, os cientistas de dados estavam limitados a trabalhar com modelos e experimentar. A implantação real era normalmente entregue aos engenheiros de ML. Com nosso sistema, capacitamos os cientistas de dados a construir e testar esses sistemas complexos em escala antes de passar para a equipe da plataforma para a implantação final", explicou Gutgutia em uma entrevista exclusiva.

O principal produto da startup é um sistema de piloto automático que usa IA para analisar logs e métricas, ajudando a escalar aplicativos de IA, otimizando o uso da GPU e gerenciando os requisitos de memória. Gutgutia compartilhou com a TechCrunch que um dos clientes da Truefoundry, operando com apenas uma equipe de duas pessoas, conseguiu lidar com 10 milhões de solicitações por segundo usando esse sistema.

A TrueFoundry possui 30 clientes pagos globalmente, juntamente com vários usuários que aproveitam sua estrutura de pano de código aberto para experimentação. Entre seus clientes, a NVIDIA emprega o software da TrueFoundry para otimizar seus clusters de GPU, enquanto a Resmed o usa para construir uma plataforma interna de IA. Outros clientes notáveis ​​incluem Healthineers da Siemens, Automation em qualquer lugar, Games24x7 e Whatfix.

O software é construído no Kubernetes, garantindo compatibilidade com grandes plataformas em nuvem como AWS, Google Cloud Platform e Azure, e também pode ser implantado no local. As empresas que usam a TrueFoundry relataram construir e lançar suas plataformas internas de IA em apenas dois meses, alcançando o ROI em quatro meses, significativamente mais rápido que a média da indústria de 14 meses. Bajaj observou que os clientes tiveram uma redução de 40 a 50% nos custos de infraestrutura e uma melhoria de 10x na velocidade de implantação.

Enquanto fornecedores de nuvem como Amazon e Google introduziram suas próprias soluções de implantação de IA, como Sagemaker e Vertex, Gutgutia enfatizou para o TechCrunch que Truefoundry permanece essencial. Acelera a utilização de recursos de computação para provedores de nuvem, acelera o tempo até o mercado do aplicativo AI e reduz os custos gerais.

A rodada de financiamento da Série A, que era inteiramente baseada em equidade, viu a participação da Eniac Ventures, Peak XV Partners, Jump Capital e Angel Investors, incluindo Gokul Rajaram, Mohit Aron e Banister ciano.

A TrueFoundry planeja usar os fundos para expandir sua equipe de 45 membros na Índia para incluir posições de entrada no mercado nos EUA, como vendas, sucesso do cliente e marketing de produtos. A empresa também pretende fortalecer as parcerias, principalmente com fornecedores de nuvem, e está trabalhando para ser listado nos principais mercados em nuvem, começando no mercado da AWS.

Além disso, a TrueFoundry está definida para lançar um agente de IA que ajudará a sugerir recursos apropriados, permitir a escala automática e ajudar na solução de problemas.

Com esta última rodada, a Truefoundry arrecadou mais de US $ 21 milhões no total, incluindo uma rodada de sementes de US $ 2,3 milhões em setembro de 2022, liderada pelo pico de XV (então sequoia Índia). A startup quadruplicou sua base de clientes no ano passado e implantou mais de 1.000 clusters para cargas de trabalho da ML. Gutgutia revelou ao TechCrunch que a receita recorrente anual da Truefoundry é superior a US $ 1,5 milhão, com planos de dobrar esse número no próximo ano.