Intel Capital은 AI 배포를 확장하기 위해 $ 19m로 TrueFoundry를 향상시킵니다.

전 메타 엔지니어들이 설립 한 스타트 업인 TrueFoundry는 인텔 캐피탈이 이끄는 새로운 자금 조달 라운드에서 1,900 만 달러를 성공적으로 확보했습니다. 이 혁신적인 회사는 기업이 AI 시스템을 효율적으로 확장하도록 돕기 위해 최선을 다하고 있으며, 2022 년 11 월 Chatgpt가 출시 된 이후 생성 AI (Genai)의 증가와 점점 더 관련성이 높아지고 있습니다.

Genai의 출현으로 인해 모든 규모의 비즈니스가 AI 통합을 탐색하도록 유도했지만 기술의 대형 언어 모델에 대한 의존은 상당한 컴퓨팅 성능이 필요합니다. 모든 기업이 수많은 GPU에 액세스 할 수있는 것은 아니기 때문에 GPU 최적화가 중요합니다. 또한 회사는 다양한 모델을 실험하여 자신의 요구에 가장 적합한 모델을 식별하고 운영과의 관련성을 향상시키기 위해 미세 조정해야합니다.

TrueFoundry는 풀 스택 데이터 과학자를 위해 특별히 설계된 플랫폼 및 서비스 모델을 통해 이러한 문제를 해결합니다. 이 플랫폼은 자동 스케일링, 사전 예방 적 유지 보수, 중앙 집중식 액세스 컨트롤 및 실시간 모니터링과 같은 기능을 제공하여 전체 AI 배포 프로세스를 간소화합니다.

2021 년 6 월 Nikunj Bajaj, Abhishek Choudhary 및 Anuraag Gutgutia (전 메타 엔지니어 및 IIT Kharagpur 동창생)가 시작하여 처음에는 다양한 클라우드 환경에 걸쳐 기계 학습 배치를 가속화하는 데 중점을 두었습니다. Genai가 2023 년에 인기를 얻었을 때 스타트 업은 Genai 기능에 대한 지원을 포함하도록 시스템을 조정했습니다.

Gutgutia는“과거에 데이터 과학자들은 모델 및 실험으로 작업하는 것으로 제한되었습니다. 실제 배포는 일반적으로 ML 엔지니어에게 전달되었습니다. 우리의 시스템을 통해 우리는 데이터 과학자 들이이 복잡한 시스템을 최종 배포를 위해 플랫폼 팀에 전달하기 전에 이러한 복잡한 시스템을 구축하고 테스트 할 수 있도록 권한을 부여했습니다.

스타트 업의 플래그십 제품은 AI를 사용하여 로그 및 메트릭을 분석하여 GPU 사용량을 최적화하고 메모리 요구 사항을 관리하여 AI 애플리케이션을 확장하는 데 도움이되는 자동 조종 장치 시스템입니다. Gutgutia는 Techcrunch와 2 인 팀과 함께 운영되는 TrueFoundry의 고객 중 한 명이이 시스템을 사용하여 초당 1 천만 건의 요청을 처리했다고 공유했습니다.

TrueFoundry는 전 세계 30 명의 유료 고객을 자랑하며 수많은 사용자와 함께 실험을 위해 오픈 소스 래그 프레임 워크를 활용합니다. 클라이언트 중에서 NVIDIA는 TrueFoundry의 소프트웨어를 사용하여 GPU 클러스터를 최적화하는 반면 Resmed는 내부 AI 플랫폼을 구축하는 데 사용합니다. 다른 주목할만한 고객으로는 Siemens Healthineers, Automation Whende, Games24x7 및 Whatfix가 있습니다.

이 소프트웨어는 Kubernetes를 기반으로 구축되어 AWS, Google Cloud 플랫폼 및 Azure와 같은 주요 클라우드 플랫폼과의 호환성을 보장하며 온 프레미스를 배포 할 수도 있습니다. TrueFoundry를 사용하는 기업은 단 2 개월 만에 내부 AI 플랫폼을 구축하고 출시하여 4 개월 만에 ROI를 달성했으며 업계 평균 14 개월보다 훨씬 빠릅니다. Bajaj는 고객이 인프라 비용이 40-50% 감소하고 배포 속도가 10 배 향상되었다고 지적했다.

Amazon 및 Google과 같은 클라우드 공급 업체는 Sagemaker 및 Vertex와 같은 자체 AI 배포 솔루션을 소개했지만 Gutgutia는 TrueFoundry가 필수적이라고 TechCrunch에 강조했습니다. 클라우드 제공 업체에 대한 컴퓨팅 리소스 활용을 가속화하고 AI 앱 시간 마켓을 속도를 높이며 전체 비용을 줄입니다.

전적으로 주식 기반이었던이 시리즈 A 펀딩 라운드는 Eniac Ventures, Peak XV Partners, Jump Capital 및 Gokul Rajaram, Mohit Aron 및 Cyan Banister를 포함한 엔젤 투자자들의 참여를 보았습니다.

TrueFoundry는 자금을 사용하여 인도의 45 명의 회원에서 팀을 확장하여 판매, 고객 성공 및 제품 마케팅과 같은 미국의 대 시장 직책을 포함시킬 계획입니다. 이 회사는 또한 특히 클라우드 공급 업체와 파트너십을 강화하는 것을 목표로하며 AWS 마켓 플레이스부터 시작하여 주요 클라우드 마켓 플레이스에 상장되고 있습니다.

또한 TrueFoundry는 적절한 리소스를 제안하고 자동 스케일링을 가능하게하며 문제 해결을 지원하는 AI 에이전트를 출시 할 예정입니다.

이 최신 라운드를 통해 TrueFoundry는 2022 년 9 월 Peak XV (Sequoia India) 서지가 이끄는 230 만 달러의 종자 라운드를 포함하여 총 2 천 2 백만 달러 이상을 모금했습니다. 스타트 업은 작년에 고객 기반을 4 배로 늘리고 ML 워크로드를 위해 1,000 개가 넘는 클러스터를 배포했습니다. Gutgutia는 Truefoundry의 연간 반복 수입은 150 만 달러 이상이며 내년 에이 수치를 두 배로 늘릴 계획이라고 TechCrunch에 밝혔다.