Intel Capital은 AI 배포를 확장하기 위해 $ 19m로 TrueFoundry를 향상시킵니다.

TrueFoundry, 전 Meta 엔지니어들이 설립한 스타트업, Intel Capital 주도 신규 펀딩 라운드에서 1900만 달러 확보. 이 혁신적인 기업은 ChatGPT가 2022년 11월 출시 이후 생성 AI(GenAI) 부상으로 점점 중요해진 기업의 AI 시스템 확장 지원에 전념.

GenAI의 등장으로 모든 규모의 기업들이 AI 통합 모색, 하지만 대형 언어 모델에 의존하는 기술은 상당한 컴퓨팅 파워 필요. 모든 기업이 수많은 GPU에 접근 가능한 것은 아니므로 GPU 최적화가 중요. 또한, 기업은 필요에 가장 적합한 모델을 찾기 위해 다양한 모델 실험 및 운영 관련성을 높이기 위해 미세 조정 필요.

TrueFoundry는 풀스택 데이터 과학자를 위해 특별히 설계된 플랫폼-서비스 모델로 이 문제 해결. 플랫폼은 오토스케일링, 사전 유지보수, 중앙 집중식 접근 제어, 실시간 모니터링 등 기능 제공, AI 배포 프로세스 간소화.

2021년 6월 Nikunj Bajaj, Abhishek Choudhary, Anuraag Gutgutia—모두 전 Meta 엔지니어이자 IIT Kharagpur 동문—에 의해 설립된 TrueFoundry는 초기 다양한 클라우드 환경에서 머신러닝 배포 가속화에 집중. 2023년 GenAI 인기 상승으로 시스템을 GenAI 기능 지원 포함하도록 조정.

“과거 데이터 과학자들은 모델 작업과 실험에 국한. 실제 배포는 ML 엔지니어에게 맡겨짐. 우리 시스템은 데이터 과학자들이 복잡한 시스템을 자체적으로 구축 및 테스트 후 플랫폼 팀에 최종 배포하도록 지원,” Gutgutia가 독점 인터뷰에서 설명.

스타트업의 플래그십 제품은 AI를 사용해 로그와 메트릭 분석, GPU 사용 최적화 및 메모리 요구 관리로 AI 애플리케이션 확장 지원하는 오토파일럿 시스템. Gutgutia는 TechCrunch에 TrueFoundry의 고객 중 2인 팀이 이 시스템으로 초당 1000만 요청 처리했다고 공유.