ScaleOps, AI 워크로드의 컴퓨팅 효율성 제고를 위해 1억 3천만 달러 투자 유치

AI 붐이 한창인 가운데, 기업들은 낭비되는 컴퓨팅 파워로 인해 막대한 비용을 낭비하고 있습니다. 고가의 GPU는 가동되지 않은 채 방치되고, 워크로드는 과도하게 할당되며, 클라우드 비용은 계속 증가하고 있습니다. ScaleOps는 핵심 문제가 하드웨어 부족이 아니라 비효율적인 자원 관리에 있다고 주장합니다.

컴퓨팅 리소스를 실시간으로 자동 관리 및 재할당하는 소프트웨어를 개발하는 이 스타트업은 월요일 1억 3,000만 달러 규모의 시리즈 C 투자 유치를 발표했으며, 이로써 기업 가치는 8억 달러로 평가되었다. 인사이트 파트너스(Insight Partners)가 이번 라운드를 주도했으며, 기존 투자자인 라이트스피드 벤처 파트너스(Lightspeed Venture Partners), NFX, 글릴롯 캐피털 파트너스(Glilot Capital Partners), 픽처 캐피털(Picture Capital)이 참여했다. ScaleOps는 자사 플랫폼을 통해 클라우드 및 AI 인프라 비용을 최대 80%까지 절감할 수 있다고 주장한다.

2022년 전 Run:ai 엔지니어인 요다르 샤프리르(Yodar Shafrir)가 공동 설립한 ScaleOps는 기업들이 복잡한 AI 워크로드를 관리하는 데 겪는 어려움을 목격하며 탄생했다. 쿠버네티스(Kubernetes)와 같은 도구는 대규모 머신 클러스터 전반에 걸쳐 애플리케이션을 조정하는 데 도움을 주지만, 정적 구성에 의존하기 때문에 급격한 수요 변화에 적응하지 못하는 경우가 많다. 이로 인해 GPU 활용도가 떨어지고, 성능 병목 현상이 발생하며, 상당한 재정적 낭비가 초래된다.

현재 ScaleOps의 CEO인 샤프리르는 테크크런치와의 인터뷰에서 "Run:ai에서 근무하던 시절, 특히 데브옵스 팀을 비롯한 많은 고객과 대화를 나눴습니다"라고 말했다. "그들은 Run:ai가 제공하는 가치를 높이 평가했지만, 특히 AI 추론의 확산으로 인해 프로덕션 워크로드 관리에 여전히 어려움을 겪고 있었습니다. "더 큰 그림을 들여다보니, 이 문제가 GPU에만 국한된 것이 아니라는 것을 깨달았습니다. 이는 컴퓨팅, 메모리, 스토리지, 네트워킹 전반에 걸친 문제였습니다. 비효율적인 리소스 관리의 동일한 패턴이 계속해서 반복되고 있었습니다."

DevOps 팀은 문제를 해결하기 위해 여러 이해관계자와 조율하는 데 지나치게 많은 시간을 쏟았지만, 성과는 미미했습니다. 문제를 식별할 수 있는 도구는 많았지만, 자동화된 해결책을 제공하는 경우는 드물었습니다. 이러한 격차는 분명한 시장 기회를 제시했습니다.

샤프리르는 ScaleOps가 애플리케이션 요구 사항과 인프라 결정을 동적으로 연계하여 완전히 자율적인 엔드투엔드 관리 솔루션을 제공함으로써 이러한 격차를 해소하는 것을 목표로 한다고 설명했습니다.

"쿠버네티스는 강력하고 유연하며 구성 가능성이 매우 높은 시스템입니다. 하지만 바로 그 구성 가능성이 약점이기도 합니다,"라고 샤프리르는 지적했다. "쿠버네티스는 정적인 설정에 의존하는 반면, 현대적인 애플리케이션은 동적입니다. 이러한 불일치로 인해 팀 전반에 걸쳐 끊임없는 수작업이 발생합니다. 필요한 것은 각 애플리케이션의 고유한 맥락, 즉 요구 사항, 동작, 그리고 변화하는 환경을 이해하는 시스템입니다."

이미지 출처: Scaleops

이 시장에는 Cast AI, Kubecost, Spot과 같은 경쟁사들이 포진해 있습니다. 샤프리르에 따르면, 많은 업체가 자동화 기능을 제공하지만 그들의 솔루션은 종종 전체적인 맥락을 파악하지 못해 성능 저하나 다운타임의 위험을 초래하고, 프로덕션 시스템을 관리하는 팀 간의 신뢰를 훼손할 수 있다고 합니다.

ScaleOps는 자사 플랫폼이 처음부터 프로덕션 환경을 위해 설계되었다고 밝혔습니다. 이 플랫폼은 완전 자율적이고 맥락을 인식하며 수동 설정이 필요하지 않은데, 회사는 이러한 특징들이 자사 플랫폼의 차별화된 경쟁력이라고 믿고 있습니다.

뉴욕에 본사를 둔 ScaleOps는 전 세계 기업 고객, 특히 쿠버네티스를 사용하는 고객들에게 서비스를 제공하고 있습니다. 고객사에는 Adobe, Wiz, DocuSign, Salesforce, Coupa 등 유럽과 인도 전역의 대형 조직 및 기업들이 포함됩니다.

이번 시리즈 C 라운드는 2024년 11월 진행된 5,800만 달러 규모의 시리즈 B 투자에 이은 것입니다. 샤프리르(Shafrir)는 자율적인 클라우드 인프라 관리에 대한 수요가 급증했으며, 회사는 여전히 초기 성장 단계에 있다고 밝혔습니다. 대변인은 현재까지 누적 투자액이 약 2억 1,000만 달러에 달한다고 확인했습니다.

ScaleOps는 전년 대비 450% 이상의 매출 성장과 지난 1년간 직원 수가 3배로 증가했다고 보고했으며, 올해 말까지 직원 수를 다시 3배 이상 늘릴 계획이라고 밝혔다.

이번 신규 자금은 제품 개발과 플랫폼 확장에 활용될 예정이다. AI가 컴퓨팅 수요를 가속화함에 따라 효율적인 인프라 관리가 가장 중요해지고 있다. 이 스타트업은 완전 자율 인프라라는 비전을 실현하기 위해 전념하고 있다.