런웨어, 모바일 인프라의 미래를 시험할 휴대용 데이터 센터 포드 공개

화요일, AI 인프라 기업 런웨어(Runware)는 단일 이동식 유닛으로 설계된 모듈형 데이터 센터인 ‘소닉 인퍼런스 포드(Sonic Inference Pod)’를 공개했다. 이 솔루션은 하이퍼스케일러들의 거대하고 고정된 규모의 데이터 센터 프로젝트에 대한 유연한 대안을 제시한다.

런웨어에 따르면, 이 ‘팟(Pod)’은 다른 서버리스 플랫폼이나 GPU 클라우드에 비해 더 낮은 비용으로 더 높은 품질의 추론 성능을 제공한다. 모듈식 아키텍처를 통해 새로운 팟을 배포함으로써 용량을 신속하게 확장할 수 있어, 고정된 시설을 확장할 필요가 없다. 공동 창업자이자 CEO인 플라비우 라둘레스쿠(Flaviu Radulescu)는 테크크런치(TechCrunch)와의 인터뷰에서 이러한 접근 방식을 컴퓨팅의 미래라고 설명했다.

“더 빠른 추론을 위해 최종 사용자와 더 가까운 곳에 배치된 분산 컴퓨팅이 장기적으로 성공할 것이라고 믿습니다,”라고 그는 설명했습니다. 경쟁력 있는 가격 외에도 라둘레스쿠는 런웨어의 시스템이 신속하게 확장되며, 전원이 공급되는 곳이라면 어디에나 배포할 수 있고, 새로운 하드웨어에 빠르게 적응할 수 있다는 점을 강조했다. 건설에 수개월 또는 수년이 걸리는 기존 데이터 센터와 달리, 런웨어의 포드는 물을 전혀 사용하지 않는 폐쇄형 냉각 시스템을 활용해 불과 며칠 만에 가동할 수 있다.

“추론에 대한 수요가 시설을 건설할 수 있는 속도보다 더 빠르게 증가하고 있습니다,”라고 라둘레스쿠는 말했다. “우리가 원하는 것은 전 세계의 지능에 동력을 공급하고, 수요를 제한하지 않고 수요에 발맞추는 용량을 바탕으로 모든 AI 모델이 실행되는 중추가 되는 것입니다.”

라둘레스쿠에 따르면, 런웨어는 현재 미국, 유럽, 아시아 태평양 지역에 걸쳐 10개의 포드를 운영 중이다. 이 회사는 이미 히그스필드 AI(Higgsfield AI)와 윅스(Wix)와 같은 고객사의 추론 작업을 지원하고 있으며, 160개 사이트에서 포드 가동을 지원할 준비가 되어 있다. 지난 12월 5,000만 달러 규모의 시리즈 A 투자 유치에 이어, 런웨어는 이미지 생성 기업들에 필요한 인프라를 제공하는 것을 목표로 하고 있다. 모듈형 포드로의 이러한 확장은 단일 제품에 집중하기보다는 기업에 추론 서비스를 제공하겠다는 회사의 핵심 사명과 부합한다.

이미지 출처:Runware

오픈AI(OpenAI)와 스페이스X(SpaceX) 같은 주요 AI 연구소들은 여전히 미국 전역에 데이터 센터를 구축하기 위해 경쟁을 벌이고 있다. 보도에 따르면 오픈AI는 오하이오주에 시설을 건설하기 위해 5,000억 달러 규모의 계약을 체결할 예정인 것으로 알려졌다. 그러나 라둘레스쿠는 포드의 유연성을 핵심 장점으로 꼽으며, 이러한 대규모 프로젝트들을 소닉 인퍼런스 포드(Sonic Inference Pods)에 대한 위협으로 보지 않는다.

“모든 포드는 단일 네트워크의 일부로 작동하므로, 요청은 용량이 있는 곳, 즉 사용자와 더 가까운 곳으로 전달되며, 한 포드가 오프라인 상태가 되면 트래픽은 다른 포드로 이동합니다,”라고 그는 설명했다. 그는 또한 시스템 장애가 고정된 시설 전체가 아닌 단일 포드에만 영향을 미친다고 덧붙였다. “전용 하드웨어를 원하는 고객은 포드 전체를 독점적으로 사용할 수 있습니다.”

라둘레스쿠는 또한 경쟁사들이 유사한 솔루션을 구축하는 것에 대해 우려하지 않는 바, 하드웨어 개발 속도가 느리고 이 기술을 설계 및 유지보수할 수 있는 인재 풀이 제한적이라는 점을 지적했다.

“회로 기판 설계에 오류가 발생하면 재설계, 시뮬레이션, 제조, 테스트, 납품까지 수개월이 소요됩니다,”라고 그는 말했다. “이 모든 단계에서는 각 구성 요소가 정확히 어떤 역할을 하는지, 그리고 해당 요소가 없으면 어떤 문제가 발생하는지 정확히 이해하는 전문가가 필요합니다.”

AI 데이터센터 건설은 주로 높은 자원 소비량 때문에 여전히 논란의 여지가 있는 주제다. 이러한 시설을 유치한 지역 사회에서는 이미 공과금 비용 증가를 보고하고 있다. 런웨어(Runware)는 지역 자원에 부담을 주지 않는 재생 에너지로 구동되는 미래를 구상하고 있지만, 아직 그 현실을 완전히 달성하기는 어렵다.

라둘레스쿠는 “공급 주체가 누구인지가 아니라 추론에 대한 수요에 의해 주도되어” AI 전력 소비는 어쨌든 증가할 것이라고 지적했다. 그는 런웨어가 현재 이 수요를 효율적으로 충족하는 데 주력하고 있다고 강조했다. “송전 손실도 없고, 냉각용 물도 필요하지 않으며, 새로운 전력망 용량 확충을 요구하지 않고 이미 존재하는 전력을 활용하고 있습니다. 이런 방식으로 더 많은 추론 작업을 수행하면, 동일한 양의 연산 성능을 위해 필요한 새로운 전력망과 물의 양을 줄일 수 있습니다.”