한 반도체 스타트업이 ‘연산 능력이 아닌 메모리가 AI의 가장 큰 병목 현상’이라는 전망에 힘입어 1억 3,500만 달러를 조달했다.

ChatGPT에 질문을 할 때마다, 사용자의 요청은 일종의 데이터 계주 경주를 촉발합니다. 정보는 메모리에서 빠져나와 CPU를 거쳐 전처리되고, 고성능 연산을 위해 GPU로 이동한 뒤 다시 돌아오는데, AI가 생성하는 단어 하나하나마다 이 전체 루프가 반복됩니다.

이러한 병목 현상은 구조적인 문제로, 모든 요청이 업계에서 가장 비용이 많이 들고 전력 소모가 심한 칩들을 거쳐야만 합니다. 한국과 미국에 사무실을 둔 스타트업 XCENA는 바로 이러한 비효율성을 해결하기 위해 노력하고 있습니다. 창립 4년 차인 이 회사는 처리 능력을 DRAM(프로세서가 활발히 사용하는 데이터를 저장하는 고속 임시 메모리 칩)에 훨씬 더 가깝게 배치하는 칩을 개발했습니다. 이를 통해 일상적인 데이터 작업이 메모리 바로 옆에서 처리될 수 있게 되어, CPU, GPU, 메모리 간에 발생하는 비용이 많이 드는 왕복 이동이 필요 없어집니다.

이 기술이 대규모로 적용된다면 AI 인프라 비용에 미치는 영향은 상당할 것이며, 이것이 투자자들의 강한 관심을 끄는 이유이기도 하다. XCENA는 최근 기업 가치 5억 7,000만 달러를 평가받아 시리즈 B 라운드에서 1억 3,500만 달러를 조달했으며, 이로써 총 투자 유치액은 1억 8,500만 달러에 달했다.

XCENA의 김진(Jin Kim) CEO는 2022년 CTO 김도훈(Dohun Kim)과 CPO 해리 주현 김(Harry Juhyun Kim)과 함께 회사를 공동 창업했다. 세 사람 모두 엔비디아(Nvidia)의 GPU에 전력을 공급하는 칩을 제조하는 메모리 업계의 거물인 삼성과 SK하이닉스의 베테랑이다. “지난 수십 년 동안 CPU와 GPU는 모두 더 똑똑해졌습니다. 하지만 메모리는 그렇지 못했습니다. XCENA는 이러한 상황을 바꾸고자 합니다,"라고 김 CEO는 테크크런치와의 인터뷰에서 말했다. “최근 메모리 가격과 관련 주가의 상승은 AI 인프라가 메모리 중심 아키텍처로 광범위하게 전환되고 있음을 시사합니다,”라고 그는 덧붙였다. (이번 달, 글로벌 메모리 칩 시장을 주도하는 삼성, SK하이닉스, 마이크론 등 3개 기업은 각각 사상 처음으로 기업 가치가 1조 달러를 돌파했다.)

김 대표는 XCENA가 “추론은 더 이상 단순한 연산 문제가 아니라, 점점 더 메모리 확장성 문제로 변하고 있다”는 아이디어에 사업적 승부를 걸고 있다고 말한다.

XCENA의 칩인 MX1은 CXL(Compute Express Link) — 본질적으로 프로세서와 메모리 사이의 전용 고속 통로 —을 통해 CPU에 연결되어, 데이터가 메모리 모듈을 떠나기 전에 미리 처리한다. 이는 데이터를 계산으로 가져가는 방식이지, 그 반대가 아니다. 이 회사는 과거 10대의 서버가 필요했던 작업을 단 한 대의 서버로도 처리할 수 있을 것이라고 밝혔습니다.

“GPU는 AI 모델 훈련의 핵심인 행렬 곱셈에 탁월하지만, 전처리, KV 캐시 관리(모델이 이전 대화 맥락을 재처리할 필요가 없도록 저장하는 시스템), 데이터 캐싱을 포함한 주변 데이터 작업의 상당 부분은 여전히 CPU에서 실행됩니다. 김 씨는 “우리 칩은 이러한 작업을 메모리 모듈 내부에서 직접 처리합니다”라고 말했다.

작년 하반기 이후 메모리 솔루션에 대한 수요가 급증했으며, 이 회사는 이러한 시기가 자사에 유리하게 작용하고 있다고 보고 있다.

김 씨는 구체적인 업체명을 밝히지는 않았지만, 여러 글로벌 메모리 공급업체들과의 논의는 아직 초기 단계에 있다. 이 회사의 이상적인 고객은 매년 AI 인프라에 수백억 달러를 지출하는 하이퍼스케일러들로, 이들에게는 메모리 효율성이 조금만 향상되어도 수억 달러의 비용 절감으로 이어질 수 있다.

MX1은 아직 시제품 단계다. 양산용 칩은 2026년 말까지 삼성 파운드리 라인에서 생산될 예정이며, 회사는 2027년부터 매출을 창출할 것으로 기대하고 있다.

신경망 처리 장치(NPU) 제조사들이 훈련 워크로드를 놓고 엔비디아(Nvidia)에 도전하기 위해 경쟁하고 있는 반면, XCENA는 그 모든 것을 뒷받침하는 메모리 집약적 계층을 목표로 삼고 있다.

XCENA의 가장 직접적인 경쟁사로는 아스테라 랩스(Astera Labs)와 마벨(Marvell)이 있으며, 두 회사 모두 나스닥에 상장된 기업으로 차세대 메모리 연결 기술을 개발 중이다. 김 대표는 마벨이 이미 같은 분야에서 활동 중인 거대하고 확고한 기업이지만, 핵심적인 차이는 지적 재산권(IP)에 있다고 말한다. “저희는 수천 개의 코어를 보유하고 있습니다,”라고 김 대표는 말했다. 공개된 사양을 기준으로 볼 때, 이에 비해 마벨의 접근 방식은 소수의 범용 코어에 의존하고 있다.

이 코어들은 오픈소스 칩 설계 청사진인 RISC-V를 기반으로 하며, 데이터 처리에 특화되어 최적화되었고, 각 코어는 의도적으로 작고 효율적으로 설계되었다. 코어 자체를 넘어, XCENA는 자체적인 내부 메모리 계층 구조, 상호 연결 버스, DRAM 컨트롤러를 설계하는데, 이는 대형 경쟁사를 포함한 대부분의 칩 기업들이 일반적으로 외주화하는 수준의 수직 통합이다.

서울에 본사를 둔 벤처 캐피털(VC) 기업인 알티넘(Altinum)과 IMM 인베스트먼트가 코르스톤 아시아(Corstone Asia) 및 기존 투자자인 SBI 인베스트먼트, 미래자산캐피털과 함께 시리즈 B 투자 라운드를 공동 주도했다. 서울 외곽의 기술 허브인 판교와 서니베일에 사무실을 두고 90명 이상의 직원을 고용하고 있는 이 회사는 추가 자금 조달을 위해 해외 투자자들과도 협의를 진행 중이다.