MIPS에서 엑사플롭스로 수십 년 만에: 컴퓨팅 파워가 폭발적으로 증가하며 AI를 변혁할 것이다

Nvidia GTC 컨퍼런스에서 기술 대기업이 획기적인 성과를 공개했습니다: 1엑사플롭에 도달할 수 있는 최초의 단일 랙 서버 시스템입니다. 이는 초당 10억억 부동소수점 연산(FLOPS)을 의미합니다. 이 성과는 Nvidia의 최신 GB200 NVL72 시스템과 최첨단 Blackwell 그래픽 처리 장치(GPU)로 이루어졌습니다. 이를 직관적으로 설명하자면, 이 시스템은 약 6피트 높이, 3피트가 조금 넘는 깊이, 2피트 미만의 너비를 가진 표준 컴퓨터 랙에 들어갑니다.

엑사플롭 축소: Frontier에서 Blackwell까지

이 발표는 몇 년 만에 우리가 얼마나 멀리 왔는지 생각하게 했습니다. 세계 최초의 엑사플롭 가능 컴퓨터인 "Frontier"는 2022년 Oak Ridge National Laboratory에 설치되었습니다. HPE가 제작하고 AMD GPU와 CPU로 구동되는 이 시스템은 74개의 랙을 차지했습니다. 반면, Nvidia의 새 시스템은 단일 랙에 73배 더 많은 성능을 담았습니다. 이는 3년 연속으로 매년 성능을 3배씩 늘린 것과 같습니다! 이는 컴퓨팅 밀도, 에너지 효율성, 아키텍처 설계에서 놀라운 발전을 보여줍니다.

또한 두 시스템 모두 엑사스케일 이정표에 도달했지만, 용도가 다르다는 점도 주목할 만합니다. Nvidia의 엑사플롭 등급은 4비트 및 8비트 부동소수점 연산과 같은 낮은 정밀도 수학을 기반으로 하며, 대규모 언어 모델(LLM) 훈련 및 실행과 같은 AI 작업에 이상적입니다. 이러한 계산은 정밀도보다 속도를 우선시합니다. 반면, Frontier의 엑사플롭 등급은 64비트 배정밀도 수학에서 나오며, 이는 정확도가 중요한 과학 시뮬레이션의 표준입니다.

우리는 매우 빠르게 발전했습니다

이러한 진전의 속도는 믿기 어려울 정도입니다. 특히 컴퓨팅 경력 초기를 떠올리면 더욱 그렇습니다. 제 첫 직업은 DEC의 PDP-10 시리즈 타임셰어 메인프레임인 DEC KL 1090에서 프로그래머로 일하는 것이었습니다. 그 기계는 초당 180만 명령(MIPS)을 처리했습니다. 음극선관(CRT) 디스플레이에 하드와이어 케이블로 연결되었으며, 그래픽은 전혀 없고 화면에 텍스트만 표시되었습니다. 물론 인터넷도 없었습니다. 원격 사용자는 초당 1,200비트로 제한된 모뎀을 통해 전화선으로 연결해야 했습니다.

5,000억 배 더 많은 컴퓨팅 파워

MIPS와 FLOPS를 직접 비교하는 것은 정확하지 않지만, 컴퓨팅 파워의 놀라운 도약을 느끼게 합니다. MIPS는 정수 처리 속도를 측정하며, 범용 컴퓨팅과 비즈니스 애플리케이션에 적합합니다. 반면 FLOPS는 부동소수점 성능을 측정하며, 과학 작업과 현대 AI의 무거운 작업, 예를 들어 머신 러닝(ML) 모델 훈련 및 실행에 필요한 행렬 연산과 선형 대수학에 중요합니다.

이를 대략적으로 기준 삼아, 새 Nvidia 시스템은 옛 DEC 기계보다 약 5,000억 배 강력합니다. 이는 단일 경력 동안 컴퓨팅 파워의 기하급수적 성장을 보여주는 놀라운 예입니다. 40년 동안 이 정도를 달성했다면, 앞으로 5년은 무엇을 가져올지 궁금해집니다.

Nvidia는 이에 대한 힌트를 주었습니다. GTC에서 그들은 "Vera Rubin" Ultra 아키텍처 기반의 차세대 풀랙 시스템이 현재 Blackwell Ultra 랙의 14배 성능을 제공할 것이라는 로드맵을 공유했습니다. 이는 앞으로 1~2년 내에 AI 최적화 작업에서 14~15엑사플롭을 기대할 수 있다는 뜻입니다.

이는 단순히 원시 파워에 관한 것만이 아닙니다. 이 성능을 단일 랙에 압축한다는 것은 더 적은 물리적 공간, 더 적은 재료, 그리고 연산당 잠재적으로 더 낮은 에너지 사용을 의미합니다. 하지만 이러한 시스템의 절대적인 전력 소모가 여전히 크다는 점도 잊지 말아야 합니다.

AI는 정말 그 정도 컴퓨팅 파워가 필요할까?

이러한 성능 향상은 인상적이지만, AI 산업은 이제 큰 질문과 씨름하고 있습니다: 우리가 정말로 얼마나 많은 컴퓨팅 파워가 필요하며, 그 비용은 무엇일까? 대규모 새 AI 데이터 센터를 구축하려는 경쟁은 엑사스케일 컴퓨팅과 점점 더 강력해지는 AI 모델의 요구에 의해 주도되고 있습니다.

가장 야심찬 프로젝트는 5,000억 달러 규모의 Project Stargate로, 미국 전역에 각각 50만 평방피트 규모의 20개 데이터 센터를 계획하고 있습니다. 전 세계적으로 다른 하이퍼스케일 프로젝트들이 진행 중이거나 준비 중이며, 기업과 국가들이 미래 AI 작업을 위한 인프라 구축에 나서고 있습니다.

일부 분석가들은 우리가 과도하게 구축하고 있을지도 모른다는 우려를 표하고 있습니다. 중국의 DeepSeek에서 나온 추론 모델 R1이 동급 모델보다 훨씬 적은 컴퓨팅을 사용한다는 발표 이후 우려가 커졌습니다. Microsoft가 여러 데이터 센터 제공업체와의 임대 계약을 취소한 것은 그들의 AI 인프라 필요를 재고하고 있다는 추측을 낳았습니다.

그러나 The Register는 이러한 철회가 차세대 AI 시스템의 전력 및 냉각 요구를 충족할 수 없는 데이터 센터 계획 때문일 가능성이 있다고 제안했습니다. AI 모델은 이미 현재 인프라의 한계를 밀어붙이고 있습니다. MIT Technology Review는 중국의 많은 데이터 센터가 오래된 사양으로 구축되어 어려움을 겪고 실패하고 있다고 보도했습니다.

AI 추론은 더 많은 FLOPS를 요구한다

추론 모델은 런타임에서 추론이라는 과정을 통해 가장 무거운 작업을 수행합니다. 이러한 모델은 심층 연구 보조 및 새롭게 등장하는 에이전트 AI 시스템과 같은 가장 고급스럽고 자원 집약적인 애플리케이션을 구동합니다.

DeepSeek-R1은 처음에 미래 AI가 더 적은 컴퓨팅 파워를 필요로 할 것이라는 생각을 업계에 심어주었지만, Nvidia CEO Jensen Huang은 이에 강하게 반박했습니다. CNBC 인터뷰에서 그는 정반대의 결론을 내렸다고 주장하며, "추론 AI는 비추론 AI보다 100배 더 많은 컴퓨팅을 소모한다"고 덧붙였습니다.

AI가 추론 모델에서 자율 에이전트로, 그리고 그 너머로 진화함에 따라 컴퓨팅 파워에 대한 수요는 다시 급증할 가능성이 높습니다. 다음 돌파구는 AI 에이전트 조정, 융합 시뮬레이션, 또는 대규모 디지털 트윈과 같은 영역에서 나올 수 있으며, 이는 우리가 방금 본 컴퓨팅 도약으로 가능해졌습니다.

마치 신호에 맞춘 듯, OpenAI는 기록상 최대 규모의 민간 기술 펀딩 라운드인 400억 달러의 신규 자금 조달을 발표했습니다. 블로그 포스트에서 그들은 이 자금이 "AI 연구의 한계를 더욱 확장하고, 컴퓨팅 인프라를 확장하며, 매주 ChatGPT를 사용하는 5억 명의 사람들에게 점점 더 강력한 도구를 제공할 것"이라고 밝혔습니다.

왜 이렇게 많은 자본이 AI로 몰리고 있을까? 경쟁력에서 국가 안보에 이르기까지 이유는 다양하지만, 한 가지 두드러진 요소는 AI가 McKinsey에 따르면 연간 4.4조 달러의 기업 이익을 증가시킬 수 있다는 점입니다.

다음은 무엇일까? 누구도 모른다

정보 시스템의 핵심은 복잡성을 단순화하는 것입니다. 제가 Fortran으로 작성한 긴급 차량 경로 시스템, COBOL로 구축한 학생 성취 보고 도구, 또는 약물 발견을 가속화하는 현대 AI 시스템이든, 목표는 항상 같았습니다: 세상을 이해하는 것입니다.

이제 강력한 AI가 지평선에 있으며, 우리는 새로운 문턱을 넘고 있습니다. 처음으로 인간의 손이 닿지 않던 문제를 해결할 수 있는 컴퓨팅 파워와 지능을 갖추게 될지도 모릅니다.

뉴욕 타임스 칼럼니스트 Kevin Roose는 이 순간을 잘 포착했습니다: "매주 저는 AI에 종사하는 엔지니어와 기업가를 만나며, 그들은 변화—거대한 변화, 세상을 뒤흔드는 변화, 우리가 이전에 보지 못한 변화—가 바로 코앞에 있다고 말합니다." 그리고 이는 매주 도착하는 돌파구를 포함하지 않은 것입니다.

지난 며칠 동안만 해도 OpenAI의 GPT-4o가 텍스트에서 거의 완벽한 이미지를 생성하고, Google이 Gemini 2.5 Pro라는 가장 진보된 추론 모델을 발표했으며, Runway가 VentureBeat에서 언급했듯이 대부분의 AI 비디오 생성기가 놓쳤던 샷 간 캐릭터 및 장면 일관성을 갖춘 비디오 모델을 공개했습니다.

다음은 무엇일까? 정말로 누구도 모릅니다. 강력한 AI가 돌파구가 될지, 붕괴가 될지, 핵융합 에너지를 해결하는 데 도움이 될지, 새로운 생물학적 위험을 초래할지 알 수 없습니다. 하지만 앞으로 5년 동안 FLOPS가 계속 증가함에 따라 한 가지는 확실해 보입니다: 혁신은 빠르고 강력하게 올 것입니다. FLOPS가 확장됨에 따라 책임, 규제, 자제에 대한 대화도 함께 확장되어야 합니다.

Gary Grossman은 Edelman의 기술 실무 EVP이자 Edelman AI Center of Excellence의 글로벌 리더입니다.