DeepSeek Shakes AI 산업 : 다음 AI 도약은 추론에서 증가 된 계산에 의존 할 수 있으며 더 많은 데이터가 아닙니다.

AI 산업은 끊임없는 변화의 상태에 있으며, 2025년에는 판도를 뒤바꾸는 몇 가지 획기적인 발전이 일어나고 있습니다. 주요 변화 중 하나는 중국 AI 연구소인 DeepSeek가 새로운 모델을 발표하며 폭탄을 터뜨린 사건으로, 이로 인해 Nvidia의 주가가 17% 하락하고 다른 AI 데이터센터 주식에도 영향을 미쳤습니다. DeepSeek의 모델에 대한 화제는 무엇일까요? 이 모델은 미국의 다른 경쟁사들보다 훨씬 낮은 비용으로 최고 수준의 성능을 제공하며, AI 데이터센터의 미래에 대한 큰 논란을 불러일으키고 있습니다.

하지만 DeepSeek가 무엇을 하고 있는지 제대로 이해하려면, 더 넓은 관점에서 전체 그림을 살펴봐야 합니다. AI 세계는 훈련 데이터의 부족 문제와 씨름하고 있습니다. 주요 기업들은 이미 공개 인터넷 데이터의 대부분을 소진했으며, 이는 사전 훈련 개선에 한계에 도달했음을 의미합니다. 그 결과, 산업은 "테스트 시간 컴퓨팅"(TTC)으로 방향을 전환하고 있습니다. 이를 AI 모델이 답변 전에 잠시 "생각"하는 시간으로 생각해보세요, OpenAI의 "o" 시리즈처럼요. TTC가 사전 훈련이 한때 했던 것과 같은 규모의 개선을 제공할 수 있다는 희망이 있으며, 이는 AI의 다음 큰 돌파구를 열어줄 가능성이 있습니다.

이러한 변화는 두 가지 큰 변화를 시사합니다: 첫째, 예산이 적은 연구소들도 이제 최첨단 모델을 내놓으며 경쟁에 뛰어들고 있습니다. 둘째, TTC는 AI 발전을 이끄는 새로운 전선이 되고 있습니다. 이러한 트렌드와 AI 환경 및 시장에 미칠 영향을 분석해보겠습니다.

AI 산업에 대한 시사점

우리는 TTC로의 전환과 추론 모델 간의 경쟁 심화가 하드웨어, 클라우드 플랫폼, 기반 모델, 그리고 엔터프라이즈 소프트웨어 등 여러 측면에서 AI 환경을 재편할 수 있다고 믿습니다.

1. 하드웨어 (GPU, 전용 칩, 컴퓨팅 인프라)

TTC로의 전환은 AI 기업들이 필요로 하는 하드웨어와 그 관리 방식을 바꿀 수 있습니다. 훈련을 위해 점점 더 큰 GPU 클러스터에 투자하는 대신, TTC 요구를 처리하기 위해 추론 능력을 강화하는 데 더 집중할 가능성이 있습니다. GPU는 여전히 추론에 중요하지만, 훈련과 추론 작업 부하의 차이는 이러한 칩의 설정과 사용 방식에 영향을 미칠 수 있습니다. 추론 작업 부하가 더 예측 불가능하고 "급등"하기 때문에 용량 계획이 더 까다로워질 수 있습니다.

우리는 또한 이 변화가 저지연 추론에 특화된 하드웨어, 예를 들어 ASICs 시장을 활성화할 수 있다고 생각합니다. TTC가 훈련 용량보다 더 중요해지면서, 범용 GPU의 지배력이 약화되고 특화된 추론 칩 제조업체들에게 기회가 열릴 수 있습니다.

2. 클라우드 플랫폼: 하이퍼스케일러(AWS, Azure, GCP) 및 클라우드 컴퓨팅

정확도 문제를 제외하고 기업에서 AI 도입의 주요 장애물 중 하나는 추론 API의 신뢰성 부족입니다. 일관되지 않은 응답 시간, 속도 제한, 동시 요청 처리 문제 등은 큰 골칫거리입니다. TTC는 이러한 문제를 더욱 악화시킬 수 있습니다. 이 시나리오에서 높은 서비스 품질(QoS)을 보장하여 이러한 문제를 해결할 수 있는 클라우드 제공업체는 큰 경쟁 우위를 가질 것입니다.

흥미롭게도, 새로운 방법이 AI를 더 효율적으로 만들더라도 하드웨어 수요를 줄이지 않을 수 있습니다. 효율성이 높아지면 소비가 증가하는 Jevons Paradox에 따라, 더 효율적인 추론 모델은 더 많은 개발자들이 추론 모델을 사용하도록 유도하여 컴퓨팅 파워의 수요를 증가시킬 수 있습니다. 우리는 최근 모델 개선이 추론과 더 작고 특화된 모델 훈련 모두에 대한 클라우드 AI 컴퓨팅 수요를 촉진할 가능성이 있다고 생각합니다.

3. 기반 모델 제공업체 (OpenAI, Anthropic, Cohere, DeepSeek, Mistral)

DeepSeek와 같은 새로운 진입자가 대기업들과 훨씬 낮은 비용으로 경쟁할 수 있다면, 독점 사전 훈련 모델의 아성은 무너질 수 있습니다. 또한 트랜스포머 모델에 대한 TTC 혁신이 더 많이 나타날 것이며, DeepSeek가 보여준 바와 같이 이러한 혁신은 AI의 일반적인 주요 기업들 외부의 예상치 못한 곳에서 나올 수 있습니다.

4. 엔터프라이즈 AI 도입 및 SaaS (애플리케이션 레이어)

DeepSeek의 중국 기반을 고려할 때, 보안 및 개인정보 보호 관점에서 그들의 제품에 대한 지속적인 조사가 있을 것입니다. 중국 기반의 API와 챗봇 서비스는 미국, 캐나다, 또는 기타 서구 국가의 엔터프라이즈 AI 고객들에게 큰 호응을 얻지 못할 가능성이 높습니다. 많은 기업들이 이미 DeepSeek의 웹사이트와 앱을 차단하고 있습니다. 서구 데이터센터에서 제3자가 호스팅하더라도 DeepSeek의 모델은 조사를 받을 가능성이 있으며, 이는 엔터프라이즈에서의 채택을 제한할 수 있습니다. 연구자들은 탈옥, 편향, 유해 콘텐츠 생성과 같은 문제를 지적하고 있습니다. 일부 기업은 DeepSeek의 모델을 실험할 수 있지만, 이러한 우려로 인해 광범위한 채택은 어려워 보입니다.

또 다른 측면에서, 수직 특화가 점점 더 주목받고 있습니다. 과거에는 기반 모델 위에 구축된 수직 애플리케이션이 맞춤형 워크플로우를 만드는 데 중점을 두었습니다. 검색 증강 생성(RAG), 모델 라우팅, 함수 호출, 가드레일과 같은 기술은 일반화된 모델을 특정 용례에 맞게 조정하는 데 핵심적이었습니다. 하지만 기반 모델의 큰 개선이 이러한 애플리케이션을 구식으로 만들 수 있다는 우려가 항상 있었습니다. Sam Altman은 한때 모델 능력의 큰 도약이 이러한 혁신을 "압도"할 수 있다고 경고했습니다.

하지만 훈련 시간 컴퓨팅 이익이 정체기에 접어들고 있다면, 빠르게 추월당할 위협은 줄어듭니다. 모델 성능 개선이 TTC 최적화에서 오는 세상에서는 애플리케이션 레이어 플레이어들에게 새로운 기회가 생길 수 있습니다. 구조화된 프롬프트 최적화, 지연 시간 인식 추론 전략, 효율적인 샘플링 기술과 같은 혁신은 특정 수직 분야에서 큰 성능 향상을 제공할 수 있습니다.

이러한 개선은 OpenAI의 GPT-4o와 DeepSeek-R1과 같은 추론 중심 모델에 특히 관련이 있으며, 이들은 응답에 몇 초가 걸릴 수 있습니다. 실시간 애플리케이션에서 지연 시간을 줄이고 특정 도메인 내에서 추론 품질을 향상시키는 것은 경쟁 우위를 제공할 수 있습니다. 결과적으로, 깊은 도메인 지식을 가진 기업들은 추론 효율성을 최적화하고 출력을 미세 조정하는 데 중요한 역할을 할 수 있습니다.

DeepSeek의 작업은 모델 품질 향상을 위해 더 많은 사전 훈련에만 의존하던 방식에서 벗어나고 있음을 보여줍니다. 대신, TTC는 점점 더 중요해지고 있습니다. DeepSeek의 모델이 엔터프라이즈 소프트웨어에서 광범위하게 채택될지는 불분명하지만, 다른 모델 개선에 미치는 영향은 점점 더 분명해지고 있습니다.

우리는 DeepSeek의 혁신이 기존 AI 연구소들이 유사한 기술을 채택하도록 밀어붙이고 있으며, 이는 그들의 기존 하드웨어 이점을 보완한다고 믿습니다. 모델 비용 하락 예측은 Jevons Paradox 패턴에 맞춰 더 많은 모델 사용을 유도하고 있는 것으로 보입니다.

Pashootan Vaezipoor는 Georgian의 기술 리더입니다.