Deepseek는 신념과는 반대로 AI 지출을 향상시킵니다

1월 주식 시장의 하락은 중국의 AI 돌파구인 DeepSeek AI와 그 비용 효율적인 컴퓨팅 방식에 대한 소문으로 촉발되었으며, 이는 기업들이 AI 칩과 시스템에 대한 투자를 줄이고 있다고 믿게 할 수 있습니다. 그러나 블룸버그 인텔리전스가 뉴욕에서 주최한 생성 AI 컨퍼런스에서의 제 경험은 다른 그림을 보여주었습니다. 생성 AI 사용을 확장하려는 열정이 뚜렷이 느껴졌으며, 이 분야의 지출이 결코 둔화되고 있지 않음을 시사했습니다.

또한: DeepSeek AI란 무엇인가? 안전한가? 여기 당신이 알아야 할 모든 것이 있습니다

"DeepSeek 이후의 생성 AI: 스케일링 법칙"이라는 제목의 컨퍼런스는 AI에 대한 지속적인 수요가 투자를 증가시키고 있다는 논의로 가득했습니다.

"오늘 우리는 10개의 패널을 진행했으며, 그 패널에 참여한 단 한 명도 우리가 필요한 것보다 더 많은 용량을 가지고 있다고 말하지 않았습니다,"라고 블룸버그 인텔리전스의 선임 기술 애널리스트이자 행사 주최자 중 한 명인 Mandeep Singh이 말했습니다.

"그리고 인프라에 대한 거품에 대해 이야기한 사람도 없었습니다,"라고 Singh은 덧붙이며 AI의 미래에 대한 업계의 자신감을 강조했습니다.

AI 인프라 구축: 우리는 어디에 있는가?

Singh의 동료이자 블룸버그 인텔리전스의 선임 IT 서비스 및 소프트웨어 애널리스트인 Anurag Rana는 중요한 질문을 던졌습니다: "지금 모두 앞에 놓인 가장 중요한 질문은 AI 인프라 구축입니다. 네. 우리는 그 주기에서 어디에 있는가?"

"아무도 확실히 모릅니다,"라고 Rana는 인정했습니다. 그러나 DeepSeek AI가 불러일으킨 희망은 적은 비용으로도 상당한 발전을 이룰 수 있다는 것입니다.

"DeepSeek은 많은 사람들을 흔들었습니다,"라고 그는 말했습니다. "모델을 실행하는 데 GPU가 그다지 많이 필요하지 않다면, 왜 Stargate 프로젝트에 5000억 달러가 필요한가,"라고 그는 일본의 SoftBank Group, OpenAI, Oracle이 참여하는 계획된 미국 AI 프로젝트를 언급하며 관찰했습니다.

Rana는 AI 비용이 클라우드 컴퓨팅 비용의 급격한 하락을 반영하여 급격히 떨어질 것이라는 업계의 희망을 언급했습니다.

또한: DeepSeek의 새로운 이미지 모델은 더 저렴한 AI의 또 다른 승리인가?

"Amazon AWS에서 1테라바이트의 데이터를 저장하는 데 6, 7, 8년이 걸렸던 비용 곡선의 하락은 시작 당시와 오늘날을 비교했을 때 경제성이 좋았습니다,"라고 그는 말했습니다. "그리고 그것이 모두가 바라는 바입니다. AI의 추론 측면에서, 만약 그 곡선이 그 수준으로 떨어진다면, 오 마이 갓, 최종 사용자 측면이나 기업 측면에서의 AI 채택률은 엄청날 것입니다."

Singh은 동의하며 DeepSeek AI의 등장으로 "효율성을 달성하려는 모두의 마인드셋이 바뀌었다"고 언급했습니다.

하루 종일 수많은 패널이 기업 AI 프로젝트를 시작부터 배포까지 논의했습니다. 그러나 반복되는 주제는 AI의 접근성을 넓히기 위해 비용을 대폭 줄여야 한다는 필요성이었습니다.

"DeepSeek이 놀라움은 아니었다고 생각합니다,"라고 블룸버그의 수석 기술자 Shawn Edwards가 블룸버그 인텔리전스의 책임자인 David Dwyer와의 인터뷰에서 말했습니다. "그것은 내가 생각하게 만든 것은, 마법의 지팡이를 휘둘러 이 모델들이 매우 효율적으로 실행될 수 있다면 좋을 것이라는 점입니다,"라고 그는 모든 AI 모델이 그런 효율성으로 작동할 수 있는 미래를 상상하며 말했습니다.

AI 모델의 확산

많은 패널리스트들이 AI 인프라에 대한 투자가 줄어들기보다는 증가할 것으로 예상하는 한 가지 이유는 AI 모델의 수가 증가하고 있기 때문입니다. 이날의 주요 교훈은 모든 것을 지배하는 단일 AI 모델은 없을 것이라는 점이었습니다.

"우리는 모델의 패밀리를 사용합니다,"라고 Edwards가 설명했습니다. "최고의 모델이라는 것은 존재하지 않습니다."

패널리스트들은 "기반" 또는 "프론티어" 대규모 언어 모델이 계속 진화할 것이지만, 개별 기업은 수백, 심지어 수천 개의 AI 모델을 사용할 수 있다고 동의했습니다.

또한: AI PC의 부상: 기업들이 기술을 재구성하여 따라가는 방법

이 모델들은 회사의 독점 데이터로 미세 조정될 수 있으며, 이는 일반 데이터에 대한 초기 "사전 훈련" 이후 신경망을 재훈련하는 과정입니다.

"기업의 에이전트는 모델들 간의 선택권이 필요합니다,"라고 벤처 지원 데이터 과학 회사 Dataiku의 플랫폼 전략 책임자인 Jed Dougherty가 말했습니다. "그들은 AI 모델을 제어하고 생성하며 감사 가능성을 가져야 합니다."

"우리는 사람들이 이러한 것들을 구축할 수 있는 도구를 그들의 손에 쥐여주고 싶습니다,"라고 그는 말했습니다. "우리는 10명의 박사가 모든 에이전트를 만드는 것을 원하지 않습니다."

마찬가지로, 디자인 도구의 리더인 Adobe는 크리에이티브를 위한 주요 사용 사례로 맞춤 모델에 베팅하고 있습니다. "우리는 당신의 브랜드를 위한 맞춤 모델 확장을 훈련시켜 새로운 광고 캠페인에 도움을 줄 수 있습니다,"라고 Adobe의 신규 사업 벤처 책임자인 Hannah Elsakr가 블룸버그 TV 앵커 Romaine Bostick과의 토론에서 말했습니다.

처리 수요의 증가

AI 모델과 마찬가지로, 회사 내 AI 에이전트의 확산은 처리 수요를 증가시키고 있다고 많은 연사들이 제안했습니다.

"전체 프로세스를 하나의 에이전트에 몰아넣지 않고, 그것을 부분으로 나눌 것입니다,"라고 Microsoft의 Copilot Studio 에이전트 및 자동화 책임자인 Ray Smith가 말했습니다.

Smith는 Copilot과 같은 단일 인터페이스를 통해 "우리는 수백 개의 에이전트와 상호작용할 것입니다 — 그것들은 프로그래밍의 새로운 세계에서 단지 앱일 뿐입니다"라고 예측했습니다.

"우리는 에이전트에게 비즈니스 프로세스를 주고, 우리가 달성하고자 하는 것을 말할 것입니다," 그리고 에이전트는 작업을 수행할 것입니다. "에이전트 앱은 단지 워크플로의 새로운 방식일 뿐입니다,"라고 그는 말했습니다.

또한: Nvidia가 생성 AI 벤치마크에서 지배하며, 2개의 경쟁 AI 칩을 압도

이러한 일상적인 시나리오는 "모두 기술적으로 가능합니다,"라고 Smith는 언급하며, "단지 우리가 그것을 구축하는 속도일 뿐입니다."

조직 내 더 많은 사람들에게 AI "에이전트"를 제공하려는 노력은 비용 절감을 더욱 필요로 한다고, 마이크로프로세서 제조업체 ARM Holdings의 제품 관리 책임자인 James McNiven이 블룸버그의 Hyde와의 대화에서 말했습니다.

"더 많은 기기에서 접근을 어떻게 제공할 것인가,"라고 그는 질문했습니다. "우리는 박사 수준의 작업 능력을 가진 모델들을 보고 있습니다,"라고 그는 말했습니다.

McNiven은 이러한 에이전트들이 인간의 조수 역할을 해야 한다고 제안하며, 10년 전 모바일 폰을 통해 개발도상국에 결제 시스템이 도입되었을 때를 비유로 들었습니다: "그 능력을 사용할 수 있는 사람들에게 어떻게 전달할 것인가?"

기반 모델의 확산

일반적인 기반 모델조차도 놀라운 속도로 확산되고 있습니다.

Amazon AWS는 1,800개의 다양한 AI 모델을 제공하고 있다고 AWS 컴퓨팅 및 네트워킹 책임자인 Dave Brown이 블룸버그 TV 앵커 Caroline Hyde에게 말했습니다. 회사는 모델 실행 비용을 낮추기 위해 많은 노력을 기울이고 있으며, Trainium과 같은 맞춤 AI 칩을 개발하고 있다고 그는 말했습니다.

AWS는 "다른 회사들의 프로세서보다 우리 자신의 프로세서를 더 많이 사용하고 있습니다,"라고 Brown은 Nvidia, AMD, Intel 및 기타 범용 칩 공급업체를 언급하며 말했습니다.

또한: ChatGPT의 새로운 이미지 생성기가 내 기대를 산산조각 냈고, 이제 무료로 시도할 수 있습니다

"고객들은 비용이 더 낮다면 더 많은 것을 할 것입니다,"라고 Brown은 말했습니다.

AWS는 Claude 언어 모델 패밀리의 제조사인 Anthropic과 매일 협력하고 있다고 Brown은 언급했습니다. Anthropic의 응용 프로그래밍 인터페이스 책임자인 Michael Gerstenhaber는 Hyde와의 같은 대화에서 "사고 모델은 많은 용량을 사용하게 합니다,"라고 말하며, DeepSeek R1 및 GPT-o1과 같은 소위 추론 모델이 최종 답변에 대한 논거를 장황하게 출력하는 경향을 언급했습니다.

Anthropic은 "프롬프트 캐싱"과 같은, 이전 답변의 계산을 저장하여 컴퓨팅 예산을 줄이는 방법에 대해 AWS와 긴밀히 협력하고 있다고 그는 말했습니다.

그럼에도 불구하고, 그는 "Anthropic은 모델을 실행하기 위해 수십만 개의 가속기," 즉 AI 중심의 실리콘 칩이 "많은 데이터 센터에 걸쳐" 필요하다고 말했습니다.

또한, AI를 구동하는 에너지 비용의 상승은 둔화될 기미를 보이지 않는다고 Brown은 말했습니다. 현재 데이터 센터는 수백 메가와트를 소비하고 있으며, 결국 기가와트를 필요로 할 것이라고 그는 언급했습니다. "AI가 소비하는 전력은 크고, 많은 데이터 센터에서 그 풋프린트도 큽니다."

또한: 글로벌 AI 컴퓨팅은 2026년까지 '뉴욕 여러 개'에 해당하는 전력을 사용할 것이라고 설립자가 말했습니다

경제적 불확실성과 AI 투자

야심찬 시나리오에도 불구하고, 모든 사용 사례와 투자 계획을 방해할 수 있는 한 가지 요인은 경제입니다.

컨퍼런스가 수요일 저녁에 마무리될 때, 패널리스트와 손님들은 장 마감 후 주식 시장의 급락을 모니터링하고 있었습니다. 미국 대통령 도널드 트럼프가 월스트리트에서 예상했던 것보다 더 크고 포괄적인 글로벌 관세 패키지를 발표한 직후였습니다.

서버와 스토리지와 같은 전통적인 기술 투자 영역은 AI가 아니라 경제적 수축의 초기 희생양이 될 수 있다고 블룸버그의 Rana는 말했습니다.

"우리가 주목하는 또 다른 큰 것은 AI가 아닌 기술 지출입니다,"라고 그는 관세에 대해 말했습니다. "IBM, Accenture, Microsoft 및 기타 모든 것을 볼 때, AI를 잠시 제쳐두고 보면, 이번 실적 시즌에 어려움을 겪을 것입니다."

Rana는 주요 기업의 CFO들이 경제적 불확실성과 잠재적 경기 침체 속에서도 예산을 줄여야 하더라도 AI를 우선순위에 두고 자금을 이동시킬 수 있다고 제안했습니다.

그러나 그 낙관적인 전망은 보장된 것이 아닙니다.

"내가 가장 알고 싶은 것은, 이 모든 대기업들이 AI 데이터 센터를 포함한 자본 지출 목표를 그대로 유지할 것인지,"라고 Rana는 말했습니다, "아니면 '너무 불확실하다'고 말할 것인지입니다."