AWS와 NVIDIA가 에이전트 기반 AI와 물리적 AI를 어떻게 뒷받침하고 있는지

엔비디아(NVIDIA) CEO 젠슨 황 (사진: 토모히로 오스미/게티 이미지)

젠슨 황이 이끄는 엔비디아와 AWS, 글로벌 파트너십 확대… 차세대 에이전트형 및 물리적 AI 기업 인프라 구축을 위해 200만 개의 GPU 배치

AWS와 엔비디아는 급증하는 전 세계 AI 인프라 수요를 충족하기 위해 오랜 기간 이어온 전략적 협력을 대폭 확대한다고 발표했다.

AI 인프라 구축이 지속됨에 따라 컴퓨팅 성능은 전 세계에서 가장 빠르게 확장되는 자원 중 하나로 부상하고 있습니다. 컨설팅 기업 맥킨지(McKinsey)는 2030년까지 전 세계 데이터 센터가 전례 없는 컴퓨팅 성능 수요에 부응하기 위해 6.7조 달러가 필요할 것으로 전망합니다.

AI 붐의 중심에 있는 이 두 선도 기업은 AWS에서 NVIDIA 가속 컴퓨팅이 이미 빠르게 고객들에게 채택되고 있는 추세를 바탕으로, 여기에 더해 AWS의 글로벌 인프라 전반에 200만 개의 NVIDIA GPU를 추가로 구축할 계획입니다.

“엔비디아와 AWS는 AI 시대의 가장 강력한 성장 동력 중 하나를 구축했으며, 수요는 모든 예측을 뛰어넘고 있습니다.” —

엔비디아 창립자 겸 CEO,

젠슨

황

지난 3월, AWS는 2026년부터 100만 개 이상의 NVIDIA GPU를 추가할 계획을 발표했습니다. 출처: NVIDIA

물리적 및 에이전트 기반 AI 지원

양사는 AI 팩토리, CPU, 네트워킹, 오픈 모델, 데이터 처리 및 로봇 공학 전반에 걸쳐 협력을 심화하고 있다고 강조하며, 엔비디아는 양사가 함께 공동 설계된 AI 솔루션을 제공함으로써 고객이 “전례 없는 규모”로 “AI 개발 및 배포”를 가속화할 수 있도록 지원할 것이라고 밝혔습니다.

AWS의 CEO인 맷 가먼(Matt Garman)은 “고객들은 자신의 AI 워크로드에 가장 적합한 도구를 자유롭게 선택할 수 있기를 원하며, 모든 것이 원활하게 연동될 것이라는 확신을 원합니다.”라고 말했습니다.

매트 가먼, AWS CEO. 출처: 아마존 웹 서비스(AWS)

“바로 그 이유로 우리는 NVIDIA와 심도 있게 협력하여 AWS를 NVIDIA AI 기술을 실행하기에 최적의 환경으로 만들고, 네트워킹과 보안부터 배포에 이르기까지 인프라 전반에 걸쳐 성능을 최적화해 왔습니다. 이번 협력 확대를 통해 선구적인 연구소, 기업 및 정부 기관은 AWS에서 AI를 구축하고 배포할 수 있는 더 많은 방법을 확보하게 될 것입니다.”

주요 파트너십 세부 사항

• AWS에 NVIDIA Vera CPU 도입
• 새로운 EC2 G7 인스턴스, 추론 성능 4.6배 향상
• IL6 보안 기준을 충족하는 연방 AI 팩토리 구축
• Amazon Robotics, Jetson, Omniverse 및 Isaac 도입
• 안나푸르나 랩스, NVLink Fusion을 통해 Trainium 연결

그 의미

지난 3월, AWS는 2026년부터 100만 개 이상의 NVIDIA GPU를 추가할 계획을 발표했습니다. 그 이후 수요가 이러한 기대치를 뛰어넘자, AWS는 2027년과 2028년에 걸쳐 AI 팩토리를 포함한 AWS 글로벌 인프라 전반에 NVIDIA Blackwell Ultra, Rubin 및 Rubin Ultra GPU 200만 개를 추가로 배포할 계획입니다.

“NVIDIA와 AWS는 AI 시대의 가장 강력한 성장 동력 중 하나를 구축했으며, 수요는 모든 예측을 앞지르고 있습니다.”라고 NVIDIA의 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 말합니다.

엔비디아(NVIDIA) 창립자 겸 사장 및 CEO 젠슨 황 (사진 제공: 게티)

“지난 16년 동안 우리는 함께 클라우드에서 NVIDIA 컴퓨팅의 규모를 확장해 왔습니다. 이제 우리는 GPU, CPU, 네트워킹, 오픈 모델 및 소프트웨어에 이르는 전체 스택에 걸쳐 파트너십을 확대하여, 오직 AWS와 엔비디아만이 제공할 수 있는 전례 없는 속도와 규모로 자율적 및 물리적 AI를 현실로 만들 것입니다. 이러한 확장은 AWS 상의 엔비디아 플랫폼에 대한 고객들의 수요를 반영한 것입니다.”

양사는 이번 파트너십 확장이 다음과 같은 의미를 갖는다고 강조합니다:

• 맞춤형 NVIDIA 고대역폭 메모리를 적용한 NVIDIA NVLink Fusion 확장
• 연방 및 국가 안보 워크로드를 실행하기 위해 보안이 강화된 AWS 인프라에 10만 개의 GPU를 포함하는 등, 미국 정부를 위한 AI 팩토리 구축
• 보안 및 신뢰성 강화를 위해 NVIDIA 플랫폼을 AWS Nitro System 및 Elastic Fabric Adapter와 통합
• Amazon Bedrock 및 Amazon SageMaker에서 NVIDIA Nemotron 오픈 모델에 대한 지속적인 지원
• NVIDIA cuDF 및 cuVS CUDA-X 라이브러리를 활용하여 Amazon EMR 및 Amazon OpenSearch에서의 데이터 처리 및 벡터 인덱싱 가속화
• Amazon Robotics가 NVIDIA의 물리적 AI 플랫폼을 도입함으로써 로봇 공학 워크로드를 한층 더 발전시킴

AWS와 NVIDIA가 대규모로 AI를 실제 운영 환경에 적용할 수 있게 만든 것을 보니 정말 기쁩니다

. — Patrol 6의 CTO 겸 공동 창업자,

Skylar

Graika

추가 용량

이러한 추가 용량은 에이전트형 AI와 과학적 발견부터 엔터프라이즈 자동화 및 물리적 AI에 이르기까지 다양한 고객 워크로드를 지원하는 데 도움이 될 것입니다.

이 플랫폼을 기반으로 구축하는 AWS 고객에게 이 확장된 스택은 초기 AI 파일럿과 본격적인 생산 규모 사이의 격차를 해소하는 등 업계의 주요 과제를 직접적으로 해결해 줄 것입니다. 이 소식에 대해 링크드인에 글을 올린 AI 우선 바디캠 기업 Patrol 6(AWS 기반)의 CTO 겸 공동 창업자 스카일러 그라이카(Skylar Graika)는 “AWS와 NVIDIA가 AI를 대규모로 생산 환경에 적용할 수 있게 만든 것을 보니 정말 흥미롭습니다.”라고 말했습니다.

Patrol 6의 CTO 겸 공동 창업자 스카일러 그라이카. 출처: 스카일러 그라이카/LinkedIn

“시범 운영에서 본격적인 배포로 넘어가는 단계에서 많은 팀이 난관에 부딪히곤 하는데, 이러한 통합을 통해 실제 현장에서의 영향력을 크게 가속화할 수 있을 것입니다.”

NVIDIA의 주요 파트너

AWS와의 오랜 협력 관계는 물론, NVIDIA는 다양한 주요 하드웨어 및 클라우드 제공업체와도 협력하고 있습니다. 그중 일부는 다음과 같습니다.

• TSMC: 세계 최고의 순수 반도체 파운드리 기업인 TSMC는 블랙웰(Blackwell) 및 루빈(Rubin) 아키텍처를 포함한 NVIDIA의 최첨단 AI 및 그래픽 칩을 제조합니다. TSMC는 최첨단 제조 공정과 진보된 COWS(Chip-on-Wafer-on-Substrate) 패키징 기술을 활용하여, NVIDIA의 복잡한 프로세서 설계를 현실로 구현하는 데 필요한 물리적 제조 기반과 실리콘 규모를 제공합니다.

• Dell Technologies: 엔터프라이즈 서버 및 스토리지 인프라 분야의 글로벌 강자인 Dell은 NVIDIA와 협력하여 “Dell AI Factory with NVIDIA”와 같은 통합 엔터프라이즈 솔루션을 제공합니다. NVIDIA GPU, Spectrum-X 네트워킹 및 AI 소프트웨어를 Dell PowerEdge 서버와 결합함으로써, 이 파트너십은 온프레미스 데이터 센터 및 하이브리드 클라우드 환경을 운영하는 기업을 위해 확장 가능한 턴키 AI 구축 솔루션을 제공합니다.

• 폭스콘(Foxconn): 세계 최대의 전자제품 수탁 제조업체인 폭스콘은 NVIDIA와 협력하여 GB200 NVL72 랙을 비롯한 고밀도 AI 서버 시스템을 제조합니다. 또한 폭스콘은 NVIDIA의 물리적 AI 생태계를 통합하여 Omniverse 디지털 트윈과 Isaac 로봇 공학을 결합함으로써, 자사 전 사업 분야에 걸쳐 차세대 자동화 AI 공장, 스마트 제조 공장 및 자율주행 차량 플랫폼을 구축하고 있습니다.