TechSpert는 다음과 같이 설명합니다. CPU vs. GPU vs. TPU 차이

5월 I/O에서 우리는 텐서 처리 장치(TPU)라는 이름의 맞춤 설계된 6세대 칩, Trillium을 공개했습니다. 오늘, 우리는 이것이 이제 Google Cloud 고객들에게 미리보기 형태로 제공된다는 소식을 기쁘게 나눕니다. TPU는 Google 기기와 앱을 매우 유용하게 만드는 AI 뒤의 마법이며, Trillium은 우리가 만든 가장 강력하고 친환경적인 TPU입니다.

그렇다면 TPU란 무엇이고, Trillium을 독특하게 만드는 것은 무엇일까요? 전체 그림을 이해하려면 CPU와 GPU 같은 다른 유형의 컴퓨팅 프로세서를 알아두는 것이 도움이 됩니다. Google Cloud에서 AI 인프라를 담당하는 제품 매니저인 Chelsie Czop이 이를 모두 설명할 수 있습니다. 그녀는 말합니다, "저는 다양한 팀과 협력하여 AI 제품을 만드는 고객들을 위해 우리 플랫폼이 최대한 효율적일 수 있도록 합니다." Chelsie에 따르면, Google의 TPU는 우리 AI 제품이 효과적인 큰 이유 중 하나입니다.

기본부터 알아볼까요! CPU, GPU, TPU란 무엇인가요?

이들은 모두 컴퓨팅 작업을 처리하는 프로세서 역할을 하는 칩입니다. 당신의 뇌가 읽기나 수학 문제를 푸는 것처럼 컴퓨터로 작업한다고 상상해보세요. 이러한 활동 각각은 컴퓨팅 작업과 같습니다. 그래서 전화로 사진을 찍거나, 문자를 보내거나, 앱을 열 때, 전화의 뇌, 즉 프로세서가 그 작업들을 처리합니다.

이 약어들은 무엇을 의미하나요?

CPU, GPU, TPU는 모두 프로세서이지만 점점 더 전문화됩니다. CPU는 중앙처리장치(Central Processing Unit)를 의미합니다. 이들은 다양한 작업을 처리할 수 있는 다목적 칩입니다. 당신의 뇌처럼, CPU가 특정 작업에 특화되지 않았다면 일부 작업은 더 오래 걸릴 수 있습니다.

다음은 GPU, 즉 그래픽 처리 장치(Graphics Processing Unit)입니다. GPU는 그래픽 렌더링부터 AI 워크로드를 실행하는 것까지 가속화된 컴퓨팅 작업을 위한 강력한 도구입니다. 이는 ASIC, 즉 응용 프로그램별 집적 회로의 일종입니다. 집적 회로는 일반적으로 실리콘으로 만들어지며, 그래서 칩을 "실리콘"이라고 부르는 경우가 있습니다(맞아요, 그래서 "Silicon Valley"라는 이름이 생긴 겁니다!). 간단히 말해, ASIC은 특정 목적을 위해 설계됩니다.

TPU, 즉 텐서 처리 장치(Tensor Processing Unit)는 Google의 자체 ASIC입니다. 우리는 TPU를 처음부터 AI 기반 컴퓨팅 작업을 처리하도록 설계하여 CPU와 GPU보다 훨씬 더 전문화했습니다. TPU는 Search, YouTube, DeepMind의 대형 언어 모델을 포함한 Google의 가장 인기 있는 AI 서비스의 핵심에 있습니다.

알겠습니다, 이 칩들이 우리 기기를 작동하게 만드는군요. CPU, GPU, TPU는 어디에서 찾을 수 있나요?

CPU와 GPU는 일상적인 물건에서 찾을 수 있습니다: CPU는 거의 모든 스마트폰과 노트북에 있으며, GPU는 고급 게임 시스템과 일부 데스크톱 컴퓨터에 흔히 사용됩니다. 반면, TPU는 Google 데이터 센터에서만 찾을 수 있습니다 — 전 세계적으로 Google과 우리 Cloud 고객의 AI 서비스를 운영하기 위해 24시간 작동하는 TPU 랙이 가득한 거대한 건물입니다.

Google이 TPU 개발을 시작하게 된 계기는 무엇인가요?

CPU는 1950년대 후반에 발명되었고, GPU는 90년대 후반에 등장했습니다. Google에서는 약 10년 전에 TPU에 대해 생각하기 시작했습니다. 우리의 음성 인식 서비스가 빠르게 개선되고 있었고, 모든 사용자가 하루에 3분만 Google과 대화해도 데이터 센터 컴퓨터를 두 배로 늘려야 한다는 것을 깨달았습니다. 당시의 상용 하드웨어보다 훨씬 더 효율적인 무언가가 필요했고, 각 칩에서 더 많은 처리 능력이 필요했습니다. 그래서 우리는 직접 만들기로 결정했습니다!

그리고 그 "T"는 텐서를 의미하는 거죠? 왜죠?

네 — "텐서"는 머신 러닝에서 사용되는 데이터 구조를 가리키는 일반적인 용어입니다. AI 작업을 가능하게 하는 많은 수학이 배후에서 이루어집니다. 최신 TPU인 Trillium은 수행할 수 있는 계산량을 크게 늘렸습니다: Trillium은 이전 세대인 TPU v5e에 비해 칩당 최대 컴퓨팅 성능이 4.7배입니다.

그게 정확히 무슨 의미인가요?

이는 Trillium이 복잡한 수학 계산에 필요한 모든 연산을 이전 버전보다 4.7배 빠르게 처리할 수 있다는 뜻입니다. Trillium은 더 빠를 뿐만 아니라 더 크고 복잡한 워크로드를 관리할 수도 있습니다.

이전 세대 TPU에 비해 개선된 점이 또 있나요?

Trillium의 또 다른 큰 개선점은 지금까지 가장 지속 가능한 TPU라는 점입니다 — 이전 TPU보다 67% 더 에너지 효율적입니다. AI 수요가 계속 증가함에 따라, 업계는 지속 가능한 방식으로 인프라를 확장해야 합니다. Trillium은 동일한 작업을 더 적은 전력으로 수행합니다.

이제 고객들이 사용하기 시작했는데, Trillium이 어떤 영향을 미칠 것이라고 생각하나요?

우리는 이미 Trillium으로 구동되는 놀라운 것들을 보고 있습니다! 고객들은 이를 다양한 질병에 대한 RNA 분석, 텍스트를 빠르게 비디오로 변환하는 기술 등에 사용하고 있습니다. 그리고 이는 초기 사용자들로부터 나온 것일 뿐입니다 — 이제 Trillium이 미리보기 단계에 들어섰으니, 사람들이 이를 가지고 무엇을 할지 기대됩니다.