Techspert объясняет: CPU против GPU против TPU различия

Назад, в мае на I/O, мы представили Trillium, шестое поколение нашего специально разработанного чипа, называемого Tensor Processing Unit, или TPU. Сегодня мы рады сообщить, что он теперь доступен для клиентов Google Cloud в предварительной версии. TPU — это магия, стоящая за AI, которая делает ваши устройства и приложения Google невероятно полезными, а Trillium — это самый мощный и экологичный TPU, который мы когда-либо создавали.

Итак, что такое TPU и чем уникален Trillium? Чтобы получить полное представление, полезно знать о других типах вычислительных процессоров, таких как CPU и GPU, и что их отличает. Челси Цзоп, менеджер по продуктам, работающий над инфраструктурой AI в Google Cloud, может всё объяснить. «Я сотрудничаю с различными командами, чтобы наши платформы были максимально эффективными для клиентов, создающих продукты AI», — говорит она. И, по словам Челси, TPU от Google — это одна из главных причин, почему наши продукты AI так эффективны.

Давай разберёмся с основами! Что такое CPU, GPU и TPU?

Это всё чипы, которые выступают процессорами для вычислительных задач. Представьте свой мозг как компьютер, выполняющий такие действия, как чтение или решение математических задач. Каждая из этих активностей похожа на вычислительную задачу. Так, когда вы используете телефон для съёмки фото, отправки сообщения или открытия приложения, мозг телефона, или процессор, обрабатывает эти задачи.

Что означают эти аббревиатуры?

Хотя CPU, GPU и TPU — это всё процессоры, они становятся всё более специализированными. CPU расшифровывается как Central Processing Unit. Это универсальные чипы, которые могут выполнять широкий спектр задач. Как и ваш мозг, некоторые задачи могут занимать больше времени, если CPU не специализирован для них.

Следующий — это GPU, или Graphics Processing Unit. GPU — это мощные процессоры для ускоренных вычислительных задач, от рендеринга графики до выполнения рабочих нагрузок AI. Они являются типом ASIC, или application-specific integrated circuit. Интегральные схемы обычно изготавливаются из кремния, поэтому вы можете слышать, как чипы называют «кремниевыми» — это одно и то же (и да, именно отсюда пошло название «Силиконовая долина»!). В двух словах, ASIC создаются для одной конкретной цели.

TPU, или Tensor Processing Unit, — это собственный ASIC от Google. Мы разработали TPU с нуля для выполнения вычислительных задач, связанных с AI, что делает их ещё более специализированными, чем CPU и GPU. TPU находятся в основе некоторых из самых популярных AI-сервисов Google, включая Search, YouTube и большие языковые модели DeepMind.

Понятно, значит, эти чипы заставляют наши устройства работать. Где можно найти CPU, GPU и TPU?

CPU и GPU встречаются в повседневных вещах: CPU есть почти в каждом смартфоне и ноутбуке, тогда как GPU распространены в высокопроизводительных игровых системах и некоторых настольных компьютерах. TPU, с другой стороны, находятся только в дата-центрах Google — огромных зданиях, заполненных стойками с TPU, которые работают круглосуточно, чтобы поддерживать глобальные AI-сервисы Google и наших клиентов Cloud.

Что побудило Google начать разработку TPU?

CPU были изобретены в конце 1950-х, а GPU появились в конце 90-х. В Google мы начали думать о TPU около десяти лет назад. Наши сервисы распознавания речи быстро совершенствовались, и мы поняли, что если каждый пользователь начнёт говорить с Google всего три минуты в день, нам придётся удвоить количество компьютеров в наших дата-центрах. Мы знали, что нам нужно что-то гораздо более эффективное, чем стандартное оборудование, доступное в то время, — и нам нужно было гораздо больше вычислительной мощности от каждого чипа. Так мы решили создать свои собственные!

И эта «T» означает Tensor, верно? Почему?

Да — «тензор» — это общий термин для структур данных, используемых в машинном обучении. За кулисами происходит множество математических операций, чтобы задачи AI работали. С нашим последним TPU, Trillium, мы увеличили количество вычислений, которые он может выполнять: Trillium имеет в 4,7 раза большую пиковую вычислительную производительность на чип по сравнению с предыдущим поколением, TPU v5e.

Что это значит на практике?

Это означает, что Trillium может выполнять все вычисления, необходимые для сложных математических задач, в 4,7 раза быстрее, чем предыдущая версия. Trillium не только быстрее, но и может управлять более крупными и сложными рабочими нагрузками.

Есть ли что-то ещё, что делает его улучшением по сравнению с TPU прошлого поколения?

Ещё одно большое улучшение с Trillium — это то, что это наш самый экологичный TPU на данный момент — он на 67% более энергоэффективен, чем предыдущий TPU. Поскольку спрос на AI продолжает расти, индустрии нужно масштабировать инфраструктуру устойчивым образом. Trillium использует меньше энергии для выполнения той же работы.

Теперь, когда клиенты начинают его использовать, какое влияние, по вашему мнению, окажет Trillium?

Мы уже видим удивительные вещи, созданные с помощью Trillium! Клиенты используют его для технологий, которые анализируют РНК для различных заболеваний, конвертируют текст в видео с молниеносной скоростью и многое другое. И это только от наших первых пользователей — теперь, когда Trillium находится в предварительной версии, мы с нетерпением ждём, что люди с ним сделают.