TechSpert解释：CPU与GPU与TPU差异

在五月的 I/O 大会上，我们发布了 Trillium，这是我们第六代定制设计的芯片，称为张量处理单元（TPU）。今天，我们很高兴地宣布，它现已对 Google Cloud 客户开放预览。TPU 是驱动 Google 设备和应用程序中 AI 功能的魔法，而 Trillium 是我们迄今为止制造的最强大且环保的 TPU。

那么，什么是 TPU？Trillium 有什么独特之处？要了解全貌，了解其他类型的计算处理器（如 CPU 和 GPU）以及它们的区别会很有帮助。Chelsie Czop 是 Google Cloud AI 基础设施的产品经理，她可以解释这一切。她说：“我与各个团队合作，确保我们的平台对构建 AI 产品的客户来说尽可能高效。”据 Chelsie 介绍，Google 的 TPU 是我们 AI 产品如此高效的重要原因。

让我们来了解一下基础知识！什么是 CPU、GPU 和 TPU？

这些都是用于计算任务的处理器芯片。想象你的大脑是一台计算机，执行阅读或解决数学问题等任务。每项活动都像是一个计算任务。因此，当你用手机拍照、发送短信或打开应用程序时，手机的大脑（即处理器）正在处理这些任务。

这些缩写代表什么？

尽管 CPU、GPU 和 TPU 都是处理器，但它们的专业化程度逐渐提高。CPU 代表中央处理器。这些是用途广泛的芯片，可以处理多种任务。就像你的大脑一样，如果 CPU 不专门针对某些任务，处理起来可能会更慢。

接下来是 GPU，即图形处理器。GPU 是加速计算任务的强大工具，从渲染图形到运行 AI 工作负载。它们属于 ASIC，即特定应用集成电路。集成电路通常由硅制成，这就是为什么你可能听说芯片被称为“硅”——是一回事（是的，“硅谷”因此得名！）。简而言之，ASIC 是为特定用途设计的芯片。

TPU，即张量处理器，是 Google 自己的 ASIC。我们从零开始设计 TPU，以处理基于 AI 的计算任务，使其比 CPU 和 GPU 更加专业化。TPU 是 Google 一些最受欢迎的 AI 服务核心，包括搜索、YouTube 和 DeepMind 的大型语言模型。

明白了，这些芯片是我们设备运行的关键。CPU、GPU 和 TPU 通常在哪里能找到？

CPU 和 GPU 存在于日常物品中：几乎每部智能手机和笔记本电脑中都有 CPU，而 GPU 常见于高端游戏系统和一些台式电脑。另一方面，TPU 仅存在于 Google 数据中心——这些大型建筑中装满了 TPU 机架，昼夜不停地运行，以支持 Google 及我们云客户的全球 AI 服务。

是什么促使 Google 开始开发 TPU？

CPU 诞生于 20 世纪 50 年代末，GPU 则出现在 90 年代末。在 Google，我们大约十年前开始考虑 TPU。我们的语音识别服务发展很快，我们意识到如果每个用户每天只用三分钟与 Google 对话，我们的数据中心计算机就需要翻倍。我们知道需要比当时现成硬件更高效的解决方案——而且每个芯片需要更多的处理能力。所以，我们决定自己打造！

那个“T”代表张量（Tensor），对吗？为什么？

是的——“张量”是机器学习中使用的数据结构的通用术语。AI 任务背后有大量的数学运算在进行。我们的最新 TPU Trillium 提升了计算能力：与上一代 TPU v5e 相比，Trillium 的单芯片峰值计算性能提高了 4.7 倍。

这具体意味着什么？

这意味着 Trillium 可以比上一版本快 4.7 倍地处理复杂数学所需的全部计算。Trillium 不仅更快，还能处理更大、更复杂的工作负载。

与上一代 TPU 相比，还有其他改进吗？

Trillium 的另一大改进是它是我们迄今为止最可持续的 TPU——比上一代 TPU 节能 67%。随着 AI 需求的持续增长，行业需要以可持续的方式扩展基础设施。Trillium 用更少的能量完成相同的工作。

现在客户开始使用它，你认为 Trillium 会带来什么样的影响？

我们已经看到一些由 Trillium 驱动的惊人成果！客户正在用它来分析各种疾病的 RNA、将文本快速转换为视频等等。这只是来自我们最初用户的结果——现在 Trillium 进入预览阶段，我们很期待看到人们会用它做什么。