埃隆·马斯克（Elon Musk）雄心勃勃的特斯拉Dojo AI超级计算机公开

多年来，埃隆·马斯克（Elon Musk）一直对特斯拉AI野心核心的AI超级计算机Dojo发声。 2024年7月，马斯克强调了它的重要性，宣布特斯拉的AI团队将在十月备受期待的Robotaxi揭示之前加强对Dojo的努力。

那么，Dojo到底是什么，为什么它对特斯拉的长期战略如此至关重要？

本质上，Dojo是特斯拉的定制超级计算机，旨在训练其“完整的自动驾驶”（FSD）神经网络。 Dojo的增强与特斯拉的目标是实现完整的自动驾驶能力并推出机器人服务的目标。目前，安装在数十万特斯拉车辆中的FSD可以处理某些自动驾驶任务，但仍然需要人类驾驶员的注意。

在10月的网络车期揭晓之后，特斯拉将于今年6月使用自己的车队在奥斯丁推出自动乘车服务。在一月份的2024年第四季度和全年收益电话会议上，特斯拉宣布了计划在2025年为美国客户提供无监督的FSD。

尽管马斯克早些时候声称道场是特斯拉全驾驶野心的关键，但随着进球的临近，他对这个主题的态度相对安静。自2024年8月以来，对话已转移到Cortex，这是特斯拉在其奥斯汀总部的新AI训练超级集团。马斯克（Musk）将Cortex描述为“用于FSD和Optimus的视频培训的大量存储”。

尽管特斯拉的Q4股东甲板提供了有关Cortex的最新动态，但Dojo对此表示了沉默。特斯拉显然在包括Dojo和现在的Cortex在内的人工智能投资，以实现车辆和人形机器人的自治。随着电动汽车市场的竞争越来越高，特斯拉的未来成功取决于掌握这些技术。

特斯拉的Dojo背景故事

埃隆·马斯克（Elon Musk）对特斯拉（Tesla）的愿景不仅仅是制造汽车，太阳能电池板和储能系统。他希望特斯拉通过模仿人类的看法来成为AI强大的自动驾驶技术。

与许多其他自动驾驶汽车科技公司不同，这些公司依靠LiDAR，RADAR和相机等传感器以及高清地图，Tesla的目标是仅使用摄像头实现完全的自主权。这些相机捕获了视觉数据，然后由高级神经网络处理以做出实时驾驶决策。

在特斯拉（Tesla）2021年的第一个AI日，前AI的负责人安德烈·卡尔帕蒂（Andrej Karpathy）将公司的目标比作了“从头开始建造合成动物”的目标。自2019年以来，马斯克一直在暗示道乔，但在AI日正式揭幕。

虽然像Alphabet的Waymo这样的公司成功地将4级自动驾驶汽车商业化，但特斯拉的系统仍然需要人类。超过180万人订阅了特斯拉的FSD，价格从8,000美元到15,000美元不等。承诺是，训练Dojo训练的AI将通过无线更新向客户推出。从FSD车辆收集的大量数据（数百万英里的录像带）用于训练和完善系统。

但是，一些行业专家质疑这种数据繁重的方法的功效。普渡大学教授Anand Raghunathan告诉TechCrunch：“首先，经济限制，很快就会变得太昂贵了。有些人声称我们实际上可能会用尽有意义的数据来培训模型。更多的数据不一定一定意味着更多的信息，因此该数据依赖于更有用的信息来创建一个更好的模型，并且能够真正跨越一个信息，并且实际上是一个信息，并且能够真正地互动，并且能够真正地互动。

尽管存在这些担忧，但至少目前，更多的数据趋势似乎仍在延伸。随着更多的数据，需要更多的计算能力来存储和处理所有数据，这就是超级计算机Dojo开始发挥作用的地方。

什么是超级计算机？

Dojo是特斯拉的超级计算机系统，专门用于培训AI模型，尤其是针对FSD。 “ Dojo”这个名字是对武术训练空间的致敬。

超级计算机由数千台称为节点的较小计算机组成，每个计算机都带有CPU和GPU。 CPU管理节点，而GPU则处理复杂的任务，例如分裂操作并同时处理它们。 GPU对于机器学习任务至关重要，例如在FSD培训模拟中使用的任务。他们还为大型语言模型提供动力，这解释了为什么由于生成AI的兴起，NVIDIA为何已成为地球上最有价值的公司。

特斯拉目前使用NVIDIA GPU训练其AI，但由于NVIDIA芯片的高成本和有限的可用性，它希望使其硬件来源多样化。

特斯拉为什么需要超级计算机？

特斯拉的仅视觉方法需要超级计算机。电力FSD的神经网络接受了大量驾驶数据的培训，以识别和对车辆周围的对象进行分类并做出驾驶决策。当使用FSD时，这些网络必须以与人类感知相媲美的速度连续收集和处理视觉数据。

本质上，特斯拉旨在创建人类视觉皮层和大脑功能的数字复制品。为了实现这一目标，特斯拉需要从其全球车辆车队中存储和处理大量视频数据，并运行无数的模拟来训练其AI模型。

dojo图片pic.twitter.com/lu8yizxo8c

- 埃隆·马斯克（@elonmusk） 2024年7月23日

特斯拉依靠NVIDIA进行目前的Dojo培训计算机，但正在使用自己的自定义硬件来提高效率并降低成本。目的是开发可增强带宽并减少潜伏期的硬件，从而摆脱标准GPU硬件。

告诉我更多有关这些筹码的信息

特斯拉（Tesla）和苹果（Apple）一样，相信设计硬件和软件，这些硬件和软件无缝合作。这种哲学导致特斯拉为Dojo开发自己的筹码。

在2021年的AI日，特斯拉推出了D1芯片，这是一个棕榈大小的硅广场。 D1的生产始于2024年5月，由台湾半导体制造公司（TSMC）处理的制造业使用7纳米半导体节点。 D1拥有500亿晶体管，大尺寸为645毫米平方，有望实现复杂任务的高功率和效率。

特斯拉（Tesla）的2021年AI天的自动驾驶仪高级总监Ganesh Venkataramanan说：“我们可以同时进行计算和数据传输，而我们的自定义ISA（这是指令套件的体系结构）已完全优化了机器学习工作负载。” “这是一个纯机器学习。”

虽然D1功能强大，但它与Nvidia的A100芯片不太匹配，该芯片还使用了7纳米过程，并且包含540亿个晶体管，较大的模具尺寸为826平方毫米。

为了获得更高的带宽和计算功率，特斯拉的AI团队将25芯片组合成一个瓷砖，充当统一的计算机系统。每个瓷砖每秒提供9个PETAFLOPS的计算功率和36 trabytes，其中包括所有必要的功率，冷却和数据传输的硬件。六个瓷砖构成一个架子，两个架子形成一个橱柜，十个橱柜会产生一个exapod。在2022年AI日，特斯拉揭示了通过部署多个exapods并形成超级计算机来扩展Dojo的计划。

特斯拉还正在开发下一代D2芯片，以解决信息流瓶颈。 D2将整个Dojo瓷砖集成到单个硅晶片上。

特斯拉尚未透露它已订购或期望收到多少D1芯片，也没有为Dojo SuperCuptuters在D1芯片上运行时提供时间表。

在回应X上关于在德克萨斯州建造巨大GPU冷却器的6月帖子时，马斯克说，特斯拉的目标是在接下来的18个月中旨在“半特斯拉AI硬件，一半NVIDIA/其他”。根据马斯克的一月评论，“其他”可能包括AMD芯片。

Dojo对特斯拉意味着什么？

通过控制其芯片生产，特斯拉可能会以较低的成本为其AI培训计划增加重要的计算功率，尤其是随着TSMC的生产量表。

这一举动还可以减少特斯拉对NVIDIA日益昂贵和稀缺的筹码的依赖。在特斯拉的第二季度收益电话中，马斯克表示担心确保稳定的GPU供应，强调需要更多地专注于Dojo。

尽管做了这些努力，但特斯拉仍在购买NVIDIA芯片以进行AI培训。 6月，马斯克在X上发布：

我说特斯拉今年将要制作的大约10B $ 10B的支出中，大约是内部的一半，主要是特斯拉设计的AI推理计算机和我们所有汽车中存在的传感器，以及Dojo。为了构建AI训练超级克洛斯特人，NVIDIA硬件约为成本的2/3。我目前对特斯拉购买NVIDIA购买的最佳猜测是今年$ 3B至$ 4B。

- 埃隆·马斯克（@elonmusk） 2024年6月

“推理计算”是指特斯拉车进行的实时AI计算，该计算与Dojo处理的训练计算不同。

Dojo代表了特斯拉的冒险但有益的冒险。马斯克承认特斯拉可能不会在Dojo上取得成功，但他将其视为特斯拉AI部门的基石，该部门最初是针对Tesla的人形机器人的FSD和Optimus进行计算机视觉标签和培训量身定制的。

Dojo的未来版本可以用于通用AI培训，尽管这需要当前为GPU设计的重写软件。另外，特斯拉可以租用其计算能力，类似于AWS和Azure。

在第二季度收入期间，马斯克提到“与Dojo与Nvidia竞争的道路”。摩根士丹利（Morgan Stanley）的2023年9月的一份报告表明，道乔（Dojo）可以通过在机器人和软件服务中开设新的收入来源来为特斯拉的市场价值增加5000亿美元。

从本质上讲，Dojo的筹码是特斯拉的保险单，并有可能获得大量回报。

Dojo走了多远？

路透社报道说，特斯拉于2023年7月开始在Dojo上生产，但2023年6月的Musk帖子表示，Dojo已经“在线并完成有用的任务已有几个月”。

特斯拉预计，Dojo将在2024年2月之前跻身前五名最强大的超级计算机，尽管尚未公开证实，这对其成就产生了怀疑。该公司还预计，Dojo的总计算将在2024年10月之前达到100个Exaflops。（一个Exaflops等于每秒1千亿次计算机操作。要实现100个Exaflops，假设一个D1可以实现362 Teraflops，则Tesla将需要超过276,000 d1，或者需要超过276,000 d1，或者需要320,500 nvidia a100 a100 gpus。

2024年1月，特斯拉承诺在其位于纽约布法罗的Gigafactory上建造Dojo超级计算机。

2024年5月，马斯克（Musk）提到特斯拉（Austin）的奥斯汀（Austin）Gigafactory的后部将专门用于“超级密集，水冷的超级计算机簇”，事实证明这是用于Cortex而不是Dojo。

在特斯拉的第二季度收益电话会议之后，马斯克在X上发布了Tesla的AI团队使用Tesla HW4 AI计算机（重命名为AI4），这是特斯拉汽车在Tesla Vehicles中发现的硬件，在与Nvidia GPUS的训练循环中。他指出，故障大约为90,000 nvidia h100s加40,000 AI4计算机。

他继续说：“ Dojo 1到年底将在网上进行大约8K H100的培训。” “不是很大，但也不是小。”

特斯拉尚未确认这些芯片现在是否正在运行并运行Dojo。在公司2024年第四季度的收益电话中，没有提及Dojo，但特斯拉确实报告了在第四季度完成了Cortex的部署，该Q4启用了监督FSD的V13。

这个故事最初发表于2024年8月3日，随着新信息的发展，我们将进行更新。