Амбициозный план Элона Маска для суперкомпьютера Tesla Dojo AI.

В течение многих лет Элон Маск громко выражал о Додзё, суперкомпьютере ИИ, в центре амбиций Теслы. В июле 2024 года Маск подчеркнул его важность, объявив, что команда ИИ Теслы усилит усилия на Додзё в преддверии долгожданного раскрытия роботакси в октябре.

Итак, что именно такое Dojo, и почему это так важно для долгосрочной стратегии Теслы?

По сути, Dojo-это настраиваемый суперкомпьютер Tesla, предназначенный для обучения «полного самостоятельного вождения» (FSD) нейронных сетей. Улучшение додзё тесно связано с целью достижения полного самостоятельного вождения и запуска услуги роботакси. В настоящее время FSD, установленная в сотнях тысяч автомобилей Tesla, может выполнять определенные автоматические задачи вождения, но все же требует внимания водителя человека.

После раскрытия киберки в октябре Tesla собирается запустить автономную службу езды в Остине в июне этого года, используя свой собственный парк транспортных средств. В течение 2024 года в четвертом квартале и в течение всего года в январе Tesla объявила о планах представить неконтролируемые FSD для клиентов США в 2025 году.

Несмотря на более ранние утверждения Маск, что Додзё был ключом к полным амбициям Теслы, он был относительно тихим по этому вопросу, когда приближается цель. С августа 2024 года разговор перешел к коре, новой суперкластере Tesla по обучению ИИ в штаб -квартире Остина. Маск описал Cortex как «массивное хранилище для видео -обучения FSD & Optimus».

В то время как колода акционеров Tesla в 4 -м квартале предоставил обновления Cortex, она молчала о Dojo. Tesla явно инвестирует в AI, в том числе Dojo, а теперь и кору, чтобы достичь автономии как в транспортных средствах, так и в гуманоидных роботах. Поскольку рынок EV становится все более конкурентоспособным, будущий успех Теслы в значительной степени зависит от овладения этими технологиями.

Доджо предыстория Теслы

Видение Elon Musk для Tesla выходит за рамки простого производства автомобилей, солнечных батарей и систем хранения энергии. Он хочет, чтобы Тесла был энергетикой ИИ, новаторской технологией самостоятельного вождения, подражая человеческому восприятию.

В отличие от многих других автономных технологических компаний, которые полагаются на сочетание датчиков, таких как Lidar, Radar и камеры, наряду с картами высокой четкости, Tesla стремится достичь полной автономии с использованием только камер. Эти камеры собирают визуальные данные, которые затем обрабатываются передовыми нейронными сетями для принятия решений в реальном времени.

В первый день ИИ Теслы в 2021 году бывший глава ИИ Андрей Карпати сравнил цель компании построить «синтетическое животное с нуля». Маск намекал на Додзё с 2019 года, но он был официально представлен в День ИИ.

В то время как такие компании, как Alphabet's Waymo, успешно коммерциализированы автономные транспортные средства 4 -го уровня, система Tesla по -прежнему требует человека за рулем. Более 1,8 миллиона человек подписались на FSD Tesla, который может стоить от 8000 до 15 000 долларов. Обещание состоит в том, что Dojo-Trained AI будет развернут клиентам через обновления в эфире. Обширные данные, собранные из автомобилей FSD - миллионы миль видеозаписей - используются для обучения и уточнения системы.

Тем не менее, некоторые отраслевые эксперты ставят под сомнение эффективность этого подхода с тяжелым данных. Ананд Рагхунатан, профессор университета Пердью, сказал TechCrunch: «Во -первых, существует экономическое ограничение, и вскоре он станет слишком дорогим для этого. Некоторые люди утверждают, что у нас на самом деле исчерпаны значимые данные для обучения моделей. Больше данных не обязательно означают больше информации, поэтому это зависит от того, есть ли эти данные полезны, чтобы создать лучшую модель, и в то, что обучающий процесс на самом деле способен к тому, что это на самом деле, чтобы это было на самом деле.

Несмотря на эти опасения, тенденция к большему количеству данных, по -видимому, содержится, по крайней мере, на данный момент. И с большим количеством данных возникает необходимость большей вычислительной мощности для хранения и обработки всего этого, где вступает Додзё, суперкомпьютер.

Что такое суперкомпьютер?

Dojo - это суперкомпьютерная система Tesla, разработанная специально для обучения моделей ИИ, особенно для FSD. Название «Додзё» - это кивок на места обучения боевых искусств.

Суперкомпьютер состоит из тысяч более мелких компьютеров, называемых узлами, каждая из которых с процессором и графическим процессором. ЦП управляет узлом, в то время как графический процессор обрабатывает сложные задачи, такие как разделение операций и работа над ними одновременно. Графические процессоры имеют решающее значение для задач машинного обучения, таких как те, которые используются в учебных симуляциях FSD. Они также питают большие языковые модели, что объясняет, почему Nvidia стала самой ценной компанией на планете из -за роста генеративного ИИ.

В настоящее время Tesla использует NVIDIA GPU для обучения ИИ, но он стремится диверсифицировать свои источники оборудования из -за высокой стоимости и ограниченной доступности чипов NVIDIA.

Зачем Тесле суперкомпьютер?

Подход только Теслы, только для зрения, требует суперкомпьютера. Нейронные сети, которые питают FSD, обучаются на огромных объемах данных о вождении для распознавания и классификации объектов вокруг транспортного средства и принятия решений о вождении. Когда FSD используется, эти сети должны непрерывно собирать и обрабатывать визуальные данные на скоростях, которые конкурируют с человеческим восприятием.

По сути, Tesla стремится создать цифровую копию человеческой визуальной коры и функций мозга. Чтобы достичь этого, Tesla необходимо хранить и обрабатывать огромное количество видеодантеров из своего глобального парка транспортных средств и запускать бесчисленные моделирования для обучения модели ИИ.

Dojo Pics pic.twitter.com/lu8yizxo8c

- Элон Маск (@elonmusk) 23 июля 2024 г.

Tesla полагается на NVIDIA для своего текущего учебного компьютера Dojo, но работает над своим собственным пользовательским оборудованием для повышения эффективности и снижения затрат. Цель состоит в том, чтобы разработать аппаратное обеспечение, которое повышает пропускную способность и уменьшает задержки, отходя от стандартного оборудования графических процессоров.

Расскажи мне больше об этих чипсах

Тесла, так же, как Apple, верит в разработку оборудования и программного обеспечения, которое беспроблект вместе. Эта философия заставила Теслу разработать свои собственные фишки для Додзё.

В день ИИ в 2021 году Тесла представил чип D1, кремниевую площадь размером с ладонь. Производство D1 началось по крайней мере до мая 2024 года, с производством, обрабатываемой Taiwan Semiconductor Manufacturing Company (TSMC) с использованием 7 нанометровых полупроводниковых узлов. D1 может похвастаться 50 миллиардами транзисторов, а большой размер - 645 миллиметров в квадрате, обещая высокая мощность и эффективность для сложных задач.

«Мы можем выполнять вычислительные и передачи данных одновременно, и наш пользовательский ISA, который является архитектурой набора инструкций, полностью оптимизирован для рабочих нагрузок машинного обучения», - сказал Ганеш Венкатараманан, бывший старший директор Autopilot Hardware, в День AI Tesla в 2021 году. «Это чистое машинное обучение».

Хотя D1 мощный, он не совсем соответствует чипу NVIDIA A100, который также использует 7 -нанометр и содержит 54 миллиарда транзисторов с большим размером 826 квадратных миллиметров.

Чтобы достичь более высокой пропускной способности и вычислительной мощности, команда AI от Tesla объединила 25 чипов D1 в одну плитку, функционируя как унифицированную компьютерную систему. Каждая плитка предлагает 9 Petaflops вычислительной мощности и 36 терабайт в секунду полосы пропускания, и включает в себя все необходимое оборудование для мощности, охлаждения и передачи данных. Шесть плиток составляют одну стойку, две стойки образуют шкаф, а десять шкафов создают Exapod. В День ИИ 2022 года Тесла показал планы масштабировать Додзё, развернув несколько экзапод, образуя суперкомпьютер.

Tesla также разрабатывает чип D2 следующего поколения для устранения узких мест потока информации. D2 будет интегрировать всю плитку Dojo на одну кремниевую пластину.

Tesla не раскрыла, сколько чипов D1 он заказал или рассчитывает получить, и при этом она не предоставила график, когда суперкомпьютеры Dojo будут работать на чипах D1.

В ответ на июньский пост о X о создании гигантского кулера GPU в Техасе Маск сказал, что Tesla стремится к «Half Tesla AI Adware, Half Nvidia/Other» в течение следующих 18 месяцев. «Другие» могут включать в себя чипы AMD, согласно январским комментариям Маск.

Что значит додзё для Теслы?

Контролируя производство чипов, Tesla потенциально может добавить значительную вычислительную мощность в свои программы обучения искусственного интеллекта по более низкой стоимости, особенно в том, что производственные шкалы с TSMC.

Этот шаг может также снизить зависимость Теслы от все более дорогих и дефицитных чипсов Nvidia. Во время вызова доходов Теслы во втором квартале Маск выразил обеспокоенность по поводу обеспечения устойчивых поставок GPU, подчеркивая необходимость больше сосредоточиться на додзё.

Несмотря на эти усилия, Tesla все еще покупает чипсы Nvidia для обучения искусственному интеллекту. В июне Маск опубликовал на x:

Из примерно 10 миллиардов долларов США, связанные с AI, я сказал, что Tesla заработает в этом году, около половины является внутренним, в первую очередь, разработанный Tesla Computer и датчики и датчики, присутствующие во всех наших автомобилях, плюс Dojo. Для создания Superclusters Training AI, оборудование NVIDIA составляет около 2/3 стоимости. Мое нынешнее лучшее предположение для покупок Nvidia от Tesla составляет от 3 млрд долларов до 4 миллионов долларов в этом году.

- Элон Маск (@elonmusk) июнь 2024 г.

«Вывод Compute» относится к вычислениям искусственного интеллекта в реальном времени, выполненных транспортными средствами Tesla, отличающимися от учебного расчета Dojo.

Додзё представляет собой рискованное, но потенциально полезное предприятие для Теслы. Маск признал, что Тесла, возможно, не преуспевает с Додзё, но он рассматривает это как краеугольный камень для подразделения ИИ Теслы, первоначально адаптируемой для маркировки компьютерного зрения и обучения для FSD и Optimus, гуманоидного робота Tesla.

Будущие версии Dojo могут быть адаптированы для общего назначения искусственного интеллекта, хотя это потребует программного обеспечения для переписывания, в настоящее время предназначенного для графических процессоров. В качестве альтернативы, Tesla может сдать в аренду свою вычислительную мощность, аналогичную AWS и Azure.

Во время заработков в Q2 Маск упомянул, что видит «путь к конкуренции с Nvidia с Dojo». В отчете Morgan Stanley от сентября 2023 года говорилось, что Dojo может добавить рыночную стоимость Tesla на 500 миллиардов долларов, открыв новые потоки доходов в роботаксисе и программном обеспечении.

По сути, чипы Dojo служат страховым полисом для Tesla с потенциалом значительной прибыли.

Как далеко стоит Доджо?

Reuters сообщил, что Tesla начала производство на Dojo в июле 2023 года, но в июне 2023 года пост Musk указывался, что Dojo «онлайн и выполнял полезные задачи в течение нескольких месяцев».

Тесла ожидал, что додзё будет входить в число пяти лучших суперкомпьютеров к февралю 2024 года, хотя это не было публично подтверждено, поставив под сомнение его достижение. Компания также прогнозировала, что общий вычислитель Dojo достигнет 100 Exaflops к октябрю 2024 года. (Один Exaflops будет равен 1 квинтиллионному компьютерным операциям в секунду. Для достижения 100 Exaflops, предполагая, что один D1 может достичь 362 Teraflops, Tesla потребует более 276 000 D1 или около 320 500 NVIDIA A100 GPU.

В январе 2024 года Tesla пообещала 500 миллионов долларов на построение суперкомпьютера Dojo на своем GigaFactory в Буффало, штат Нью -Йорк.

В мае 2024 года Маск упомянул, что задняя часть Остина Гигафактория Теслы будет посвящена «супер плотному кластеру суперкомпьютеров с водой», который оказался для коры, а не додзё.

После вызова Tesla во втором квартале Musk опубликовал на X, что команда Tesla's AI использует компьютер Tesla HW4 AI (переименованный AI4), оборудование, найденное в автомобилях Tesla, в тренировочной цикле с графическими процессорами Nvidia. Он отметил, что разбивка составляет примерно 90 000 NVIDIA H100S плюс 40 000 компьютеров AI4.

«А додзё 1 будет иметь примерно 8K H100, эквивалентное обучению онлайн к концу года»,-продолжил он. «Не массивный, но не тривиальный».

Тесла не подтвердила, являются ли эти чипы в настоящее время эксплуатационно и работают додзё. В ходе вызова компании в четвертом квартале 2024 года Dojo не упоминался, но Tesla действительно сообщил о завершении развертывания коры в 4 квартале, который позволил V13 контролируемого FSD.

Эта история первоначально опубликовала 3 августа 2024 года, и мы обновим ее по мере развития новой информации.