O ambicioso plano de Elon Musk para o supercomputador de Tesla Dojo AI revelado

Durante anos, Elon Musk tem sido vocal sobre Dojo, o supercomputador de IA no coração das ambições da AI de Tesla. Em julho de 2024, Musk enfatizou sua importância, anunciando que a equipe de IA da Tesla intensificaria os esforços no Dojo antes da tão esperada revelação de Robotaxi em outubro.

Então, o que exatamente é dojo e por que é tão crucial para a estratégia de longo prazo de Tesla?

Em essência, o Dojo é o supercomputador personalizado da Tesla, projetado para treinar suas redes neurais "Autocrividador completo" (FSD). O aprimoramento do Dojo está intimamente ligado ao objetivo de Tesla de alcançar recursos completos de dirigir e lançar um serviço Robotaxi. Atualmente, o FSD, instalado em centenas de milhares de veículos da Tesla, pode lidar com certas tarefas de direção automatizada, mas ainda requer a atenção de um motorista humano.

Após a revelação do Cybercab em outubro, a Tesla deve lançar um serviço de carona autônomo em Austin em junho deste ano, usando sua própria frota de veículos. Durante a ligação de ganhos de 2024 no quarto trimestre e inteiro em janeiro, a Tesla anunciou planos para introduzir FSD não supervisionado para clientes dos EUA em 2025.

Apesar das alegações anteriores de Musk de que Dojo foi a chave das ambições completas de Tesla, ele ficou relativamente quieto sobre o assunto à medida que o objetivo se aproxima. Desde agosto de 2024, a conversa mudou para o Cortex, o novo supercluster de treinamento de IA da Tesla em sua sede de Austin. Musk descreveu o Cortex como tendo "armazenamento maciço para treinamento em vídeo do FSD e Optimus".

Enquanto o deck dos acionistas do Q4 da Tesla forneceu atualizações no Cortex, ficou em silêncio sobre o Dojo. A Tesla está claramente investindo fortemente em IA, incluindo dojo e agora córtex, para obter autonomia em veículos e robôs humanóides. Com o mercado de VE se tornando cada vez mais competitivo, o sucesso futuro da Tesla depende muito de dominar essas tecnologias.

A história de fundo do Dojo de Tesla

A visão de Elon Musk para Tesla se estende além de apenas carros de fabricação, painéis solares e sistemas de armazenamento de energia. Ele quer que Tesla seja uma potência da IA, pioneira em tecnologia autônoma, emulando a percepção humana.

Ao contrário de muitas outras empresas de tecnologia de veículos autônomos que dependem de uma mistura de sensores como Lidar, radar e câmeras, juntamente com mapas de alta definição, a Tesla pretende obter autonomia completa usando câmeras sozinhas. Essas câmeras capturam dados visuais, que são processados ​​por redes neurais avançadas para tomar decisões de direção em tempo real.

No primeiro dia da IA ​​de Tesla em 2021, o ex -chefe da AI, Andrej Karpathy, comparou o objetivo da empresa de construir "um animal sintético desde o início". Musk estava sugerindo do Dojo desde 2019, mas foi oficialmente apresentado no dia da IA.

Enquanto empresas como a Waymo da Alphabet tenham comercializado com sucesso veículos autônomos de nível 4, o sistema de Tesla ainda exige um humano ao volante. Mais de 1,8 milhão de pessoas se inscreveram no FSD da Tesla, que pode custar entre US $ 8.000 e US $ 15.000. A promessa é que a IA treinada por Dojo será lançada aos clientes por meio de atualizações ao ar. Os extensos dados coletados dos veículos FSD - milhões de quilômetros de vídeo - são usados ​​para treinar e refinar o sistema.

No entanto, alguns especialistas do setor questionam a eficácia dessa abordagem pesada de dados. Anand Raghunathan, professor da Universidade de Purdue, disse ao TechCrunch: "Antes de tudo, há uma restrição econômica e logo ficará muito caro para fazer isso. Algumas pessoas afirmam que podemos realmente ficar sem dados significativos para treinar os modelos. Mais dados não significam mais informações.

Apesar dessas preocupações, a tendência para mais dados parece estar por aqui, pelo menos por enquanto. E com mais dados vem a necessidade de mais energia computacional para armazenar e processar tudo, que é onde Dojo, o supercomputador, entra em jogo.

O que é um supercomputador?

Dojo é o sistema de supercomputadores da Tesla, projetado especificamente para treinar os modelos de IA, principalmente para o FSD. O nome "dojo" é um aceno para os espaços de treinamento de artes marciais.

Um supercomputador consiste em milhares de computadores menores chamados nós, cada um com uma CPU e GPU. A CPU gerencia o nó, enquanto a GPU lida com tarefas complexas, como dividir operações e trabalhar nelas simultaneamente. As GPUs são cruciais para tarefas de aprendizado de máquina, como as usadas nas simulações de treinamento de FSD. Eles também alimentam grandes modelos de idiomas, o que explica por que a NVIDIA se tornou a empresa mais valiosa do planeta devido ao surgimento de IA generativa.

Atualmente, a Tesla usa o NVIDIA GPUS para treinar sua IA, mas procura diversificar suas fontes de hardware devido ao alto custo e à disponibilidade limitada de chips nvidia.

Por que a Tesla precisa de um supercomputador?

A abordagem somente para visão de Tesla requer um supercomputador. As redes neurais que o Power FSD são treinadas em grandes quantidades de dados de direção para reconhecer e classificar objetos ao redor do veículo e tomar decisões de direção. Quando o FSD está em uso, essas redes devem coletar e processar continuamente dados visuais em velocidades que rivalizam com a percepção humana.

Em essência, a Tesla visa criar uma réplica digital do córtex visual humano e das funções cerebrais. Para conseguir isso, a Tesla precisa armazenar e processar grandes quantidades de dados de vídeo de sua frota global de veículos e executar inúmeras simulações para treinar seu modelo de IA.

Dojo Pics pic.twitter.com/lu8yizxo8c

- Elon Musk (@elonmusk) 23 de julho de 2024

A Tesla conta com a NVIDIA para seu atual computador de treinamento do Dojo, mas está trabalhando em seu próprio hardware personalizado para aumentar a eficiência e reduzir os custos. O objetivo é desenvolver hardware que aumente a largura de banda e reduz as latências, afastando -se do hardware da GPU padrão.

Conte -me mais sobre essas fichas

Tesla, assim como a Apple, acredita em projetar hardware e software que funcionam perfeitamente juntos. Essa filosofia levou a Tesla a desenvolver seus próprios chips para dojo.

No dia da IA, em 2021, Tesla introduziu o chip D1, um quadrado de silício do tamanho de uma palmeira. A produção do D1 começou em pelo menos maio de 2024, com a manufatura tratada pela Taiwan Semiconductor Manufacturing Company (TSMC) usando 7 nós de semicondutores de nanômetros. O D1 possui 50 bilhões de transistores e um grande tamanho de matriz de 645 milímetros ao quadrado, prometendo alta potência e eficiência para tarefas complexas.

"Podemos fazer transferências de computação e dados simultaneamente, e nosso ISA personalizado, que é a arquitetura do conjunto de instruções, é totalmente otimizado para cargas de trabalho de aprendizado de máquina", disse Ganesh Venkataramanan, ex -diretor sênior de hardware do piloto automático, no dia 2021 de Tesla. "Este é um aprendizado de máquina puro."

Embora o D1 seja poderoso, ele não combina bem com o chip A100 da NVIDIA, que também usa um processo de 7 nanômetros e contém 54 bilhões de transistores com um tamanho de matriz maior de 826 milímetros quadrados.

Para alcançar uma largura de banda mais alta e o poder de computação, a equipe de AI da Tesla combinou 25 chips D1 em um único ladrilho, funcionando como um sistema de computador unificado. Cada ladrilho oferece 9 petaflops de potência de computação e 36 terabytes por segundo da largura de banda e inclui todo o hardware necessário para energia, resfriamento e transferência de dados. Seis ladrilhos compõem um rack, dois racks formam um gabinete e dez armários criam um Exapod. No dia de 2022 da IA, a Tesla revelou planos de escalar dojo, implantando vários exapods, formando o supercomputador.

A Tesla também está desenvolvendo um chip D2 de próxima geração para abordar gargalos de fluxo de informações. O D2 integraria todo o ladrilho do dojo a uma única bolacha de silício.

A Tesla não divulgou quantos chips D1 ele pediu ou espera receber, nem forneceu uma linha do tempo para quando os supercomputadores do Dojo serão executados em chips D1.

Em resposta a um post de junho no X sobre a construção de um refrigerador de GPU gigante no Texas, Musk disse que a Tesla visa "Half Tesla AI Hardware, Meia Nvidia/Outro" nos próximos 18 meses. O "outro" pode incluir chips AMD, de acordo com os comentários de Janeiro de Musk.

O que Dojo significa para Tesla?

Ao controlar sua produção de chips, a Tesla poderia potencialmente adicionar energia de computação significativa aos seus programas de treinamento de IA a um custo menor, especialmente quando a produção escala com o TSMC.

Esse movimento também pode reduzir a dependência de Tesla nas batatas fritas cada vez mais caras e escassas da Nvidia. Durante a chamada de ganhos do segundo trimestre de Tesla, Musk expressou preocupação em garantir suprimentos constantes de GPU, enfatizando a necessidade de se concentrar mais no dojo.

Apesar desses esforços, a Tesla ainda está comprando chips da NVIDIA para o seu treinamento de IA. Em junho, Musk postou em X:

Dos aproximadamente US $ 10 bilhões em despesas relacionadas à IA que eu disse que a Tesla faria este ano, cerca de metade é interna, principalmente o computador de inferência de IA projetado por Tesla e sensores presentes em todos os nossos carros, mais dojo. Para a construção dos superclusters de treinamento da IA, a NVIDIA Hardware tem cerca de 2/3 do custo. Meu melhor palpite para as compras da NVIDIA da Tesla custa US $ 3 bilhões a US $ 4 bilhões este ano.

- Elon Musk (@elonmusk) junho de 2024

"Compute de inferência" refere-se aos cálculos de IA em tempo real realizados por veículos Tesla, distintos da computação de treinamento tratada pelo Dojo.

Dojo representa um empreendimento arriscado, mas potencialmente recompensador para a Tesla. Musk reconheceu que Tesla pode não ter sucesso com Dojo, mas ele a imagina como uma pedra angular da divisão de IA de Tesla, inicialmente adaptada para a marcação e treinamento da Visão por computador para FSD e Optimus, robô humanóide da Tesla.

As versões futuras do Dojo podem ser adaptadas para o treinamento de IA de uso geral, embora isso exigisse o software de reescrita atualmente projetado para GPUs. Como alternativa, a Tesla poderia alugar seu poder de computação, semelhante à AWS e Azure.

Durante os ganhos do segundo trimestre, Musk mencionou ver "um caminho para ser competitivo com a Nvidia com dojo". Um relatório de setembro de 2023 do Morgan Stanley sugeriu que o Dojo poderia adicionar US $ 500 bilhões ao valor de mercado da Tesla, abrindo novos fluxos de receita em serviços de robotaxis e software.

Em essência, os chips de Dojo servem como uma apólice de seguro para a Tesla, com o potencial de retornos significativos.

Quão longe está Dojo?

A Reuters informou que a Tesla começou a produção no Dojo em julho de 2023, mas um post de junho de 2023 de Musk indicou que o Dojo estava "online e executando tarefas úteis por alguns meses".

Tesla antecipou que Dojo estaria entre os cinco principais supercomputadores mais poderosos até fevereiro de 2024, embora isso não tenha sido confirmado publicamente, lançando dúvidas sobre sua conquista. A empresa também projetou que a computação total do Dojo alcançaria 100 exaflops até outubro de 2024. (Um exaflops é igual a 1 quintilhão de operações de computador por segundo. Para alcançar 100 exaflops, assumindo que um D1 pode alcançar 362 teraflops, a Tesla precisaria de mais de 276.000 d1s, ou cerca de 320,500 NVidia a100 a100.

Em janeiro de 2024, a Tesla prometeu US $ 500 milhões para construir um supercomputador do Dojo em seu gigafactory em Buffalo, Nova York.

Em maio de 2024, Musk mencionou que a parte traseira do Austin Gigafactory de Tesla seria dedicada a um "Cluster Supercomputer super denso e refrigerado a água", que acabou sendo para córtex, não dojo.

Após a chamada de ganhos do segundo trimestre da Tesla, Musk postou no X que a equipe de AI da Tesla está usando o computador Tesla HW4 AI (renomeado AI4), o hardware encontrado nos veículos da Tesla, no ciclo de treinamento com a NVIDIA GPUS. Ele observou que o detalhamento é de cerca de 90.000 NVIDIA H100S mais 40.000 computadores AI4.

"E o Dojo 1 terá aproximadamente 8k H100 equivalente ao treinamento on-line até o final do ano", continuou ele. "Não é enorme, mas também não trivial."

A Tesla não confirmou se esses chips estão agora operacionais e em execução dojo. Durante a quarta chamada de 2024 da empresa, o Dojo não foi mencionado, mas a Tesla relatou concluir a implantação do Cortex no quarto trimestre, o que permitiu a V13 do FSD supervisionado.

Esta história publicou originalmente em 3 de agosto de 2024 e a atualizaremos à medida que novas informações se desenvolverem.