El ambicioso plan de Elon Musk para la supercomputadora de Tesla Dojo Ai presentado

Durante años, Elon Musk ha expresado sobre Dojo, la supercomputadora de IA en el corazón de las ambiciones de IA de Tesla. En julio de 2024, Musk enfatizó su importancia, anunciando que el equipo de IA de Tesla intensificaría los esfuerzos en Dojo antes de la tan esperada revelación de Robotaxi en octubre.

Entonces, ¿qué es exactamente Dojo y por qué es tan crucial para la estrategia a largo plazo de Tesla?

En esencia, Dojo es la supercomputadora personalizada de Tesla diseñada para entrenar sus redes neuronales de "autocontrol completa" (FSD). La mejora del dojo está estrechamente vinculado al objetivo de Tesla de lograr capacidades completas de autocontrol y lanzar un servicio robotaxi. Actualmente, FSD, instalado en cientos de miles de vehículos Tesla, puede manejar ciertas tareas de conducción automatizadas, pero aún requiere la atención de un conductor humano.

Después de la revelación de CyberCab en octubre, Tesla lanzará un servicio autónomo de viaje en Austin este junio, utilizando su propia flota de vehículos. Durante la llamada de ganancias de 2024 cuarta y todo el año en enero, Tesla anunció planes para introducir FSD no supervisado para los clientes estadounidenses en 2025.

A pesar de las afirmaciones anteriores de Musk de que Dojo era la clave para las ambiciones de conducción autónoma de Tesla, ha estado relativamente tranquilo sobre el tema a medida que se acerca el objetivo. Desde agosto de 2024, la conversación se ha trasladado a Cortex, el nuevo supercluster de entrenamiento de IA de Tesla en su sede de Austin. Musk ha descrito que Cortex tiene "almacenamiento masivo para el entrenamiento de video de FSD y Optimus".

Mientras que el mazo de accionistas del cuarto trimestre de Tesla proporcionó actualizaciones sobre Cortex, quedó en silencio en Dojo. Tesla claramente está invirtiendo fuertemente en AI, incluidos Dojo y ahora Cortex, para lograr la autonomía tanto en los vehículos como en los robots humanoides. Con el mercado de EV se vuelve cada vez más competitivo, el éxito futuro de Tesla depende en gran medida de dominar estas tecnologías.

Historia de fondo del dojo de Tesla

La visión de Elon Musk para Tesla se extiende más allá de solo fabricación de automóviles, paneles solares y sistemas de almacenamiento de energía. Quiere que Tesla sea una potencia de IA, pionera en la tecnología autónoma al emular la percepción humana.

A diferencia de muchas otras compañías de tecnología de vehículos autónomos que dependen de una combinación de sensores como LiDAR, radar y cámaras, junto con mapas de alta definición, Tesla tiene como objetivo lograr una autonomía completa usando cámaras solas. Estas cámaras capturan datos visuales, que luego son procesados ​​por redes neuronales avanzadas para tomar decisiones de manejo en tiempo real.

En el primer día de IA de Tesla en 2021, el ex jefe de IA, Andrej Karpathy, comparó el objetivo de la compañía de construir "un animal sintético desde cero". Musk había estado insinuando a Dojo desde 2019, pero se presentó oficialmente en el día de la IA.

Si bien compañías como Alphabet's Waymo han comercializado con éxito los vehículos autónomos de Nivel 4, el sistema de Tesla todavía requiere un humano detrás del volante. Más de 1.8 millones de personas se han suscrito al FSD de Tesla, que puede costar entre $ 8,000 y $ 15,000. La promesa es que la IA entrenada por Dojo se implementará con los clientes a través de actualizaciones por aire. Los extensos datos recopilados de los vehículos FSD, miles de millones de millas de imágenes de video, se utilizan para entrenar y refinar el sistema.

Sin embargo, algunos expertos de la industria cuestionan la eficacia de este enfoque de datos pesados. Anand Raghunathan, profesor de la Universidad de Purdue, le dijo a TechCrunch: "En primer lugar, hay una restricción económica, y pronto será demasiado costoso hacerlo. Algunas personas afirman que realmente podríamos quedarnos sin datos significativos para capacitar a los modelos sobre. Más datos no necesariamente no significa más información, por lo que depende de si los datos tienen información que es útil para crear un mejor modelo, y si el proceso de capacitación es realmente capaz de que la información sea más información en una información más alta en una información más importante en una información.

A pesar de estas preocupaciones, la tendencia hacia más datos parece estar quedando, al menos por ahora. Y con más datos viene la necesidad de más energía computacional para almacenarlo y procesarlo todo, que es donde Dojo, la supercomputadora, entra en juego.

¿Qué es una supercomputadora?

Dojo es el sistema de supercomputador de Tesla, diseñado específicamente para entrenar modelos AI, particularmente para FSD. El nombre "Dojo" es un guiño a los espacios de entrenamiento de artes marciales.

Una supercomputadora consta de miles de computadoras más pequeñas llamadas nodos, cada una con CPU y GPU. La CPU administra el nodo, mientras que la GPU maneja tareas complejas como dividir las operaciones y trabajar en ellas simultáneamente. Las GPU son cruciales para tareas de aprendizaje automático, como las utilizadas en simulaciones de entrenamiento FSD. También alimentan modelos de idiomas grandes, lo que explica por qué Nvidia se ha convertido en la compañía más valiosa del planeta debido al aumento de la IA generativa.

Actualmente, Tesla utiliza las GPU NVIDIA para capacitar su IA, pero está buscando diversificar sus fuentes de hardware debido al alto costo y la disponibilidad limitada de los chips Nvidia.

¿Por qué Tesla necesita una supercomputadora?

El enfoque de solo visión de Tesla requiere una supercomputadora. Las redes neuronales que Power FSD están capacitadas en cantidades masivas de datos de conducción para reconocer y clasificar objetos alrededor del vehículo y tomar decisiones de manejo. Cuando el FSD está en uso, estas redes deben recopilar y procesar continuamente los datos visuales a velocidades que rivalizan con la percepción humana.

En esencia, Tesla tiene como objetivo crear una réplica digital de la corteza visual humana y las funciones cerebrales. Para lograr esto, Tesla necesita almacenar y procesar grandes cantidades de datos de video de su flota global de vehículos y ejecutar innumerables simulaciones para entrenar su modelo AI.

Dojo Pics pic.twitter.com/lu8yizxo8c

- Elon Musk (@elonmusk) 23 de julio de 2024

Tesla se basa en NVIDIA para su actual computadora de capacitación de Dojo, pero está trabajando en su propio hardware personalizado para aumentar la eficiencia y reducir los costos. El objetivo es desarrollar hardware que aumente el ancho de banda y reduce las latencias, alejándose del hardware estándar de GPU.

Cuéntame más sobre estas chips

Tesla, al igual que Apple, cree en el diseño de hardware y software que funcionan sin problemas. Esta filosofía llevó a Tesla a desarrollar sus propios chips para Dojo.

En el día de la IA en 2021, Tesla introdujo el chip D1, un cuadrado de silicio del tamaño de una palma. La producción de la D1 comenzó al menos en mayo de 2024, con la fabricación manejada por la Compañía de Fabricación de Semiconductores de Taiwán (TSMC) utilizando 7 nodos semiconductores nanométricos. El D1 cuenta con 50 mil millones de transistores y un gran tamaño de dado de 645 milímetros al cuadrado, prometiendo alta potencia y eficiencia para tareas complejas.

"Podemos hacer transferencias de datos y datos simultáneamente, y nuestra ISA personalizada, que es la arquitectura del conjunto de instrucciones, está totalmente optimizado para las cargas de trabajo de aprendizaje automático", dijo Ganesh Venkataramanan, ex director senior de hardware del piloto automático, en el Día de AI 2021 de Tesla. "Este es un aprendizaje automático puro".

Si bien el D1 es potente, no coincide con el chip A100 de NVIDIA, que también utiliza un proceso de 7 nanómetros y contiene 54 mil millones de transistores con un tamaño de dado mayor de 826 milímetros cuadrados.

Para lograr un mayor ancho de banda y una potencia de cálculo, el equipo de IA de Tesla combinó 25 chips D1 en un solo mosaico, funcionando como un sistema informático unificado. Cada mosaico ofrece 9 petaflops de potencia de cómputo y 36 terabytes por segundo de ancho de banda, e incluye todo el hardware necesario para la transferencia de energía, enfriamiento y datos. Seis azulejos forman una rejilla, dos bastidores forman un gabinete y diez gabinetes crean un EXAPOD. En el Día de la AI 2022, Tesla reveló planes para escalar el dojo implementando múltiples exapods, formando la supercomputadora.

Tesla también está desarrollando un chip D2 de próxima generación para abordar los cuellos de botella del flujo de información. El D2 integraría toda la baldosa Dojo en una sola oblea de silicio.

Tesla no ha revelado cuántos chips D1 ha ordenado o espera recibir, ni ha proporcionado una línea de tiempo para cuando las supercomputadoras de Dojo se ejecutarán en chips D1.

En respuesta a una publicación de junio sobre X sobre la construcción de un enfriador gigante de GPU en Texas, Musk dijo que Tesla apunta a "Half Tesla AI Hardware, mitad nvidia/otro" en los próximos 18 meses. El "otro" podría incluir chips AMD, según los comentarios de enero de Musk.

¿Qué significa Dojo para Tesla?

Al controlar su producción de chips, Tesla podría agregar potencialmente una potencia de cómputo significativa a sus programas de capacitación de IA a un costo menor, especialmente a medida que las escalas de producción con TSMC.

Este movimiento también podría reducir la dependencia de Tesla en las chips cada vez más caras y escasas de Nvidia. Durante la llamada de ganancias del segundo trimestre de Tesla, Musk expresó su preocupación por asegurar suministros constantes de GPU, enfatizando la necesidad de centrarse más en el dojo.

A pesar de estos esfuerzos, Tesla todavía está comprando chips Nvidia para su capacitación de IA. En junio, Musk publicó en X:

De los aproximadamente $ 10B en gastos relacionados con la IA, dije que Tesla haría este año, aproximadamente la mitad es interna, principalmente la computadora y sensores de inferencia de IA diseñados por Tesla presentes en todos nuestros automóviles, además de dojo. Para construir los superclusters de entrenamiento de IA, el hardware NVIDIA es aproximadamente 2/3 del costo. Mi mejor suposición actual para las compras de NVIDIA por Tesla son de $ 3B a $ 4B este año.

- Elon Musk (@elonmusk) Junio ​​de 2024

"Inferencia Compute" se refiere a los cálculos de IA en tiempo real realizados por los vehículos Tesla, distinto del cómputo de entrenamiento manejado por Dojo.

Dojo representa una empresa arriesgada pero potencialmente gratificante para Tesla. Musk ha reconocido que Tesla podría no tener éxito con Dojo, pero lo imagina como una piedra angular para la división de IA de Tesla, inicialmente adaptada para el etiquetado y el entrenamiento de la visión por computadora para FSD y Optimus, el robot humanoide de Tesla.

Las versiones futuras de Dojo podrían adaptarse para la capacitación de IA de uso general, aunque esto requeriría un software de reescritura actualmente diseñado para GPU. Alternativamente, Tesla podría alquilar su potencia informática, similar a AWS y Azure.

Durante las ganancias del segundo trimestre, Musk mencionó ver "un camino para ser competitivo con Nvidia con Dojo". Un informe de septiembre de 2023 de Morgan Stanley sugirió que Dojo podría agregar $ 500 mil millones al valor de mercado de Tesla al abrir nuevas fuentes de ingresos en robota y software.

En esencia, los chips de Dojo sirven como una póliza de seguro para Tesla, con el potencial de rendimientos significativos.

¿Qué tan avanzado está Dojo?

Reuters informó que Tesla comenzó la producción en Dojo en julio de 2023, pero una publicación de junio de 2023 de Musk indicó que Dojo había estado "en línea y ejecutando tareas útiles durante unos meses".

Tesla anticipó que Dojo se ubicaría entre las cinco supercomputadoras más poderosas en febrero de 2024, aunque esto no ha sido confirmado públicamente, arrojando dudas sobre su logro. La compañía también proyectó que el cómputo total del Dojo alcanzaría 100 exafultos en octubre de 2024 (uno exagefes es igual a 1 quintillón de operaciones informáticas por segundo. Para lograr 100 exafultos, suponiendo que una D1 pueda lograr 362 teraflops, Tesla necesitaría más de 276,000 D1, o alrededor de 320,500 nvidia A100 GPUS).

En enero de 2024, Tesla prometió $ 500 millones para construir una supercomputadora de dojo en su Gigafactory en Buffalo, Nueva York.

En mayo de 2024, Musk mencionó que la porción trasera de Austin Gigafactory de Tesla estaría dedicada a un "clúster de supercomputadora súper denso y refrigerado por agua", que resultó ser para la corteza, no dojo.

Después de la llamada de ganancias del segundo trimestre de Tesla, Musk publicó en X que el equipo de IA de Tesla está utilizando la computadora Tesla Hw4 Ai (renombrada AI4), el hardware que se encuentra en los vehículos Tesla, en el ciclo de entrenamiento con las GPU NVIDIA. Señaló que el desglose es de aproximadamente 90,000 NVIDIA H100S más 40,000 computadoras AI4.

"Y Dojo 1 tendrá aproximadamente 8K H100 equivalente de capacitación en línea para fin de año", continuó. "No es masivo, pero tampoco trivial".

Tesla no ha confirmado si estos chips ahora están operativos y ejecutan dojo. Durante la llamada de ganancias de 2024 de la compañía en el cuarto trimestre, Dojo no se mencionó, pero Tesla informó completar el despliegue de Cortex en el cuarto trimestre, que permitió V13 de FSD supervisado.

Esta historia se publicó originalmente el 3 de agosto de 2024, y la actualizaremos a medida que se desarrolle nueva información.