El ambicioso plan de Elon Musk para la supercomputadora de Tesla Dojo Ai presentado

Durante años, Elon Musk ha hablado abiertamente sobre Dojo, la supercomputadora de IA en el corazón de las ambiciones de Tesla en inteligencia artificial. En julio de 2024, Musk destacó su importancia, anunciando que el equipo de IA de Tesla intensificaría los esfuerzos en Dojo antes de la muy esperada presentación del robotaxi en octubre.

Entonces, ¿qué es exactamente Dojo y por qué es tan crucial para la estrategia a largo plazo de Tesla?

En esencia, Dojo es una supercomputadora construida a medida por Tesla diseñada para entrenar sus redes neuronales de "Conducción Autónoma Completa" (FSD). La mejora de Dojo está estrechamente vinculada al objetivo de Tesla de lograr capacidades de conducción completamente autónomas y lanzar un servicio de robotaxi. Actualmente, FSD, instalado en cientos de miles de vehículos Tesla, puede manejar ciertas tareas de conducción automatizada, pero aún requiere la atención de un conductor humano.

Tras la presentación del Cybercab en octubre, Tesla está listo para lanzar un servicio de transporte autónomo en Austin este junio, utilizando su propia flota de vehículos. Durante la llamada de ganancias del cuarto trimestre y del año completo de 2024 en enero, Tesla anunció planes para introducir FSD sin supervisión para clientes en EE. UU. en 2025.

A pesar de las afirmaciones anteriores de Musk de que Dojo era la clave para las ambiciones de conducción autónoma completa de Tesla, ha estado relativamente callado sobre el tema a medida que se acerca el objetivo. Desde agosto de 2024, la conversación se ha desplazado hacia Cortex, el nuevo superclúster de entrenamiento de IA de Tesla en su sede de Austin. Musk ha descrito a Cortex como poseedor de "almacenamiento masivo para el entrenamiento de video de FSD y Optimus."

Mientras que la presentación de accionistas de Tesla del cuarto trimestre proporcionó actualizaciones sobre Cortex, no mencionó a Dojo. Tesla está claramente invirtiendo fuertemente en IA, incluyendo Dojo y ahora Cortex, para lograr autonomía tanto en vehículos como en robots humanoides. Con el mercado de vehículos eléctricos volviéndose cada vez más competitivo, el éxito futuro de Tesla depende en gran medida de dominar estas tecnologías.

La historia de Dojo de Tesla

La visión de Elon Musk para Tesla va más allá de solo fabricar autos, paneles solares y sistemas de almacenamiento de energía. Quiere que Tesla sea una potencia en IA, pionera en tecnología de conducción autónoma al emular la percepción humana.

A diferencia de muchas otras empresas de tecnología de vehículos autónomos que dependen de una mezcla de sensores como lidar, radar y cámaras, junto con mapas de alta definición, Tesla busca lograr la autonomía total usando solo cámaras. Estas cámaras capturan datos visuales, que luego son procesados por redes neuronales avanzadas para tomar decisiones de conducción en tiempo real.

En el primer Día de la IA de Tesla en 2021, el exjefe de IA, Andrej Karpathy, comparó el objetivo de la compañía con construir "un animal sintético desde cero." Musk había estado insinuando sobre Dojo desde 2019, pero fue presentado oficialmente en el Día de la IA.

Mientras que empresas como Waymo de Alphabet han comercializado con éxito vehículos autónomos de Nivel 4, el sistema de Tesla aún requiere un conductor humano al volante. Más de 1.8 millones de personas se han suscrito a FSD de Tesla, que puede costar entre $8,000 y $15,000. La promesa es que la IA entrenada por Dojo se implementará a los clientes a través de actualizaciones por aire. Los extensos datos recopilados de los vehículos FSD —millones de millas de grabaciones de video— se utilizan para entrenar y refinar el sistema.

Sin embargo, algunos expertos de la industria cuestionan la eficacia de este enfoque intensivo en datos. Anand Raghunathan, profesor de la Universidad de Purdue, dijo a TechCrunch: "En primer lugar, hay una restricción económica, y pronto será simplemente demasiado caro hacer eso. Algunas personas afirman que podríamos quedarnos sin datos significativos para entrenar los modelos. Más datos no necesariamente significan más información, por lo que depende de si esos datos tienen información útil para crear un modelo mejor, y si el proceso de entrenamiento es capaz de destilar esa información en un modelo mejor."

A pesar de estas preocupaciones, la tendencia hacia más datos parece mantenerse, al menos por ahora. Y con más datos surge la necesidad de más potencia computacional para almacenar y procesarlo todo, que es donde entra en juego Dojo, la supercomputadora.

¿Qué es una supercomputadora?

Dojo es el sistema de supercomputadora de Tesla, diseñado específicamente para entrenar modelos de IA, particularmente para FSD. El nombre "Dojo" es un guiño a los espacios de entrenamiento de artes marciales.

Una supercomputadora consta de miles de computadoras más pequeñas llamadas nodos, cada una con una CPU y una GPU. La CPU gestiona el nodo, mientras que la GPU maneja tareas complejas como dividir operaciones y trabajar en ellas simultáneamente. Las GPU son cruciales para tareas de aprendizaje automático como las utilizadas en simulaciones de entrenamiento de FSD. También alimentan modelos de lenguaje grandes, lo que explica por qué Nvidia se ha convertido en la empresa más valiosa del planeta debido al auge de la IA generativa.

Tesla actualmente usa GPU de Nvidia para entrenar su IA, pero está buscando diversificar sus fuentes de hardware debido al alto costo y la disponibilidad limitada de los chips de Nvidia.

El enfoque de Tesla basado solo en visión requiere una supercomputadora. Las redes neuronales que alimentan FSD están entrenadas con enormes cantidades de datos de conducción para reconocer y clasificar objetos alrededor del vehículo y tomar decisiones de conducción. Cuando FSD está en uso, estas redes deben recolectar y procesar continuamente datos visuales a velocidades que rivalizan con la percepción humana.

En esencia, Tesla busca crear una réplica digital del córtex visual humano y las funciones cerebrales. Para lograr esto, Tesla necesita almacenar y procesar grandes cantidades de datos de video de su flota global de vehículos y realizar innumerables simulaciones para entrenar su modelo de IA.

Fotos de Dojo pic.twitter.com/Lu8YiZXo8c

— Elon Musk (@elonmusk) 23 de julio de 2024

Tesla depende de Nvidia para su computadora de entrenamiento Dojo actual, pero está trabajando en su propio hardware personalizado para aumentar la eficiencia y reducir costos. El objetivo es desarrollar hardware que aumente el ancho de banda y reduzca las latencias, alejándose del hardware GPU estándar.

Cuéntame más sobre estos chips

Tesla, al igual que Apple, cree en diseñar hardware y software que funcionen perfectamente juntos. Esta filosofía llevó a Tesla a desarrollar sus propios chips para Dojo.

En el Día de la IA de 2021, Tesla presentó el chip D1, un cuadrado de silicio del tamaño de la palma de la mano. La producción del D1 comenzó al menos en mayo de 2024, con la fabricación a cargo de la Taiwan Semiconductor Manufacturing Company (TSMC) utilizando nodos de semiconductores de 7 nanómetros. El D1 cuenta con 50 mil millones de transistores y un gran tamaño de matriz de 645 milímetros cuadrados, prometiendo alta potencia y eficiencia para tareas complejas.

"Podemos realizar cálculos y transferencias de datos simultáneamente, y nuestra ISA personalizada, que es la arquitectura de conjunto de instrucciones, está completamente optimizada para cargas de trabajo de aprendizaje automático," dijo Ganesh Venkataramanan, exdirector senior de hardware de Autopilot, en el Día de la IA de Tesla de 2021. "Esto es puro aprendizaje automático."

Aunque el D1 es poderoso, no iguala del todo al chip A100 de Nvidia, que también utiliza un proceso de 7 nanómetros y contiene 54 mil millones de transistores con un tamaño de matriz más grande de 826 milímetros cuadrados.

Para lograr un mayor ancho de banda y potencia de cálculo, el equipo de IA de Tesla combinó 25 chips D1 en una sola baldosa, funcionando como un sistema informático unificado. Cada baldosa ofrece 9 petaflops de potencia de cálculo y 36 terabytes por segundo de ancho de banda, e incluye todo el hardware necesario para la energía, refrigeración y transferencia de datos. Seis baldosas forman un rack, dos racks forman un gabinete, y diez gabinetes crean un ExaPOD. En el Día de la IA de 2022, Tesla reveló planes para escalar Dojo mediante la implementación de múltiples ExaPODs, formando la supercomputadora.

Tesla también está desarrollando un chip D2 de próxima generación para abordar cuellos de botella en el flujo de información. El D2 integraría toda la baldosa de Dojo en una sola oblea de silicio.

Tesla no ha revelado cuántos chips D1 ha encargado o espera recibir, ni ha proporcionado un cronograma para cuando las supercomputadoras Dojo funcionarán con chips D1.

En respuesta a una publicación de junio en X sobre la construcción de un enfriador de GPU gigante en Texas, Musk dijo que Tesla apunta a "mitad hardware de IA de Tesla, mitad Nvidia/otros" en los próximos 18 meses. Los "otros" podrían incluir chips AMD, según los comentarios de Musk en enero.

¿Qué significa Dojo para Tesla?

Al controlar la producción de sus chips, Tesla podría agregar una potencia de cálculo significativa a sus programas de entrenamiento de IA a un costo menor, especialmente a medida que la producción escala con TSMC.

Este movimiento también podría reducir la dependencia de Tesla de los chips de Nvidia, cada vez más caros y escasos. Durante la llamada de ganancias del segundo trimestre de Tesla, Musk expresó preocupación por asegurar suministros constantes de GPU, destacando la necesidad de centrarse más en Dojo.

A pesar de estos esfuerzos, Tesla sigue comprando chips de Nvidia para su entrenamiento de IA. En junio, Musk publicó en X:

De los aproximadamente $10 mil millones en gastos relacionados con IA que dije que Tesla haría este año, cerca de la mitad son internos, principalmente la computadora de inferencia de IA diseñada por Tesla y los sensores presentes en todos nuestros autos, más Dojo. Para construir los superclústeres de entrenamiento de IA, el hardware de Nvidia representa aproximadamente 2/3 del costo. Mi mejor estimación actual para las compras de Nvidia por parte de Tesla es de $3 mil millones a $4 mil millones este año.

— Elon Musk (@elonmusk) Junio de 2024

"Cálculo de inferencia" se refiere a los cálculos de IA en tiempo real realizados por los vehículos de Tesla, distintos del cálculo de entrenamiento manejado por Dojo.

Dojo representa una empresa arriesgada pero potencialmente gratificante para Tesla. Musk ha reconocido que Tesla podría no tener éxito con Dojo, pero lo visualiza como una piedra angular para la división de IA de Tesla, inicialmente diseñada para el etiquetado y entrenamiento de visión por computadora para FSD y Optimus, el robot humanoide de Tesla.

Las versiones futuras de Dojo podrían adaptarse para el entrenamiento de IA de propósito general, aunque esto requeriría reescribir el software actualmente diseñado para GPUs. Alternativamente, Tesla podría alquilar su potencia de cálculo, similar a AWS y Azure.

Durante las ganancias del segundo trimestre, Musk mencionó ver "un camino para ser competitivo con Nvidia con Dojo." Un informe de Morgan Stanley de septiembre de 2023 sugirió que Dojo podría agregar $500 mil millones al valor de mercado de Tesla al abrir nuevas fuentes de ingresos en robotaxis y servicios de software.

En esencia, los chips de Dojo sirven como una póliza de seguro para Tesla, con el potencial de rendimientos significativos.

¿Cómo está avanzando Dojo?

Reuters informó que Tesla comenzó la producción de Dojo en julio de 2023, pero una publicación de Musk en junio de 2023 indicó que Dojo había estado "en línea y ejecutando tareas útiles durante unos meses."

Tesla anticipó que Dojo estaría entre las cinco supercomputadoras más potentes para febrero de 2024, aunque esto no se ha confirmado públicamente, lo que genera dudas sobre su logro. La compañía también proyectó que el cálculo total de Dojo alcanzaría los 100 exaflops para octubre de 2024. (Un exaflop equivale a 1 quintillón de operaciones computacionales por segundo. Para alcanzar 100 exaflops, asumiendo que un D1 puede lograr 362 teraflops, Tesla necesitaría más de 276,000 D1s, o alrededor de 320,500 GPU A100 de Nvidia.)

En enero de 2024, Tesla comprometió $500 millones para construir una supercomputadora Dojo en su gigafábrica en Buffalo, Nueva York.

En mayo de 2024, Musk mencionó que la parte trasera de la gigafábrica de Tesla en Austin estaría dedicada a un "clúster de supercomputadoras súper denso y refrigerado por agua," que resultó ser para Cortex, no para Dojo.

Tras la llamada de ganancias del segundo trimestre de Tesla, Musk publicó en X que el equipo de IA de Tesla está utilizando la computadora de IA HW4 de Tesla (renombrada AI4), el hardware que se encuentra en los vehículos de Tesla, en el ciclo de entrenamiento con GPU de Nvidia. Señaló que la distribución es aproximadamente de 90,000 H100 de Nvidia más 40,000 computadoras AI4.

"Y Dojo 1 tendrá aproximadamente 8k de entrenamiento equivalente a H100 en línea para fin de año," continuó. "No es masivo, pero tampoco trivial."

Tesla no ha confirmado si estos chips ahora están operativos y ejecutando Dojo. Durante la llamada de ganancias del cuarto trimestre de 2024 de la compañía, no se mencionó a Dojo, pero Tesla informó haber completado la implementación de Cortex en el cuarto trimestre, lo que permitió la versión 13 de FSD supervisado.

Esta historia se publicó originalmente el 3 de agosto de 2024, y la actualizaremos a medida que se desarrolle nueva información.