Kế hoạch đầy tham vọng của Elon Musk cho siêu máy tính Tesla Dojo AI được công bố

Trong nhiều năm, Elon Musk đã lên tiếng về Dojo, siêu máy tính AI ở trung tâm của tham vọng AI của Tesla. Vào tháng 7 năm 2024, Musk nhấn mạnh tầm quan trọng của nó, thông báo rằng nhóm AI của Tesla sẽ tăng cường nỗ lực trên võ đường trước tiết lộ Robotaxi được mong đợi vào tháng 10.

Vì vậy, chính xác thì DOJO là gì, và tại sao nó lại rất quan trọng đối với chiến lược dài hạn của Tesla?

Về bản chất, DOJO là siêu máy tính được xây dựng tùy chỉnh của Tesla được thiết kế để đào tạo các mạng lưới thần kinh "tự lái đầy đủ" (FSD) của nó. Sự tăng cường của DOJO gắn liền với mục tiêu của Tesla là đạt được khả năng tự lái đầy đủ và ra mắt dịch vụ Robotaxi. Hiện tại, FSD, được cài đặt trong hàng trăm ngàn xe Tesla, có thể xử lý một số nhiệm vụ lái xe tự động nhưng vẫn cần sự chú ý của người lái xe.

Sau tiết lộ CyberCab vào tháng 10, Tesla sẽ ra mắt một dịch vụ cưỡi ngựa tự trị ở Austin vào tháng 6 này, sử dụng đội xe riêng của mình. Trong cuộc gọi thu nhập quý IV và cả năm năm 2024 vào tháng 1, Tesla đã công bố kế hoạch giới thiệu FSD không giám sát cho khách hàng Hoa Kỳ vào năm 2025.

Bất chấp những tuyên bố trước đó của Musk rằng DOJO là chìa khóa cho tham vọng tự lái đầy đủ của Tesla, anh ta đã tương đối im lặng về chủ đề này khi mục tiêu đến gần. Kể từ tháng 8 năm 2024, cuộc trò chuyện đã chuyển sang Cortex, SuperCluster đào tạo AI mới của Tesla tại trụ sở Austin của nó. Musk đã mô tả Cortex là "lưu trữ lớn để đào tạo video về FSD & Optimus".

Trong khi bộ bài cổ đông Q4 của Tesla cung cấp các bản cập nhật về Cortex, thì nó im lặng trên DOJO. Tesla rõ ràng đang đầu tư rất nhiều vào AI, bao gồm Dojo và nay là Cortex, để đạt được sự tự chủ ở cả xe và robot hình người. Với thị trường EV ngày càng cạnh tranh, thành công trong tương lai của Tesla phụ thuộc rất nhiều vào việc làm chủ các công nghệ này.

Tesla's Dojo Backstory

Tầm nhìn của Elon Musk về Tesla mở rộng ra ngoài việc chỉ sản xuất ô tô, tấm pin mặt trời và hệ thống lưu trữ năng lượng. Anh ta muốn Tesla trở thành một cường quốc AI, tiên phong trong công nghệ tự lái bằng cách mô phỏng nhận thức của con người.

Không giống như nhiều công ty công nghệ xe tự trị khác dựa vào hỗn hợp các cảm biến như Lidar, radar và máy ảnh, cùng với các bản đồ độ phân giải cao, Tesla nhằm mục đích đạt được tự chủ hoàn toàn chỉ bằng máy ảnh. Những máy ảnh này nắm bắt dữ liệu trực quan, sau đó được xử lý bởi các mạng thần kinh tiên tiến để đưa ra quyết định lái xe thời gian thực.

Tại ngày AI đầu tiên của Tesla vào năm 2021, cựu người đứng đầu AI, Andrej Karpathy, đã ví mục tiêu của công ty là xây dựng "một con vật tổng hợp từ đầu." Musk đã gợi ý tại DOJO từ năm 2019, nhưng nó đã chính thức được tiết lộ vào ngày AI.

Trong khi các công ty như Waymo của Alphabet đã thương mại hóa thành công các phương tiện tự trị cấp 4, hệ thống của Tesla vẫn yêu cầu một con người ngồi sau tay lái. Hơn 1,8 triệu người đã đăng ký vào FSD của Tesla, có thể có giá từ 8.000 đến 15.000 đô la. Lời hứa là AI được đào tạo DOJO sẽ được triển khai cho khách hàng thông qua các bản cập nhật qua không trung. Dữ liệu rộng rãi được thu thập từ các phương tiện FSD, hàng triệu dặm của các cảnh quay video được sử dụng để đào tạo và tinh chỉnh hệ thống.

Tuy nhiên, một số chuyên gia trong ngành đặt câu hỏi về hiệu quả của phương pháp nặng dữ liệu này. Anand Raghunathan, giáo sư của Đại học Purdue, nói với TechCrunch, "Trước hết, có một hạn chế về kinh tế, và chẳng mấy chốc nó sẽ trở nên quá tốn kém để làm điều đó. Một số người cho rằng chúng tôi thực sự có thể hết dữ liệu có ý nghĩa.

Bất chấp những lo ngại này, xu hướng hướng tới nhiều dữ liệu dường như đang gắn bó, ít nhất là bây giờ. Và với nhiều dữ liệu hơn, nhu cầu về sức mạnh tính toán nhiều hơn để lưu trữ và xử lý tất cả, đó là nơi Dojo, siêu máy tính, phát huy tác dụng.

Một siêu máy tính là gì?

DOJO là hệ thống siêu máy tính của Tesla, được thiết kế đặc biệt để đào tạo các mô hình AI, đặc biệt là cho FSD. Cái tên "Dojo" là một cái gật đầu với các không gian đào tạo võ thuật.

Một siêu máy tính bao gồm hàng ngàn máy tính nhỏ hơn được gọi là các nút, mỗi nút có CPU và GPU. CPU quản lý nút, trong khi GPU xử lý các tác vụ phức tạp như chia tách các hoạt động và làm việc trên chúng đồng thời. GPU là rất quan trọng cho các nhiệm vụ học máy như các nhiệm vụ được sử dụng trong các mô phỏng đào tạo FSD. Họ cũng cung cấp năng lượng cho các mô hình ngôn ngữ lớn, giải thích lý do tại sao NVIDIA trở thành công ty có giá trị nhất hành tinh do sự gia tăng của AI thế hệ.

Tesla hiện đang sử dụng GPU NVIDIA để đào tạo AI của mình, nhưng họ đang tìm cách đa dạng hóa các nguồn phần cứng của mình do chi phí cao và tính khả dụng hạn chế của các chip NVIDIA.

Tại sao Tesla cần một siêu máy tính?

Cách tiếp cận chỉ có tầm nhìn của Tesla đòi hỏi một siêu máy tính. Các mạng lưới thần kinh cung cấp năng lượng cho FSD được đào tạo về số lượng lớn dữ liệu lái xe để nhận ra và phân loại các đối tượng xung quanh xe và đưa ra quyết định lái xe. Khi FSD được sử dụng, các mạng này phải liên tục thu thập và xử lý dữ liệu trực quan với tốc độ đối thủ với nhận thức của con người.

Về bản chất, Tesla nhằm mục đích tạo ra một bản sao kỹ thuật số của vỏ não và chức năng não người. Để đạt được điều này, Tesla cần lưu trữ và xử lý một lượng lớn dữ liệu video từ đội xe toàn cầu của mình và chạy vô số mô phỏng để đào tạo mô hình AI của mình.

Dojo Pics pic.twitter.com/lu8yizxo8c

- Elon Musk (@elonmusk) ngày 23 tháng 7 năm 2024

Tesla dựa vào NVIDIA cho máy tính đào tạo DOJO hiện tại nhưng đang làm việc trên phần cứng tùy chỉnh của riêng mình để tăng hiệu quả và giảm chi phí. Mục tiêu là phát triển phần cứng giúp tăng băng thông và giảm độ trễ, tránh xa phần cứng GPU tiêu chuẩn.

Hãy cho tôi biết thêm về những con chip này

Tesla, giống như Apple, tin vào việc thiết kế phần cứng và phần mềm hoạt động liền mạch với nhau. Triết lý này đã khiến Tesla phát triển chip của riêng mình cho DOJO.

Vào ngày AI năm 2021, Tesla đã giới thiệu chip D1, một quảng trường silicon có kích thước cọ. Việc sản xuất D1 bắt đầu vào ít nhất là vào tháng 5 năm 2024, với việc sản xuất được xử lý bởi Công ty Sản xuất Bán dẫn Đài Loan (TSMC) sử dụng 7 nút bán dẫn Nanomet. D1 tự hào có 50 tỷ bóng bán dẫn và kích thước chết lớn 645 mm bình phương, hứa hẹn công suất cao và hiệu quả cho các nhiệm vụ phức tạp.

Ganesh Venkataramanan, cựu giám đốc cấp cao của Autopilot Phần cứng, AI của Tesla's 2021, cho biết: "Chúng tôi có thể thực hiện việc chuyển và chuyển dữ liệu đồng thời và ISA tùy chỉnh của chúng tôi, đó là kiến ​​trúc tập hợp hướng dẫn, được tối ưu hóa hoàn toàn cho khối lượng công việc của máy học". "Đây là một máy học thuần túy."

Mặc dù D1 rất mạnh, nhưng nó không hoàn toàn phù hợp với chip A100 của NVIDIA, cũng sử dụng quy trình 7 nanomet và chứa 54 tỷ bóng bán dẫn với kích thước chết lớn hơn là 826 mm vuông.

Để đạt được băng thông cao hơn và tính toán sức mạnh, nhóm AI của Tesla đã kết hợp 25 chip D1 thành một ô, hoạt động như một hệ thống máy tính thống nhất. Mỗi ô cung cấp 9 petaflops của năng lượng tính toán và 36 terabyte mỗi giây băng thông và bao gồm tất cả các phần cứng cần thiết cho năng lượng, làm mát và truyền dữ liệu. Sáu gạch tạo thành một giá, hai giá đỡ tạo thành một tủ và mười tủ tạo ra một exapod. Vào ngày AI 2022, Tesla đã tiết lộ kế hoạch mở rộng quy mô dojo bằng cách triển khai nhiều exapods, tạo thành siêu máy tính.

Tesla cũng đang phát triển chip D2 thế hệ tiếp theo để giải quyết các tắc nghẽn luồng thông tin. D2 sẽ tích hợp toàn bộ gạch võ đường vào một wafer silicon duy nhất.

Tesla đã không tiết lộ có bao nhiêu chip D1 đã đặt hàng hoặc dự kiến ​​nhận được, cũng như không cung cấp dòng thời gian cho khi nào các siêu máy tính dojo sẽ chạy trên chip D1.

Để trả lời một bài đăng tháng 6 trên X về việc xây dựng một máy làm mát GPU khổng lồ ở Texas, Musk cho biết Tesla nhắm đến "một nửa phần cứng Tesla AI, Half Nvidia/Other" trong 18 tháng tới. "Khác" có thể bao gồm chip AMD, theo bình luận tháng 1 của Musk.

Dojo có ý nghĩa gì đối với Tesla?

Bằng cách kiểm soát sản xuất chip của mình, Tesla có khả năng thêm sức mạnh tính toán đáng kể vào các chương trình đào tạo AI của mình với chi phí thấp hơn, đặc biệt là quy mô sản xuất với TSMC.

Động thái này cũng có thể làm giảm sự phụ thuộc của Tesla vào những con chip ngày càng đắt đỏ và khan hiếm của Nvidia. Trong cuộc gọi thu nhập quý hai của Tesla, Musk bày tỏ lo ngại về việc đảm bảo nguồn cung cấp GPU ổn định, nhấn mạnh sự cần thiết phải tập trung nhiều hơn vào DOJO.

Bất chấp những nỗ lực này, Tesla vẫn đang mua chip NVIDIA để đào tạo AI. Vào tháng 6, Musk đã đăng trên X:

Trong số khoảng 10 tỷ đô la trong các chi tiêu liên quan đến AI, tôi đã nói Tesla sẽ làm trong năm nay, khoảng một nửa là nội bộ, chủ yếu là máy tính suy luận AI do Tesla thiết kế và các cảm biến có trong tất cả các xe của chúng tôi, cộng với DOJO. Để xây dựng các siêu nhân đào tạo AI, phần cứng NVIDIA là khoảng 2/3 chi phí. Dự đoán tốt nhất hiện tại của tôi cho các giao dịch mua NVIDIA của Tesla là $ 3B đến $ 4B trong năm nay.

- Elon Musk (@elonmusk) tháng 6 năm 2024

"Tính toán suy luận" đề cập đến các tính toán AI thời gian thực được thực hiện bởi các phương tiện Tesla, khác với tính toán đào tạo được xử lý bởi DOJO.

Dojo đại diện cho một liên doanh rủi ro nhưng có khả năng bổ ích cho Tesla. Musk đã thừa nhận rằng Tesla có thể không thành công với DOJO, nhưng anh ta hình dung nó như một nền tảng cho bộ phận AI của Tesla, ban đầu được điều chỉnh để ghi nhãn và đào tạo về tầm nhìn máy tính cho FSD và Optimus, Robot hình người của Tesla.

Các phiên bản tương lai của DOJO có thể được điều chỉnh cho đào tạo AI đa năng, mặc dù điều này sẽ yêu cầu phần mềm viết lại hiện đang được thiết kế cho GPU. Ngoài ra, Tesla có thể cho thuê sức mạnh tính toán của mình, tương tự như AWS và Azure.

Trong thu nhập quý 2, Musk đã đề cập đến việc nhìn thấy "một con đường cạnh tranh với Nvidia với DOJO." Một báo cáo tháng 9 năm 2023 từ Morgan Stanley cho rằng DOJO có thể thêm 500 tỷ đô la vào giá trị thị trường của Tesla bằng cách mở các nguồn doanh thu mới trong các dịch vụ phần mềm và robotaxis.

Về bản chất, các chip của DOJO đóng vai trò là một chính sách bảo hiểm cho Tesla, với tiềm năng lợi nhuận đáng kể.

Dojo bao xa?

Reuters báo cáo rằng Tesla bắt đầu sản xuất trên DOJO vào tháng 7 năm 2023, nhưng một bài đăng tháng 6 năm 2023 từ Musk chỉ ra rằng DOJO đã "trực tuyến và điều hành các nhiệm vụ hữu ích trong vài tháng."

Tesla dự đoán rằng DOJO sẽ xếp hạng trong số năm siêu máy tính mạnh nhất hàng đầu vào tháng 2 năm 2024, mặc dù điều này đã không được xác nhận công khai, đưa ra nghi ngờ về thành tích của nó. Công ty cũng dự kiến ​​rằng tổng số tính toán của DOJO sẽ đạt 100 exaflops vào tháng 10 năm 2024 (một exaflops bằng 1 hàng triệu hoạt động máy tính mỗi giây. Để đạt được 100 exaflops, giả sử một D1 có thể đạt được 362 teraflops, TESLA sẽ cần hơn 276.000 D1.

Vào tháng 1 năm 2024, Tesla đã cam kết 500 triệu đô la để xây dựng một siêu máy tính Dojo tại Gigafactory ở Buffalo, New York.

Vào tháng 5 năm 2024, Musk đã đề cập rằng phần phía sau của Austin Gigafactory của Tesla sẽ được dành riêng cho một cụm siêu máy tính siêu đặc, siêu dày đặc ", hóa ra là cho Cortex, chứ không phải dojo.

Sau cuộc gọi thu nhập quý hai của Tesla, Musk đã đăng trên X rằng nhóm AI của Tesla đang sử dụng máy tính Tesla HW4 AI (đổi tên thành AI4), phần cứng được tìm thấy trong xe Tesla, trong vòng đào tạo với GPU NVIDIA. Ông lưu ý rằng sự cố là khoảng 90.000 NVIDIA H100S cộng với 40.000 máy tính AI4.

"Và Dojo 1 sẽ có khoảng 8K H100 tương đương đào tạo trực tuyến vào cuối năm", ông tiếp tục. "Không lớn, nhưng cũng không tầm thường."

Tesla chưa xác nhận liệu các chip này hiện đang hoạt động và chạy dojo. Trong cuộc gọi thu nhập năm 2024 quý IV của công ty, DOJO đã không được đề cập, nhưng Tesla đã báo cáo hoàn thành việc triển khai Cortex trong Q4, cho phép V13 của FSD được giám sát.

Câu chuyện này ban đầu được xuất bản vào ngày 3 tháng 8 năm 2024 và chúng tôi sẽ cập nhật nó khi thông tin mới phát triển.