Kế hoạch đầy tham vọng của Elon Musk cho siêu máy tính Tesla Dojo AI được công bố

Trong nhiều năm, Elon Musk đã công khai nói về Dojo, siêu máy tính AI nằm ở trung tâm tham vọng AI của Tesla. Vào tháng 7 năm 2024, Musk nhấn mạnh tầm quan trọng của nó, thông báo rằng đội ngũ AI của Tesla sẽ tăng cường nỗ lực vào Dojo trước buổi ra mắt robotaxi rất được mong đợi vào tháng 10.

Vậy, Dojo thực chất là gì, và tại sao nó lại quan trọng đối với chiến lược dài hạn của Tesla?

Về bản chất, Dojo là siêu máy tính do Tesla thiết kế riêng để huấn luyện các mạng nơ-ron "Full Self-Driving" (FSD). Việc nâng cấp Dojo có liên quan chặt chẽ đến mục tiêu của Tesla trong việc đạt được khả năng tự lái hoàn toàn và ra mắt dịch vụ robotaxi. Hiện tại, FSD, được cài đặt trên hàng trăm nghìn xe Tesla, có thể xử lý một số nhiệm vụ lái xe tự động nhưng vẫn yêu cầu sự chú ý của người lái xe.

Sau buổi ra mắt Cybercab vào tháng 10, Tesla dự kiến sẽ khởi động dịch vụ gọi xe tự động tại Austin vào tháng 6 này, sử dụng đội xe của chính mình. Trong cuộc gọi thu nhập quý 4 và cả năm 2024 vào tháng 1, Tesla công bố kế hoạch giới thiệu FSD không giám sát cho khách hàng Mỹ vào năm 2025.

Mặc dù Musk từng tuyên bố rằng Dojo là chìa khóa cho tham vọng tự lái hoàn toàn của Tesla, ông đã khá im lặng về chủ đề này khi mục tiêu đến gần. Kể từ tháng 8 năm 2024, cuộc thảo luận đã chuyển sang Cortex, siêu cụm huấn luyện AI mới của Tesla tại trụ sở ở Austin. Musk mô tả Cortex là có "kho lưu trữ khổng lồ để huấn luyện video cho FSD và Optimus."

Trong khi bộ tài liệu cổ đông quý 4 của Tesla cung cấp thông tin cập nhật về Cortex, nó không đề cập đến Dojo. Tesla rõ ràng đang đầu tư mạnh vào AI, bao gồm cả Dojo và nay là Cortex, để đạt được khả năng tự chủ trong cả xe cộ và robot hình người. Với thị trường xe điện ngày càng cạnh tranh, thành công tương lai của Tesla phụ thuộc nhiều vào việc làm chủ các công nghệ này.

Bối cảnh về Dojo của Tesla

Tầm nhìn của Elon Musk cho Tesla vượt xa việc chỉ sản xuất xe hơi, tấm pin mặt trời và hệ thống lưu trữ năng lượng. Ông muốn Tesla trở thành một cường quốc AI, tiên phong trong công nghệ tự lái bằng cách mô phỏng nhận thức của con người.

Không giống như nhiều công ty công nghệ xe tự lái khác dựa vào sự kết hợp của các cảm biến như lidar, radar và máy ảnh, cùng với bản đồ độ phân giải cao, Tesla hướng đến đạt được khả năng tự chủ hoàn toàn chỉ bằng máy ảnh. Những máy ảnh này thu thập dữ liệu hình ảnh, sau đó được xử lý bởi các mạng nơ-ron tiên tiến để đưa ra quyết định lái xe trong thời gian thực.

Tại Ngày AI đầu tiên của Tesla vào năm 2021, cựu giám đốc AI, Andrej Karpathy, ví mục tiêu của công ty như việc xây dựng "một con vật tổng hợp từ đầu." Musk đã ám chỉ về Dojo từ năm 2019, nhưng nó được chính thức công bố tại Ngày AI.

Trong khi các công ty như Waymo của Alphabet đã thương mại hóa thành công các phương tiện tự lái cấp độ 4, hệ thống của Tesla vẫn yêu cầu có người ngồi sau tay lái. Hơn 1,8 triệu người đã đăng ký FSD của Tesla, với chi phí từ 8.000 đến 15.000 USD. Lời hứa là AI được huấn luyện bởi Dojo sẽ được triển khai cho khách hàng qua các bản cập nhật không dây. Dữ liệu phong phú thu thập từ các xe FSD—hàng triệu dặm video—được sử dụng để huấn luyện và tinh chỉnh hệ thống.

Tuy nhiên, một số chuyên gia trong ngành đặt câu hỏi về hiệu quả của cách tiếp cận phụ thuộc nhiều vào dữ liệu này. Anand Raghunathan, giáo sư tại Đại học Purdue, nói với TechCrunch: "Trước tiên, có một ràng buộc kinh tế, và chẳng bao lâu nó sẽ trở nên quá đắt đỏ để làm điều đó. Một số người cho rằng chúng ta có thể thực sự cạn kiệt dữ liệu có ý nghĩa để huấn luyện các mô hình. Nhiều dữ liệu hơn không nhất thiết có nghĩa là nhiều thông tin hơn, vì vậy nó phụ thuộc vào việc liệu dữ liệu đó có chứa thông tin hữu ích để tạo ra một mô hình tốt hơn hay không, và liệu quá trình huấn luyện có thể thực sự chắt lọc thông tin đó thành một mô hình tốt hơn."

Mặc dù có những lo ngại này, xu hướng sử dụng nhiều dữ liệu hơn dường như vẫn tiếp tục, ít nhất là hiện tại. Và với nhiều dữ liệu hơn, nhu cầu về sức mạnh tính toán để lưu trữ và xử lý tất cả trở nên cần thiết, đó là nơi Dojo, siêu máy tính, phát huy vai trò.

Siêu máy tính là gì?

Dojo là hệ thống siêu máy tính của Tesla, được thiết kế đặc biệt để huấn luyện các mô hình AI, đặc biệt là cho FSD. Tên "Dojo" là một cái gật đầu với các không gian huấn luyện võ thuật.

Một siêu máy tính bao gồm hàng nghìn máy tính nhỏ hơn gọi là các nút, mỗi nút có CPU và GPU. CPU quản lý nút, trong khi GPU xử lý các nhiệm vụ phức tạp như chia nhỏ các hoạt động và làm việc đồng thời. GPU rất quan trọng cho các nhiệm vụ học máy như các mô phỏng huấn luyện FSD. Chúng cũng cung cấp năng lượng cho các mô hình ngôn ngữ lớn, điều giải thích tại sao Nvidia đã trở thành công ty có giá trị nhất trên hành tinh nhờ sự gia tăng của AI tạo sinh.

Hiện tại, Tesla sử dụng GPU của Nvidia để huấn luyện AI, nhưng đang tìm cách đa dạng hóa nguồn phần cứng do chi phí cao và nguồn cung hạn chế của chip Nvidia.

Tại sao Tesla cần một siêu máy tính?

Cách tiếp cận chỉ dựa vào thị giác của Tesla đòi hỏi một siêu máy tính. Các mạng nơ-ron cung cấp năng lượng cho FSD được huấn luyện trên lượng dữ liệu lái xe khổng lồ để nhận diện và phân loại các đối tượng xung quanh xe và đưa ra quyết định lái xe. Khi FSD được sử dụng, các mạng này phải liên tục thu thập và xử lý dữ liệu hình ảnh với tốc độ ngang bằng với nhận thức của con người.

Về bản chất, Tesla hướng đến việc tạo ra một bản sao số của vỏ não thị giác và chức năng não của con người. Để đạt được điều này, Tesla cần lưu trữ và xử lý lượng dữ liệu video khổng lồ từ đội xe toàn cầu của mình và chạy vô số mô phỏng để huấn luyện mô hình AI của mình.

Hình ảnh Dojo pic.twitter.com/Lu8YiZXo8c

— Elon Musk (@elonmusk) Ngày 23 tháng 7 năm 2024

Tesla hiện dựa vào Nvidia cho máy tính huấn luyện Dojo hiện tại nhưng đang phát triển phần cứng tùy chỉnh riêng để tăng hiệu quả và giảm chi phí. Mục tiêu là phát triển phần cứng tăng băng thông và giảm độ trễ, chuyển khỏi phần cứng GPU tiêu chuẩn.

Hãy cho tôi biết thêm về những con chip này

Tesla, giống như Apple, tin tưởng vào việc thiết kế phần cứng và phần mềm hoạt động liền mạch với nhau. Triết lý này đã dẫn Tesla đến việc phát triển chip riêng cho Dojo.

Tại Ngày AI 2021, Tesla giới thiệu chip D1, một hình vuông silicon kích thước bằng lòng bàn tay. Việc sản xuất D1 đã bắt đầu ít nhất vào tháng 5 năm 2024, với việc sản xuất do Công ty Sản xuất Chất bán dẫn Đài Loan (TSMC) thực hiện, sử dụng các nút bán dẫn 7 nanomet. D1 tự hào có 50 tỷ bóng bán dẫn và kích thước đế lớn 645 milimet vuông, hứa hẹn cung cấp sức mạnh và hiệu quả cao cho các nhiệm vụ phức tạp.

"Chúng tôi có thể thực hiện tính toán và truyền dữ liệu đồng thời, và ISA tùy chỉnh của chúng tôi, tức là kiến trúc tập lệnh, được tối ưu hóa hoàn toàn cho khối lượng công việc học máy," Ganesh Venkataramanan, cựu giám đốc cấp cao phần cứng Autopilot, nói tại Ngày AI 2021 của Tesla. "Đây là học máy thuần túy."

Mặc dù D1 mạnh mẽ, nó không hoàn toàn sánh bằng chip A100 của Nvidia, cũng sử dụng quy trình 7 nanomet và chứa 54 tỷ bóng bán dẫn với kích thước đế lớn hơn 826 milimet vuông.

Để đạt được băng thông và sức mạnh tính toán cao hơn, đội ngũ AI của Tesla đã kết hợp 25 chip D1 thành một ô duy nhất, hoạt động như một hệ thống máy tính thống nhất. Mỗi ô cung cấp 9 petaflop sức mạnh tính toán và 36 terabyte mỗi giây băng thông, và bao gồm tất cả phần cứng cần thiết cho nguồn, làm mát và truyền dữ liệu. Sáu ô tạo thành một giá, hai giá tạo thành một tủ, và mười tủ tạo thành một ExaPOD. Tại Ngày AI 2022, Tesla tiết lộ kế hoạch mở rộng Dojo bằng cách triển khai nhiều ExaPOD, hình thành siêu máy tính.

Tesla cũng đang phát triển chip D2 thế hệ tiếp theo để giải quyết các nút thắt dòng thông tin. D2 sẽ tích hợp toàn bộ ô Dojo vào một tấm silicon duy nhất.

Tesla chưa tiết lộ đã đặt hàng hoặc dự kiến nhận bao nhiêu chip D1, cũng như chưa cung cấp thời gian biểu khi nào các siêu máy tính Dojo sẽ chạy trên chip D1.

Trả lời một bài đăng trên X vào tháng 6 về việc xây dựng một bộ làm mát GPU khổng lồ tại Texas, Musk nói rằng Tesla nhắm đến "một nửa phần cứng AI của Tesla, một nửa Nvidia/khác" trong 18 tháng tới. "Khác" có thể bao gồm chip AMD, theo bình luận của Musk vào tháng 1.

Dojo có ý nghĩa gì với Tesla?

Bằng cách kiểm soát việc sản xuất chip của mình, Tesla có thể tăng sức mạnh tính toán đáng kể cho các chương trình huấn luyện AI với chi phí thấp hơn, đặc biệt khi sản xuất mở rộng với TSMC.

Động thái này cũng có thể giảm sự phụ thuộc của Tesla vào các chip ngày càng đắt đỏ và khan hiếm của Nvidia. Trong cuộc gọi thu nhập quý hai, Musk bày tỏ lo ngại về việc đảm bảo nguồn cung GPU ổn định, nhấn mạnh sự cần thiết phải tập trung hơn vào Dojo.

Mặc dù vậy, Tesla vẫn đang mua chip Nvidia cho việc huấn luyện AI. Vào tháng 6, Musk đăng trên X:

Trong khoảng 10 tỷ USD chi tiêu liên quan đến AI mà tôi nói Tesla sẽ thực hiện trong năm nay, khoảng một nửa là nội bộ, chủ yếu là máy tính suy luận AI do Tesla thiết kế và cảm biến có trong tất cả xe của chúng tôi, cộng với Dojo. Để xây dựng các siêu cụm huấn luyện AI, phần cứng Nvidia chiếm khoảng 2/3 chi phí. Ước đoán tốt nhất hiện tại của tôi cho các giao dịch mua Nvidia của Tesla là từ 3 tỷ đến 4 tỷ USD trong năm nay.

— Elon Musk (@elonmusk) Tháng 6 năm 2024

"Suy luận tính toán" đề cập đến các tính toán AI thời gian thực được thực hiện bởi các xe Tesla, khác với tính toán huấn luyện do Dojo xử lý.

Dojo đại diện cho một mạo hiểm rủi ro nhưng có thể mang lại phần thưởng lớn cho Tesla. Musk đã thừa nhận rằng Tesla có thể không thành công với Dojo, nhưng ông hình dung nó như một nền tảng cho bộ phận AI của Tesla, ban đầu được thiết kế cho việc gắn nhãn và huấn luyện thị giác máy tính cho FSD và Optimus, robot hình người của Tesla.

Các phiên bản tương lai của Dojo có thể được điều chỉnh cho huấn luyện AI mục đích chung, mặc dù điều này sẽ yêu cầu viết lại phần mềm hiện được thiết kế cho GPU. Ngoài ra, Tesla có thể cho thuê sức mạnh tính toán của mình, tương tự như AWS và Azure.

Trong cuộc gọi thu nhập quý hai, Musk đề cập đến việc thấy "một con đường để cạnh tranh với Nvidia với Dojo." Một báo cáo từ Morgan Stanley vào tháng 9 năm 2023 cho rằng Dojo có thể thêm 500 tỷ USD vào giá trị thị trường của Tesla bằng cách mở ra các dòng doanh thu mới trong robotaxi và dịch vụ phần mềm.

Về bản chất, các chip của Dojo đóng vai trò như một chính sách bảo hiểm cho Tesla, với tiềm năng mang lại lợi nhuận đáng kể.

Dojo đã tiến xa đến đâu?

Reuters đưa tin rằng Tesla bắt đầu sản xuất Dojo vào tháng 7 năm 2023, nhưng một bài đăng từ Musk vào tháng 6 năm 2023 cho biết Dojo đã "hoạt động và thực hiện các nhiệm vụ hữu ích trong vài tháng."

Tesla dự đoán rằng Dojo sẽ nằm trong top 5 siêu máy tính mạnh nhất vào tháng 2 năm 2024, mặc dù điều này chưa được xác nhận công khai, gây nghi ngờ về việc đạt được. Công ty cũng dự đoán rằng tổng sức mạnh tính toán của Dojo sẽ đạt 100 exaflop vào tháng 10 năm 2024. (Một exaflop tương đương với 1 triệu tỷ phép tính mỗi giây. Để đạt 100 exaflop, giả sử một D1 có thể đạt 362 teraflop, Tesla sẽ cần hơn 276.000 D1, hoặc khoảng 320.500 GPU Nvidia A100.)

Vào tháng 1 năm 2024, Tesla cam kết 500 triệu USD để xây dựng một siêu máy tính Dojo tại nhà máy gigafactory ở Buffalo, New York.

Vào tháng 5 năm 2024, Musk đề cập rằng phần sau của nhà máy gigafactory Austin của Tesla sẽ được dành riêng cho một "cụm siêu máy tính làm mát bằng nước siêu dày đặc," hóa ra là dành cho Cortex, không phải Dojo.

Sau cuộc gọi thu nhập quý hai của Tesla, Musk đăng trên X rằng đội ngũ AI của Tesla đang sử dụng máy tính AI HW4 của Tesla (đổi tên thành AI4), phần cứng có trong xe Tesla, trong vòng huấn luyện cùng với GPU Nvidia. Ông lưu ý rằng sự phân bổ là khoảng 90.000 H100 Nvidia cộng với 40.000 máy tính AI4.

"Và Dojo 1 sẽ có khoảng 8.000 H100 tương đương sức mạnh huấn luyện trực tuyến vào cuối năm," ông tiếp tục. "Không lớn, nhưng cũng không tầm thường."

Tesla chưa xác nhận liệu các chip này hiện đã hoạt động và chạy Dojo hay chưa. Trong cuộc gọi thu nhập quý 4 năm 2024 của công ty, Dojo không được đề cập, nhưng Tesla báo cáo đã hoàn thành triển khai Cortex trong quý 4, điều này cho phép phiên bản V13 của FSD có giám sát.

Câu chuyện này được xuất bản lần đầu vào ngày 3 tháng 8 năm 2024, và chúng tôi sẽ cập nhật khi có thông tin mới.