Người sáng lập AI để tiêu thụ sức mạnh của nhiều NYC vào năm 2026, người sáng lập

Nvidia và Các Đối Tác Mở Rộng Trung Tâm Dữ Liệu AI Toàn Cầu

Nvidia, cùng với các đối tác và khách hàng, đã tích cực mở rộng quy mô các cơ sở máy tính trên toàn cầu để đáp ứng nhu cầu tính toán cao của việc huấn luyện các mô hình trí tuệ nhân tạo (AI) khổng lồ như GPT-4. Việc mở rộng này sẽ trở nên càng quan trọng hơn khi các mô hình AI bổ sung được triển khai vào sản xuất, theo Thomas Graham, đồng sáng lập công ty khởi nghiệp tính toán quang học Lightmatter. Trong một cuộc phỏng vấn gần đây tại New York với Mandeep Singh, nhà phân tích công nghệ cấp cao từ Bloomberg Intelligence, Graham đã nhấn mạnh nhu cầu ngày càng tăng về tài nguyên tính toán.

"Nhu cầu về tính toán nhiều hơn không chỉ liên quan đến quy luật mở rộng; mà còn liên quan đến việc triển khai các mô hình AI này ngay bây giờ," Graham giải thích. Singh đã hỏi về tương lai của các mô hình ngôn ngữ lớn (LLMs) như GPT-4 và liệu chúng có tiếp tục tăng kích thước hay không. Đáp lại, Graham chuyển trọng tâm sang ứng dụng thực tế của AI, nhấn mạnh tầm quan trọng của suy luận, hay giai đoạn triển khai, đòi hỏi sức mạnh tính toán đáng kể.

"Nếu bạn coi huấn luyện là nghiên cứu và phát triển, suy luận thực chất là triển khai. Khi bạn triển khai, bạn sẽ cần các máy tính quy mô lớn để chạy các mô hình của mình," Graham phát biểu tại hội nghị "Gen AI: Liệu nó có thể đáp ứng lời hứa về năng suất?" do Bloomberg Intelligence tổ chức.

Quan điểm của Graham phù hợp với quan điểm của Giám đốc điều hành Nvidia Jensen Huang, người đã nhấn mạnh với Phố Wall rằng việc thúc đẩy các dạng AI "agentic" sẽ đòi hỏi không chỉ huấn luyện tinh vi hơn mà còn cần khả năng suy luận được cải thiện đáng kể, dẫn đến sự gia tăng theo cấp số nhân trong yêu cầu tính toán.

Vai Trò của Lightmatter trong Cơ Sở Hạ Tầng AI

Được thành lập vào năm 2018, Lightmatter đi đầu trong việc phát triển công nghệ chip sử dụng kết nối quang học để liên kết nhiều bộ xử lý trên một đế bán dẫn duy nhất. Các kết nối quang học này có thể truyền dữ liệu hiệu quả hơn so với dây đồng truyền thống, sử dụng ít năng lượng hơn. Công nghệ này có thể đơn giản hóa các kết nối trong và giữa các giá đỡ trung tâm dữ liệu, nâng cao hiệu quả và tính kinh tế tổng thể của trung tâm dữ liệu, theo Graham.

"Bằng cách thay thế các đường đồng trong trung tâm dữ liệu—cả trên bảng mạch in của máy chủ và trong cáp giữa các giá đỡ—bằng cáp quang, chúng tôi có thể tăng băng thông đáng kể," Graham nói với Singh. Lightmatter hiện đang hợp tác với nhiều công ty công nghệ trong việc thiết kế các trung tâm dữ liệu mới, và Graham lưu ý rằng các cơ sở này đang được xây dựng từ đầu. Công ty đã thiết lập quan hệ đối tác với Global Foundries, một nhà sản xuất bán dẫn theo hợp đồng có hoạt động ở phía bắc New York, phục vụ các khách hàng như Advanced Micro Devices.

Mặc dù Graham không tiết lộ các đối tác và khách hàng cụ thể ngoài sự hợp tác này, ông ám chỉ rằng Lightmatter làm việc với các nhà cung cấp silicon như Broadcom hoặc Marvell để tạo ra các thành phần tùy chỉnh cho các gã khổng lồ công nghệ như Google, Amazon và Microsoft, những người thiết kế bộ xử lý trung tâm dữ liệu của riêng họ.

Quy Mô và Tương Lai của Trung Tâm Dữ Liệu AI

Để minh họa quy mô của việc triển khai AI, Graham chỉ ra rằng ít nhất một tá trung tâm dữ liệu AI mới đang được lên kế hoạch hoặc xây dựng, mỗi trung tâm cần một gigawatt điện. "Để so sánh, thành phố New York sử dụng khoảng năm gigawatt điện trong một ngày trung bình. Vì vậy, chúng ta đang nói về mức tiêu thụ điện của nhiều thành phố New York," ông nói. Ông dự đoán rằng đến năm 2026, xử lý AI toàn cầu sẽ đòi hỏi 40 gigawatt điện, tương đương với tám thành phố New York, đặc biệt dành cho các trung tâm dữ liệu AI.

Lightmatter gần đây đã huy động được khoản đầu tư mạo hiểm 400 triệu USD, định giá công ty ở mức 4,4 tỷ USD. Graham cho biết công ty hướng đến việc bắt đầu sản xuất "trong vài năm tới."

Khi được hỏi về các khả năng gián đoạn kế hoạch của Lightmatter, Graham bày tỏ sự tự tin vào nhu cầu liên tục mở rộng cơ sở hạ tầng tính toán AI. Tuy nhiên, ông thừa nhận rằng một bước đột phá trong thuật toán AI đòi hỏi ít tính toán hơn đáng kể hoặc đạt được trí tuệ nhân tạo tổng quát (AGI) nhanh hơn có thể thách thức các giả định hiện tại về nhu cầu tăng trưởng tính toán theo cấp số nhân.