創始人說

輝達與合作夥伴全球擴展AI資料中心

輝達（Nvidia）與其合作夥伴及客戶積極擴大全球電腦設施的規模，以滿足訓練如GPT-4等大型人工智慧（AI）模型的高運算需求。隨著更多AI模型投入實際應用，這種擴展將變得更加重要，光學運算新創公司Lightmatter的共同創辦人Thomas Graham表示。在紐約與彭博情報（Bloomberg Intelligence）資深科技分析師Mandeep Singh的近期訪談中，Graham強調了對運算資源日益增長的需求。

Graham解釋道：「對更多運算的需求不僅關乎規模法則，還涉及現在部署這些AI模型。」Singh詢問了像GPT-4這樣的大型語言模型（LLMs）的未來，以及它們是否會繼續擴大規模。Graham將焦點轉向AI的實際應用，強調推論（inferencing）或部署階段的重要性，這需要大量的運算能力。

Graham在彭博情報主辦的「生成式AI：能否實現生產力承諾？」會議上表示：「如果你將訓練視為研發，推論實際上就是部署。當你進行部署時，你將需要大規模的電腦來運行你的模型。」

Graham的觀點與輝達執行長Jensen Huang一致，後者向華爾街強調，推進「代理型」AI形式不僅需要更複雜的訓練，還需要顯著增強的推論能力，這將導致運算需求的指數級增長。

Lightmatter在AI基礎設施中的角色

Lightmatter成立於2018年，專注於開發使用光學連接的晶片技術，將多個處理器連接在單一半導體晶片上。這些光學互連比傳統銅線更高效地傳輸資料，耗能更少。Graham表示，這項技術可以簡化資料中心機架內部及機架之間的連接，提升資料中心的整體效率與經濟性。

Graham對Singh表示：「通過將資料中心中的銅線路徑——包括伺服器印刷電路板上及機架間的電纜——替換為光纖，我們可以大幅增加頻寬。」Lightmatter目前正與多家科技公司合作設計新的資料中心，Graham指出，這些設施正從頭開始建造。該公司已與位於紐約上州的合約半導體製造商Global Foundries建立合作關係，後者服務於如Advanced Micro Devices等客戶。

雖然Graham未透露除此之外的具體合作夥伴與客戶，但他暗示Lightmatter與如Broadcom或Marvell等矽供應商合作，為Google、Amazon和Microsoft等設計自家資料中心處理器的科技巨頭打造客製化組件。

AI資料中心的規模與未來

為說明AI部署的規模，Graham指出，至少有十二個新的AI資料中心正在規劃或建設中，每個都需要一吉瓦（gigawatt）的電力。他說：「為了提供背景資料，紐約市平均每天使用大約五吉瓦的電力。因此，我們談論的是多個紐約市的電力消耗。」他預測，到2026年，全球AI處理將需要40吉瓦的電力，相當於八個紐約市，專門用於AI資料中心。

Lightmatter最近獲得4億美元的風險投資，估值達44億美元。Graham提到，公司計劃在「未來幾年」開始生產。

當被問及可能對Lightmatter計劃造成干擾的因素時，Graham對持續擴展AI運算基礎設施的需求表示信心。然而，他承認，如果AI演算法取得突破，顯著減少運算需求或更快實現人工通用智慧（AGI），可能會挑戰當前對運算需求指數級增長的假設。