Niv-AI 問世,旨在提升 GPU 效能與表現

電力是人工智慧的基礎資源,但新興的運算方法已超出資料中心營運商有效管理其電網互動的能力,迫使他們將營運規模縮減多達 30%。
「這些人工智慧設施浪費了龐大的能源,」Nvidia 執行長黃仁勳在該公司年度 GTC 大會的開幕演說中表示。「每浪費一瓦特,就代表損失了收益,」該公司在年度簡報中強調。
為解決此問題,新創公司 Niv-AI 今日正式成立,並獲得 1,200 萬美元種子輪融資。該公司旨在透過新型感測器精確測量 GPU 功耗,並開發工具以實現更高效的能源管理。
這家新創公司由執行長 Tomer Timor 與技術長 Edward Kizis 於去年在特拉維夫創立,獲得 Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward 及 Aurora Capital Partners 的支持。該公司選擇不透露其估值。
當頂尖人工智慧實驗室協調數千顆 GPU 來訓練並運行複雜模型時,處理器在計算任務與 GPU 間通訊之間切換時,會引發快速、以毫秒為單位的電力尖峰。
這些電流突增使得資料中心難以有效調節其從電網汲取的電力。為防止電力短缺,資料中心必須投資臨時儲能系統來緩衝這些突增,或是削減 GPU 的使用量。這兩種做法都會降低昂貴硬體的投資報酬率。
「我們實在無法繼續沿用現行方法來建造資料中心,」Grove Ventures 合夥人兼 Niv 董事會成員 Lior Handlesman 表示。
Niv 策略的第一階段在於獲取詳細洞察。該公司目前正與設計合作夥伴共同在其自有硬體上安裝機架級感測器,以毫秒級間隔監測 GPU 的電力使用狀況。目標是分析各種深度學習工作負載的獨特電力模式,並開發方法協助資料中心更有效地利用現有容量。
工程團隊計劃利用收集到的數據建立一個 AI 模型,旨在訓練該模型預測並協調整個資料中心的電力負載——實際上就是為設施工程師打造一位「副駕駛」。
Niv 預計將在未來六至八個月內,於美國數個資料中心部署可運作的系統。由於主要雲端服務供應商在興建新設施時面臨土地使用及供應鏈中斷等挑戰,此解決方案顯得格外具吸引力。創辦人將最終產品視為連接資料中心與電力網的關鍵「智慧層」。
「電網方確實擔心資料中心在尖峰時段會消耗過多電力,」提莫向 TechCrunch 解釋道。「我們正在解決的問題包含兩個相互關聯的面向。首先,我們旨在協助資料中心更充分地利用其 GPU,將已簽約的電力配額發揮至最大效益。其次,我們能促進資料中心與電網之間建立更負責任的用電模式。」
相關文章
Google 將加大對 Anthropic 的投資,總額可能高達 400 億美元
在節奏飛快的 AI 軍備競賽中,各大科技巨頭正採取越來越大膽的舉措。根據最新報導,Google 計劃向 AI 新創公司 Anthropic 投資高達 100 億美元——而這僅僅是個開始。根據其長期戰略,總投資額最終可能達到 400 億美元。這筆巨額交易將使Anthropic的估值推升至3,500億美元的新高。就在數月前,該公司才剛完成一輪300億美元的融資。亞馬遜此前已投資50億美元,並保留了額外
免費開源 AI 國際象棋引擎 Maia 3 正式發布,旨在提升人類的棋藝表現
Maia Chess 團隊已發布一款新的開源國際象棋引擎「Maia 3」,該引擎是透過 2.5 億盤真實人類對弈數據進行訓練的。其 Elo 評分約為 1800,比前一版本高出近 300 分。 最棒的是,它完全免費且開源,支援本地部署,這代表著讓 AI 國際象棋引擎普及大眾邁出了重要一步。獨特方法:模擬人類決策過程與 AlphaZero 和 Stockfish 等頂尖引擎不同,後者旨在追求 Elo
人工智慧創投熱潮推動單季營收突破一兆元,掀起新一波創新浪潮
全球人工智慧領域的風險投資正呈現激增態勢。今年第一季,近600輪與人工智慧相關的融資案完成,總金額超過1,100億元人民幣,較去年同期增長185.4%。主要資金集中於三大關鍵領域5月,國內領先的大型模型公司如Moonshot和Step Star取得進一步進展,募資超過300億元。與此同時,具身智能領域也吸引了大量投資,新興企業VITA Dynamics和Luming Robotics在短短一週內各
相關專題推薦
評論 (0)
0/500

電力是人工智慧的基礎資源,但新興的運算方法已超出資料中心營運商有效管理其電網互動的能力,迫使他們將營運規模縮減多達 30%。
「這些人工智慧設施浪費了龐大的能源,」Nvidia 執行長黃仁勳在該公司年度 GTC 大會的開幕演說中表示。「每浪費一瓦特,就代表損失了收益,」該公司在年度簡報中強調。
為解決此問題,新創公司 Niv-AI 今日正式成立,並獲得 1,200 萬美元種子輪融資。該公司旨在透過新型感測器精確測量 GPU 功耗,並開發工具以實現更高效的能源管理。
這家新創公司由執行長 Tomer Timor 與技術長 Edward Kizis 於去年在特拉維夫創立,獲得 Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward 及 Aurora Capital Partners 的支持。該公司選擇不透露其估值。
當頂尖人工智慧實驗室協調數千顆 GPU 來訓練並運行複雜模型時,處理器在計算任務與 GPU 間通訊之間切換時,會引發快速、以毫秒為單位的電力尖峰。
這些電流突增使得資料中心難以有效調節其從電網汲取的電力。為防止電力短缺,資料中心必須投資臨時儲能系統來緩衝這些突增,或是削減 GPU 的使用量。這兩種做法都會降低昂貴硬體的投資報酬率。
「我們實在無法繼續沿用現行方法來建造資料中心,」Grove Ventures 合夥人兼 Niv 董事會成員 Lior Handlesman 表示。
Niv 策略的第一階段在於獲取詳細洞察。該公司目前正與設計合作夥伴共同在其自有硬體上安裝機架級感測器,以毫秒級間隔監測 GPU 的電力使用狀況。目標是分析各種深度學習工作負載的獨特電力模式,並開發方法協助資料中心更有效地利用現有容量。
工程團隊計劃利用收集到的數據建立一個 AI 模型,旨在訓練該模型預測並協調整個資料中心的電力負載——實際上就是為設施工程師打造一位「副駕駛」。
Niv 預計將在未來六至八個月內,於美國數個資料中心部署可運作的系統。由於主要雲端服務供應商在興建新設施時面臨土地使用及供應鏈中斷等挑戰,此解決方案顯得格外具吸引力。創辦人將最終產品視為連接資料中心與電力網的關鍵「智慧層」。
「電網方確實擔心資料中心在尖峰時段會消耗過多電力,」提莫向 TechCrunch 解釋道。「我們正在解決的問題包含兩個相互關聯的面向。首先,我們旨在協助資料中心更充分地利用其 GPU,將已簽約的電力配額發揮至最大效益。其次,我們能促進資料中心與電網之間建立更負責任的用電模式。」
Google 將加大對 Anthropic 的投資,總額可能高達 400 億美元
在節奏飛快的 AI 軍備競賽中,各大科技巨頭正採取越來越大膽的舉措。根據最新報導,Google 計劃向 AI 新創公司 Anthropic 投資高達 100 億美元——而這僅僅是個開始。根據其長期戰略,總投資額最終可能達到 400 億美元。這筆巨額交易將使Anthropic的估值推升至3,500億美元的新高。就在數月前,該公司才剛完成一輪300億美元的融資。亞馬遜此前已投資50億美元,並保留了額外
人工智慧創投熱潮推動單季營收突破一兆元,掀起新一波創新浪潮
全球人工智慧領域的風險投資正呈現激增態勢。今年第一季,近600輪與人工智慧相關的融資案完成,總金額超過1,100億元人民幣,較去年同期增長185.4%。主要資金集中於三大關鍵領域5月,國內領先的大型模型公司如Moonshot和Step Star取得進一步進展,募資超過300億元。與此同時,具身智能領域也吸引了大量投資,新興企業VITA Dynamics和Luming Robotics在短短一週內各





首頁






