Niv-AI 問世,旨在提升 GPU 效能與表現

電力是人工智慧的基礎資源,但新興的運算方法已超出資料中心營運商有效管理其電網互動的能力,迫使他們將營運規模縮減多達 30%。
「這些人工智慧設施浪費了龐大的能源,」Nvidia 執行長黃仁勳在該公司年度 GTC 大會的開幕演說中表示。「每浪費一瓦特,就代表損失了收益,」該公司在年度簡報中強調。
為解決此問題,新創公司 Niv-AI 今日正式成立,並獲得 1,200 萬美元種子輪融資。該公司旨在透過新型感測器精確測量 GPU 功耗,並開發工具以實現更高效的能源管理。
這家新創公司由執行長 Tomer Timor 與技術長 Edward Kizis 於去年在特拉維夫創立,獲得 Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward 及 Aurora Capital Partners 的支持。該公司選擇不透露其估值。
當頂尖人工智慧實驗室協調數千顆 GPU 來訓練並運行複雜模型時,處理器在計算任務與 GPU 間通訊之間切換時,會引發快速、以毫秒為單位的電力尖峰。
這些電流突增使得資料中心難以有效調節其從電網汲取的電力。為防止電力短缺,資料中心必須投資臨時儲能系統來緩衝這些突增,或是削減 GPU 的使用量。這兩種做法都會降低昂貴硬體的投資報酬率。
「我們實在無法繼續沿用現行方法來建造資料中心,」Grove Ventures 合夥人兼 Niv 董事會成員 Lior Handlesman 表示。
Niv 策略的第一階段在於獲取詳細洞察。該公司目前正與設計合作夥伴共同在其自有硬體上安裝機架級感測器,以毫秒級間隔監測 GPU 的電力使用狀況。目標是分析各種深度學習工作負載的獨特電力模式,並開發方法協助資料中心更有效地利用現有容量。
工程團隊計劃利用收集到的數據建立一個 AI 模型,旨在訓練該模型預測並協調整個資料中心的電力負載——實際上就是為設施工程師打造一位「副駕駛」。
Niv 預計將在未來六至八個月內,於美國數個資料中心部署可運作的系統。由於主要雲端服務供應商在興建新設施時面臨土地使用及供應鏈中斷等挑戰,此解決方案顯得格外具吸引力。創辦人將最終產品視為連接資料中心與電力網的關鍵「智慧層」。
「電網方確實擔心資料中心在尖峰時段會消耗過多電力,」提莫向 TechCrunch 解釋道。「我們正在解決的問題包含兩個相互關聯的面向。首先,我們旨在協助資料中心更充分地利用其 GPU,將已簽約的電力配額發揮至最大效益。其次,我們能促進資料中心與電網之間建立更負責任的用電模式。」
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500

電力是人工智慧的基礎資源,但新興的運算方法已超出資料中心營運商有效管理其電網互動的能力,迫使他們將營運規模縮減多達 30%。
「這些人工智慧設施浪費了龐大的能源,」Nvidia 執行長黃仁勳在該公司年度 GTC 大會的開幕演說中表示。「每浪費一瓦特,就代表損失了收益,」該公司在年度簡報中強調。
為解決此問題,新創公司 Niv-AI 今日正式成立,並獲得 1,200 萬美元種子輪融資。該公司旨在透過新型感測器精確測量 GPU 功耗,並開發工具以實現更高效的能源管理。
這家新創公司由執行長 Tomer Timor 與技術長 Edward Kizis 於去年在特拉維夫創立,獲得 Glilot Capital、Grove Ventures、Arc VC、Encoded VC、Leap Forward 及 Aurora Capital Partners 的支持。該公司選擇不透露其估值。
當頂尖人工智慧實驗室協調數千顆 GPU 來訓練並運行複雜模型時,處理器在計算任務與 GPU 間通訊之間切換時,會引發快速、以毫秒為單位的電力尖峰。
這些電流突增使得資料中心難以有效調節其從電網汲取的電力。為防止電力短缺,資料中心必須投資臨時儲能系統來緩衝這些突增,或是削減 GPU 的使用量。這兩種做法都會降低昂貴硬體的投資報酬率。
「我們實在無法繼續沿用現行方法來建造資料中心,」Grove Ventures 合夥人兼 Niv 董事會成員 Lior Handlesman 表示。
Niv 策略的第一階段在於獲取詳細洞察。該公司目前正與設計合作夥伴共同在其自有硬體上安裝機架級感測器,以毫秒級間隔監測 GPU 的電力使用狀況。目標是分析各種深度學習工作負載的獨特電力模式,並開發方法協助資料中心更有效地利用現有容量。
工程團隊計劃利用收集到的數據建立一個 AI 模型,旨在訓練該模型預測並協調整個資料中心的電力負載——實際上就是為設施工程師打造一位「副駕駛」。
Niv 預計將在未來六至八個月內,於美國數個資料中心部署可運作的系統。由於主要雲端服務供應商在興建新設施時面臨土地使用及供應鏈中斷等挑戰,此解決方案顯得格外具吸引力。創辦人將最終產品視為連接資料中心與電力網的關鍵「智慧層」。
「電網方確實擔心資料中心在尖峰時段會消耗過多電力,」提莫向 TechCrunch 解釋道。「我們正在解決的問題包含兩個相互關聯的面向。首先,我們旨在協助資料中心更充分地利用其 GPU,將已簽約的電力配額發揮至最大效益。其次,我們能促進資料中心與電網之間建立更負責任的用電模式。」
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






