Runware 推出便攜式資料中心模組,以測試行動基礎建設的未來發展
週二,人工智慧基礎設施公司 Runware 正式推出「Sonic Inference Pod」——一款設計為單一可運輸單元的模組化資料中心。此解決方案為超大規模雲端服務供應商那些龐大且規模固定的資料中心專案,提供了一種靈活的替代方案。
據 Runware 表示,相較於其他無伺服器平台及 GPU 雲端服務,該 Pod 能在更低成本下提供更高品質的推論效能。其模組化架構可透過部署新 Pod 快速擴充容量,無需擴建靜態設施。共同創辦人暨執行長 Flaviu Radulescu 向 TechCrunch 描述,此種做法正是運算的未來。
「我們相信,分散式運算——透過更貼近終端用戶以實現更快的推論——才是長遠來看能勝出的方案,」他解釋道。 除了具競爭力的定價外,拉杜萊斯庫還強調,Runware 的系統能快速擴展,只要有電源供應即可部署於任何地點,並能迅速適應新硬體。與需要數月甚至數年才能建成的傳統資料中心不同,Runware 的 Pod 採用無需用水且能在短短數天內投入運作的閉環冷卻系統。
「推論的需求增長速度,遠超過設施的建設速度,」拉杜萊斯庫表示。「我們的目標是為全球智慧提供動力,成為每個 AI 模型運行的骨幹,其運算能力能跟上需求,而非對其進行限流。」
據拉杜萊斯庫表示,Runware 目前在美國、歐洲及亞太地區營運著 10 個模組化機櫃。該公司已為 Higgsfield AI 和 Wix 等客戶提供推論支援,並有 160 個據點已準備好為其模組化機櫃供電。 繼去年 12 月完成 5,000 萬美元 A 輪融資後,Runware 致力於為圖像生成公司提供必要的基础設施。此次向模組化 pod 的擴展,與該公司「為企業提供推論服務,而非專注於單一產品」的核心使命相契合。

圖片來源:Runware
OpenAI 和 SpaceX 等主要人工智慧實驗室仍在全美各地競相興建資料中心。據報導,OpenAI 即將達成一項價值 5,000 億美元的協議,將在俄亥俄州建造一座設施。然而,拉杜萊斯庫並不認為這些大型專案會對 Sonic Inference Pods 構成威脅,並指出這些 Pod 的靈活性是其關鍵優勢。
「每個 Pod 都作為單一網路的一部分運作,因此請求會被導向有閒置容量的節點,且更接近使用者;若其中一個 Pod 離線,流量便會轉移至另一個 Pod,」他解釋道。他補充說,系統故障僅會影響單一 Pod,而非整個固定設施。「想要專用硬體的客戶,可以獨佔整個 Pod。」
拉杜萊斯庫也不擔心競爭對手會開發類似的解決方案,他指出,硬體開發進度緩慢,且具備設計與維護這項技術能力的人才池十分有限。
「電路板設計若出現錯誤,從重新設計、模擬、製造、測試到交付,將耗費數月時間,」他表示。「每一個環節都需要有人確切了解每個元件的功能,以及若該元件缺失會導致哪些故障。」
建造 AI 資料中心仍是一個具爭議性的話題,主要原因在於其資源消耗量極高。承辦這些設施的社區已反映公用事業成本上漲。雖然 Runware 設想了一個由再生能源驅動、且不造成當地資源負擔的未來,但這種現實目前尚未完全實現。
拉杜萊斯庫指出,無論如何,AI 的耗電量都將上升,「這是由推論需求驅動的,而非取決於誰來供應電力。」他強調,Runware 目前的重點在於高效地滿足這項需求。 「沒有輸電損耗,冷卻過程不需要用水,而且我們使用的是現有的電力,而不是要求增建新的電網容量。以這種方式建置更多推論能力,意味著在相同的運算量下,需要新建的電網更少,耗水量也更低。」
相關文章
ChatGPT 深度整合功能透過對話解鎖 30 萬部電影與電視節目
隨著串流服務以源源不絕的內容淹沒市場,如何協助使用者穿透資訊雜音、找到他們真正想要的內容,已成為業界面臨的一項關鍵挑戰。4月9日,各大串流服務商正式宣布整合ChatGPT應用生態系統。作為首個原生內建此項技術的平台,該服務旨在透過運用 AI 驅動的洞察力,徹底改變觀眾發現與消費影音內容的方式。核心體驗:摒棄關鍵字,以自然語感搜尋在整合ChatGPT 之後,該平台已超越傳統的類型篩選機制,提供更智慧
如何改善「核心網路指標」以提升 SEO 排名
透過 AI 驅動的字幕功能,徹底改變您的影片剪輯工作流程目錄:簡介自動轉錄的關鍵優勢確保準確性並優化輸出結果善用字幕中的搜尋功能無縫匯入現有檔案Transcript.com 介紹透過 Transcript.com 輕鬆編輯靈活的匯出格式全面的語言支援結論簡介Transcripted 是一款運用人工智慧生成自動轉錄文字的 Premiere 外掛程式。本指南將深入探討其核心功能,包括高準確度、進階搜尋
DingTalk 運用阿里AI的 MuleRun 重構架構,邁入全代理時代
丁談新任執行長暨悟空事業群負責人陳宇森,於今日下午發布的內部備忘錄中,揭露了一項重大的組織重整計畫。透過成立「核心平台事業部」並全面整合 AI 代理團隊,丁談正加速推動其企業協作生態系統的智慧轉型。此次重組的核心在於將 AI 技術深度整合至核心業務運作中。DingTalk 已正式將「悟空」與「MuleRun」團隊合併,組成統一的「悟空」團隊,現由前 MuleRun 首席技術長舒俊良領導。 Mule
相關專題推薦
評論 (0)
0/500
週二,人工智慧基礎設施公司 Runware 正式推出「Sonic Inference Pod」——一款設計為單一可運輸單元的模組化資料中心。此解決方案為超大規模雲端服務供應商那些龐大且規模固定的資料中心專案,提供了一種靈活的替代方案。
據 Runware 表示,相較於其他無伺服器平台及 GPU 雲端服務,該 Pod 能在更低成本下提供更高品質的推論效能。其模組化架構可透過部署新 Pod 快速擴充容量,無需擴建靜態設施。共同創辦人暨執行長 Flaviu Radulescu 向 TechCrunch 描述,此種做法正是運算的未來。
「我們相信,分散式運算——透過更貼近終端用戶以實現更快的推論——才是長遠來看能勝出的方案,」他解釋道。 除了具競爭力的定價外,拉杜萊斯庫還強調,Runware 的系統能快速擴展,只要有電源供應即可部署於任何地點,並能迅速適應新硬體。與需要數月甚至數年才能建成的傳統資料中心不同,Runware 的 Pod 採用無需用水且能在短短數天內投入運作的閉環冷卻系統。
「推論的需求增長速度,遠超過設施的建設速度,」拉杜萊斯庫表示。「我們的目標是為全球智慧提供動力,成為每個 AI 模型運行的骨幹,其運算能力能跟上需求,而非對其進行限流。」
據拉杜萊斯庫表示,Runware 目前在美國、歐洲及亞太地區營運著 10 個模組化機櫃。該公司已為 Higgsfield AI 和 Wix 等客戶提供推論支援,並有 160 個據點已準備好為其模組化機櫃供電。 繼去年 12 月完成 5,000 萬美元 A 輪融資後,Runware 致力於為圖像生成公司提供必要的基础設施。此次向模組化 pod 的擴展,與該公司「為企業提供推論服務,而非專注於單一產品」的核心使命相契合。

圖片來源:Runware
OpenAI 和 SpaceX 等主要人工智慧實驗室仍在全美各地競相興建資料中心。據報導,OpenAI 即將達成一項價值 5,000 億美元的協議,將在俄亥俄州建造一座設施。然而,拉杜萊斯庫並不認為這些大型專案會對 Sonic Inference Pods 構成威脅,並指出這些 Pod 的靈活性是其關鍵優勢。
「每個 Pod 都作為單一網路的一部分運作,因此請求會被導向有閒置容量的節點,且更接近使用者;若其中一個 Pod 離線,流量便會轉移至另一個 Pod,」他解釋道。他補充說,系統故障僅會影響單一 Pod,而非整個固定設施。「想要專用硬體的客戶,可以獨佔整個 Pod。」
拉杜萊斯庫也不擔心競爭對手會開發類似的解決方案,他指出,硬體開發進度緩慢,且具備設計與維護這項技術能力的人才池十分有限。
「電路板設計若出現錯誤,從重新設計、模擬、製造、測試到交付,將耗費數月時間,」他表示。「每一個環節都需要有人確切了解每個元件的功能,以及若該元件缺失會導致哪些故障。」
建造 AI 資料中心仍是一個具爭議性的話題,主要原因在於其資源消耗量極高。承辦這些設施的社區已反映公用事業成本上漲。雖然 Runware 設想了一個由再生能源驅動、且不造成當地資源負擔的未來,但這種現實目前尚未完全實現。
拉杜萊斯庫指出,無論如何,AI 的耗電量都將上升,「這是由推論需求驅動的,而非取決於誰來供應電力。」他強調,Runware 目前的重點在於高效地滿足這項需求。 「沒有輸電損耗,冷卻過程不需要用水,而且我們使用的是現有的電力,而不是要求增建新的電網容量。以這種方式建置更多推論能力,意味著在相同的運算量下,需要新建的電網更少,耗水量也更低。」
ChatGPT 深度整合功能透過對話解鎖 30 萬部電影與電視節目
隨著串流服務以源源不絕的內容淹沒市場,如何協助使用者穿透資訊雜音、找到他們真正想要的內容,已成為業界面臨的一項關鍵挑戰。4月9日,各大串流服務商正式宣布整合ChatGPT應用生態系統。作為首個原生內建此項技術的平台,該服務旨在透過運用 AI 驅動的洞察力,徹底改變觀眾發現與消費影音內容的方式。核心體驗:摒棄關鍵字,以自然語感搜尋在整合ChatGPT 之後,該平台已超越傳統的類型篩選機制,提供更智慧
如何改善「核心網路指標」以提升 SEO 排名
透過 AI 驅動的字幕功能,徹底改變您的影片剪輯工作流程目錄:簡介自動轉錄的關鍵優勢確保準確性並優化輸出結果善用字幕中的搜尋功能無縫匯入現有檔案Transcript.com 介紹透過 Transcript.com 輕鬆編輯靈活的匯出格式全面的語言支援結論簡介Transcripted 是一款運用人工智慧生成自動轉錄文字的 Premiere 外掛程式。本指南將深入探討其核心功能,包括高準確度、進階搜尋
DingTalk 運用阿里AI的 MuleRun 重構架構,邁入全代理時代
丁談新任執行長暨悟空事業群負責人陳宇森,於今日下午發布的內部備忘錄中,揭露了一項重大的組織重整計畫。透過成立「核心平台事業部」並全面整合 AI 代理團隊,丁談正加速推動其企業協作生態系統的智慧轉型。此次重組的核心在於將 AI 技術深度整合至核心業務運作中。DingTalk 已正式將「悟空」與「MuleRun」團隊合併,組成統一的「悟空」團隊,現由前 MuleRun 首席技術長舒俊良領導。 Mule





首頁






