AI 突破:克服儲存瓶頸,提升邊緣推理效能

隨著人工智慧改變企業運作,從利用尖端影像的醫療診斷,到複雜的防詐系統和環境監控,都可藉此提升效能,企業卻面臨日益嚴峻的基礎架構挑戰:資料儲存的限制。
在 VentureBeat 的 Transform 2025 會議中,業界領導者 Greg Matson (Solidigm)、Roger Cummings (PEAK:AIO) 和 Michael Stewart (M12) 探討了下一代儲存解決方案如何發揮人工智能在醫療保健應用中的潛力。
醫療界採用 MONAI 架構就是這種技術共生的最佳例證。這個開放原始碼平台透過強化安全性與效率,加速醫療影像開發。其成功的關鍵在於先進的儲存基礎架構,可讓研究人員在單一儲存節點上維護和處理大量資料集,例如 PEAK:AIO 和 Solidigm 啟用的 200 萬個全身 CT 掃描。
針對 AI 工作流程優化儲存設備
"Matson 解釋說:「AI 基礎架構在整個資料管道中需要專門的儲存解決方案。"大容量固態硬碟機適用於邊緣運算和訓練資料儲存,而推論作業則需要超高效能與卓越的 I/O 能力。這種專業化正在重塑我們的產品開發和軟體整合策略,特別是針對檢索-增強世代系統。"
邊緣運算需求
成功的邊緣人工智慧部署需要最小化硬體佔用空間,同時消除記憶體限制。透過將儲存直接整合到計算架構中,組織可透過讓資料在物理上更接近處理單元來實現更快的處理速度。
"Matson 指出:「主要的 AI 部署目前都是以 GPU 相鄰的儲存架構來設計整個資料中心。"Matson 指出:「我們現在將相同的原則 (etabyte-scale、高速固態儲存) 帶到較小規模的邊緣環境和企業資料中心。
將人工智慧投資最大化的組織,越來越需要結合大量儲存容量與適合分散式部署的精巧外型的全固態解決方案。
儲存技術路線圖
"Cummings 表示:「我們的任務重點在於提供開放式架構、PB 級記憶體速度的解決方案。"Cummings 表示:「產業將持續看到符合技術需求與經濟現實的儲存創新。
未來的硬體必須滿足 AI 生命週期內的不同需求 - 從超高容量的省電方案,到接近記憶體效能等級的儲存模組。
「我們正朝著 1PB SSD 的方向邁進,它在取代多個傳統硬碟機的同時,還能消耗最少的電力,」Matson 預測道。「儲存架構將越來越多地與 GPU 高頻寬記憶體相輔相成,創造出專門的解決方案,而非通用裝置--這個趨勢將在未來十年加速發展。」
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (1)
0/500

隨著人工智慧改變企業運作,從利用尖端影像的醫療診斷,到複雜的防詐系統和環境監控,都可藉此提升效能,企業卻面臨日益嚴峻的基礎架構挑戰:資料儲存的限制。
在 VentureBeat 的 Transform 2025 會議中,業界領導者 Greg Matson (Solidigm)、Roger Cummings (PEAK:AIO) 和 Michael Stewart (M12) 探討了下一代儲存解決方案如何發揮人工智能在醫療保健應用中的潛力。
醫療界採用 MONAI 架構就是這種技術共生的最佳例證。這個開放原始碼平台透過強化安全性與效率,加速醫療影像開發。其成功的關鍵在於先進的儲存基礎架構,可讓研究人員在單一儲存節點上維護和處理大量資料集,例如 PEAK:AIO 和 Solidigm 啟用的 200 萬個全身 CT 掃描。
針對 AI 工作流程優化儲存設備
"Matson 解釋說:「AI 基礎架構在整個資料管道中需要專門的儲存解決方案。"大容量固態硬碟機適用於邊緣運算和訓練資料儲存,而推論作業則需要超高效能與卓越的 I/O 能力。這種專業化正在重塑我們的產品開發和軟體整合策略,特別是針對檢索-增強世代系統。"
邊緣運算需求
成功的邊緣人工智慧部署需要最小化硬體佔用空間,同時消除記憶體限制。透過將儲存直接整合到計算架構中,組織可透過讓資料在物理上更接近處理單元來實現更快的處理速度。
"Matson 指出:「主要的 AI 部署目前都是以 GPU 相鄰的儲存架構來設計整個資料中心。"Matson 指出:「我們現在將相同的原則 (etabyte-scale、高速固態儲存) 帶到較小規模的邊緣環境和企業資料中心。
將人工智慧投資最大化的組織,越來越需要結合大量儲存容量與適合分散式部署的精巧外型的全固態解決方案。
儲存技術路線圖
"Cummings 表示:「我們的任務重點在於提供開放式架構、PB 級記憶體速度的解決方案。"Cummings 表示:「產業將持續看到符合技術需求與經濟現實的儲存創新。
未來的硬體必須滿足 AI 生命週期內的不同需求 - 從超高容量的省電方案,到接近記憶體效能等級的儲存模組。
「我們正朝著 1PB SSD 的方向邁進,它在取代多個傳統硬碟機的同時,還能消耗最少的電力,」Matson 預測道。「儲存架構將越來越多地與 GPU 高頻寬記憶體相輔相成,創造出專門的解決方案,而非通用裝置--這個趨勢將在未來十年加速發展。」
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






