Gimlet Labs 解決人工智慧推理瓶頸的巧妙方案

斯坦福大學兼職教授兼成功創業公司創始人扎因·阿斯加爾為其旗下公司籌集到了8000萬美元的A輪融資資金,該公司採用極為巧妙的方式解決了人工智慧推理過程中的瓶頸問題。此輪融資由門洛風險投資領投。
這家名為Gimlet Labs的初創企業稱,它打造了首個也是目前唯一的“多晶片推理雲”——這類軟體能夠讓人工智慧任務同時在不同型別的硬體上執行,能夠將任務分配到傳統CPU、針對AI最佳化的GPU以及高記憶體系統之中。
“我們基本上會在任何可用的不同硬體上執行任務,”阿斯加爾對TechCrunch表示。
領投方門洛風險投資的蒂姆·塔利在一篇關於此次融資的部落格文章中寫道:“單個智慧體可能會串聯多個步驟,而每個步驟都需要不同的硬體:推理環節受計算能力限制,解碼環節受記憶體容量限制,工具呼叫則受網路傳輸速度限制。”
目前還沒有一款晶片能夠同時承擔所有這些功能,但隨著新硬體的推出以及舊GPU的重新利用,“多晶片叢集已經準備就緒——只是缺少讓它們正常執行的軟體層。”塔利認為Gimlet Labs正是提供了這樣的解決方案。
麥肯錫預計,如果繼續保持當前增加計算資源的趨勢,到2030年資料中心的支出規模可能接近7萬億美元。阿斯加爾表示,如今的各類應用僅會在15%到30%的時間內使用現有的硬體。
“另一種理解方式是:由於讓大量資源處於閒置狀態,你們正在浪費數千億美元的資源,”他說,“我們的目標基本上就是設法讓人工智慧任務的效率比現在高出10倍。”
於是他和他的聯合創始人——米歇爾·阮、奧米德·阿齊茲以及娜塔莉·塞裡諾——著手開發排程軟體,該軟體能夠將智慧體任務拆分,使其能夠在各類硬體上同時執行。
Gimlet Labs稱,在保持相同成本和能耗的前提下,該軟體能夠將人工智慧推理速度提升3倍到10倍。該公司還聲稱可以拆分底層模型,讓其在不同架構的硬體上執行,併為每一部分選擇最合適的晶片。
該公司目前已與晶片製造商NVIDIA、AMD、英特爾、ARM、Cerebras以及d-Matrix建立了合作關係。
Gimlet的產品以軟體形式或透過API提供給其自建的Gimlet Cloud平臺,並非面向普通的人工智慧應用開發者,而是針對規模最大的人工智慧模型實驗室和資料中心。
該公司於10月正式上市,據稱開業之初就已獲得了八位數的營收(至少1000萬美元)。阿斯加爾表示,在過去四個月裡,他的客戶數量增長了一倍多,目前包括一家大型模型製造商以及一家規模極大的雲端計算公司,但他拒絕透露這些公司的名稱。
這些聯合創始人此前曾在Pixie這家初創企業共事過,該公司曾開發用於Kubernetes的開源可觀測性工具。Pixie在2020年被New Relic收購,而它在獲得由Benchmark領投的900萬美元A輪融資僅兩個月後就完成了被收購。(Pixie的技術現已成為負責管理Kubernetes的開源組織的一部分。)
大約一年前,阿斯加爾偶然遇到了塔利,同時還獲得了斯坦福大學教授們以及天使投資者的投資,此後風險投資機構開始紛紛聯絡他。公司上市後,一份融資條款清單便送到了阿斯加爾的桌上。他說,當風險投資機構得知他在考慮各種融資提議後,“大量資金湧了進來”,這輪融資很快就出現了超額認購的情況。
加上之前的種子輪融資,這家初創企業目前總共籌集到了9200萬美元的資金,其中包括來自紅杉資本的比爾·科夫蘭、斯坦福大學教授尼克·麥基翁、VMware前執行長拉古·拉古拉姆以及英特爾CEO林普-布·坦等眾多天使投資者的投資。該公司目前擁有30名員工。
其他投資者還包括曾領投其種子輪融資的Factory、Eclipse Ventures、Prosperity7以及英特爾資本。
相關文章
如何改善「核心網路指標」以提升 SEO 排名
透過 AI 驅動的字幕功能,徹底改變您的影片剪輯工作流程目錄:簡介自動轉錄的關鍵優勢確保準確性並優化輸出結果善用字幕中的搜尋功能無縫匯入現有檔案Transcript.com 介紹透過 Transcript.com 輕鬆編輯靈活的匯出格式全面的語言支援結論簡介Transcripted 是一款運用人工智慧生成自動轉錄文字的 Premiere 外掛程式。本指南將深入探討其核心功能,包括高準確度、進階搜尋
DingTalk 運用阿里AI的 MuleRun 重構架構,邁入全代理時代
丁談新任執行長暨悟空事業群負責人陳宇森,於今日下午發布的內部備忘錄中,揭露了一項重大的組織重整計畫。透過成立「核心平台事業部」並全面整合 AI 代理團隊,丁談正加速推動其企業協作生態系統的智慧轉型。此次重組的核心在於將 AI 技術深度整合至核心業務運作中。DingTalk 已正式將「悟空」與「MuleRun」團隊合併,組成統一的「悟空」團隊,現由前 MuleRun 首席技術長舒俊良領導。 Mule
如何改善「核心網站關鍵指標」以提升 SEO 排名
家樂福如何運用生成式人工智慧轉型零售業引言海倫·拉博姆:從法律界到電商領導者家樂福:全球零售巨擘家樂福的數位轉型家樂福的生成式人工智慧策略家樂福生成式人工智慧的實際應用案例研究 1:Opla——重新定義客戶支援案例研究 2:Marketing Studio——以 AI 驅動的行銷活動創作案例研究 3:自動化產品內容豐富化挑戰與限制未來展望 優點展望與擴展策略結論作為全球最大的零售商之一,家樂福已將
相關專題推薦
評論 (0)
0/500

斯坦福大學兼職教授兼成功創業公司創始人扎因·阿斯加爾為其旗下公司籌集到了8000萬美元的A輪融資資金,該公司採用極為巧妙的方式解決了人工智慧推理過程中的瓶頸問題。此輪融資由門洛風險投資領投。
這家名為Gimlet Labs的初創企業稱,它打造了首個也是目前唯一的“多晶片推理雲”——這類軟體能夠讓人工智慧任務同時在不同型別的硬體上執行,能夠將任務分配到傳統CPU、針對AI最佳化的GPU以及高記憶體系統之中。
“我們基本上會在任何可用的不同硬體上執行任務,”阿斯加爾對TechCrunch表示。
領投方門洛風險投資的蒂姆·塔利在一篇關於此次融資的部落格文章中寫道:“單個智慧體可能會串聯多個步驟,而每個步驟都需要不同的硬體:推理環節受計算能力限制,解碼環節受記憶體容量限制,工具呼叫則受網路傳輸速度限制。”
目前還沒有一款晶片能夠同時承擔所有這些功能,但隨著新硬體的推出以及舊GPU的重新利用,“多晶片叢集已經準備就緒——只是缺少讓它們正常執行的軟體層。”塔利認為Gimlet Labs正是提供了這樣的解決方案。
麥肯錫預計,如果繼續保持當前增加計算資源的趨勢,到2030年資料中心的支出規模可能接近7萬億美元。阿斯加爾表示,如今的各類應用僅會在15%到30%的時間內使用現有的硬體。
“另一種理解方式是:由於讓大量資源處於閒置狀態,你們正在浪費數千億美元的資源,”他說,“我們的目標基本上就是設法讓人工智慧任務的效率比現在高出10倍。”
於是他和他的聯合創始人——米歇爾·阮、奧米德·阿齊茲以及娜塔莉·塞裡諾——著手開發排程軟體,該軟體能夠將智慧體任務拆分,使其能夠在各類硬體上同時執行。
Gimlet Labs稱,在保持相同成本和能耗的前提下,該軟體能夠將人工智慧推理速度提升3倍到10倍。該公司還聲稱可以拆分底層模型,讓其在不同架構的硬體上執行,併為每一部分選擇最合適的晶片。
該公司目前已與晶片製造商NVIDIA、AMD、英特爾、ARM、Cerebras以及d-Matrix建立了合作關係。
Gimlet的產品以軟體形式或透過API提供給其自建的Gimlet Cloud平臺,並非面向普通的人工智慧應用開發者,而是針對規模最大的人工智慧模型實驗室和資料中心。
該公司於10月正式上市,據稱開業之初就已獲得了八位數的營收(至少1000萬美元)。阿斯加爾表示,在過去四個月裡,他的客戶數量增長了一倍多,目前包括一家大型模型製造商以及一家規模極大的雲端計算公司,但他拒絕透露這些公司的名稱。
這些聯合創始人此前曾在Pixie這家初創企業共事過,該公司曾開發用於Kubernetes的開源可觀測性工具。Pixie在2020年被New Relic收購,而它在獲得由Benchmark領投的900萬美元A輪融資僅兩個月後就完成了被收購。(Pixie的技術現已成為負責管理Kubernetes的開源組織的一部分。)
大約一年前,阿斯加爾偶然遇到了塔利,同時還獲得了斯坦福大學教授們以及天使投資者的投資,此後風險投資機構開始紛紛聯絡他。公司上市後,一份融資條款清單便送到了阿斯加爾的桌上。他說,當風險投資機構得知他在考慮各種融資提議後,“大量資金湧了進來”,這輪融資很快就出現了超額認購的情況。
加上之前的種子輪融資,這家初創企業目前總共籌集到了9200萬美元的資金,其中包括來自紅杉資本的比爾·科夫蘭、斯坦福大學教授尼克·麥基翁、VMware前執行長拉古·拉古拉姆以及英特爾CEO林普-布·坦等眾多天使投資者的投資。該公司目前擁有30名員工。
其他投資者還包括曾領投其種子輪融資的Factory、Eclipse Ventures、Prosperity7以及英特爾資本。
如何改善「核心網路指標」以提升 SEO 排名
透過 AI 驅動的字幕功能,徹底改變您的影片剪輯工作流程目錄:簡介自動轉錄的關鍵優勢確保準確性並優化輸出結果善用字幕中的搜尋功能無縫匯入現有檔案Transcript.com 介紹透過 Transcript.com 輕鬆編輯靈活的匯出格式全面的語言支援結論簡介Transcripted 是一款運用人工智慧生成自動轉錄文字的 Premiere 外掛程式。本指南將深入探討其核心功能,包括高準確度、進階搜尋
DingTalk 運用阿里AI的 MuleRun 重構架構,邁入全代理時代
丁談新任執行長暨悟空事業群負責人陳宇森,於今日下午發布的內部備忘錄中,揭露了一項重大的組織重整計畫。透過成立「核心平台事業部」並全面整合 AI 代理團隊,丁談正加速推動其企業協作生態系統的智慧轉型。此次重組的核心在於將 AI 技術深度整合至核心業務運作中。DingTalk 已正式將「悟空」與「MuleRun」團隊合併,組成統一的「悟空」團隊,現由前 MuleRun 首席技術長舒俊良領導。 Mule
如何改善「核心網站關鍵指標」以提升 SEO 排名
家樂福如何運用生成式人工智慧轉型零售業引言海倫·拉博姆:從法律界到電商領導者家樂福:全球零售巨擘家樂福的數位轉型家樂福的生成式人工智慧策略家樂福生成式人工智慧的實際應用案例研究 1:Opla——重新定義客戶支援案例研究 2:Marketing Studio——以 AI 驅動的行銷活動創作案例研究 3:自動化產品內容豐富化挑戰與限制未來展望 優點展望與擴展策略結論作為全球最大的零售商之一,家樂福已將





首頁






