Databricks 前 AI 負責人旨在將能源成本降低 1000 倍

對AI下一次突破的不懈追求資助了大量雄心勃勃的計劃,然而,有一家初創公司正抓住這一機遇,從頭開始重構計算架構。
在Databricks前AI負責人Naveen Rao的領導下,Unconventional AI旨在大幅提高推理處理的能源效率。其核心創新是一種基於振盪器的新型計算機架構。
週四,該公司釋出了其首款AI模型Un0,這是一個影象生成工具,首次展示了其技術如何模擬傳統AI系統。在一份配套研究論文中,團隊解釋了他們如何利用這種新架構的軟體模擬,開發出一個功能齊全的影象生成模型,其效能可與最先進的擴散模型相媲美。
“這代表了新計算正規化的‘Hello World’,”Rao告訴TechCrunch。“預計未來一年這一領域將出現一些引人注目的進展。”
雖然Un0的輸出結果類似於Stable Diffusion或OpenAI的GPT Image 1等模型,但其區別在於底層機制。該模型依賴於基於振盪器的架構,這與為傳統計算和大型語言模型提供動力的晶片截然不同。儘管這種方法的好處錯綜複雜,但Rao預測它可將功耗降低多達1,000倍。
然而,許多必要的基礎設施仍在開發中。當前的Un0版本執行在Unconventional振盪器晶片的軟體模擬之上,並計劃很快釋出實際硬體的原理圖。長期願景是從零開始構建完整的推理堆疊,使Unconventional AI能夠提供與其他雲提供商類似的計算能力。
“我們正在構建一個以我們專有晶片為中心的新系統架構,”Rao解釋道。“AI模型將在此基礎設施上執行,網路介面處理傳入的提示和輸出的推理,同時僅消耗1/1000的電力。”
對於一家擁有不到50名員工的公司來說,這是一個極其雄心勃勃的目標。然而,鑑於AI擴張的巨大規模以及滿足推理需求所帶來的日益增長的成本,這種方法可能是少數能夠解決這一問題規模的方案之一。Rao將電力供應確定為未來AI增長的關鍵瓶頸,將Unconventional定位為少數幾個有能力解決這一限制的專案之一。
“由於能源限制,擴充套件AI非常困難,這很可能在未來幾年成為根本性限制。我們根本無法繞過它;最終,這將是一個受能源限制的挑戰,”他指出。
相關文章
Anthropic 推出 Claude Haiku 5.5,將小型模型成本降低 75%,並允許使用者調整推理強度
10月8日,Anthropic 推出了迄今為止最高效且能力最強的模型:Claude Haiku 5.5。作為 Anthropic 產品線中速度最快、能力最強的小型模型,它專為高頻、對成本敏感的應用場景而設計,例如文章摘要生成、內容分類、資料庫查詢、客戶支援回覆、瀏覽器自動化以及由大型 AI 代理委託的子任務。Haiku 5.5 採取了極具競爭力的定價策略,與上一代 Haiku 4.5 相比,平均運營成本降低了約 75%。對於請求量在 10 萬 token 以內的任務,輸入和輸出的成本分別僅為每
Claude 釋出首張完整紫外天空地圖,繪製出 1.19 億顆恆星的分佈圖
在 Anthropic 的大型語言模型 Claude 的強大協助下,天體物理學家們成功生成了歷史上首張完整的紫外全天地圖。這幅包含 1.19 億顆恆星的浩瀚星圖,主要由 Claude 利用先前的多波長天文資料完成,覆蓋了約三分之一的天空。這一突破填補了長達 50 年的歷史空白,這些空白主要是由紫外巡天望遠鏡刻意避開銀河系明亮區域所導致的。製作全天地圖是天文學研究中一項艱鉅且複雜的系統工程。人工智慧的參與顯著提高了效率,將曾經需要天體物理學家花費數週時間的繁瑣手動處理,轉變為 streamlin
AWS 與 NVIDIA 如何推動代理式人工智慧與物理人工智慧的發展
NVIDIA 執行長黃仁勳(圖片來源:Tomohiro Ohsumi/Getty Images)黃仁勳領導的 NVIDIA 與 AWS 擴大全球合作規模,部署 200 萬顆 GPU 以驅動新一代具代理能力與物理人工智慧的企業基礎設施AWS 與 NVIDIA 宣布大幅擴展雙方長期以來的戰略合作關係,以滿足全球對 AI 基礎設施日益激增的需求。隨著人工智慧建設持續推進,運算能力正逐漸成為全球擴張速度最
相關專題推薦
評論 (0)
0/500

對AI下一次突破的不懈追求資助了大量雄心勃勃的計劃,然而,有一家初創公司正抓住這一機遇,從頭開始重構計算架構。
在Databricks前AI負責人Naveen Rao的領導下,Unconventional AI旨在大幅提高推理處理的能源效率。其核心創新是一種基於振盪器的新型計算機架構。
週四,該公司釋出了其首款AI模型Un0,這是一個影象生成工具,首次展示了其技術如何模擬傳統AI系統。在一份配套研究論文中,團隊解釋了他們如何利用這種新架構的軟體模擬,開發出一個功能齊全的影象生成模型,其效能可與最先進的擴散模型相媲美。
“這代表了新計算正規化的‘Hello World’,”Rao告訴TechCrunch。“預計未來一年這一領域將出現一些引人注目的進展。”
雖然Un0的輸出結果類似於Stable Diffusion或OpenAI的GPT Image 1等模型,但其區別在於底層機制。該模型依賴於基於振盪器的架構,這與為傳統計算和大型語言模型提供動力的晶片截然不同。儘管這種方法的好處錯綜複雜,但Rao預測它可將功耗降低多達1,000倍。
然而,許多必要的基礎設施仍在開發中。當前的Un0版本執行在Unconventional振盪器晶片的軟體模擬之上,並計劃很快釋出實際硬體的原理圖。長期願景是從零開始構建完整的推理堆疊,使Unconventional AI能夠提供與其他雲提供商類似的計算能力。
“我們正在構建一個以我們專有晶片為中心的新系統架構,”Rao解釋道。“AI模型將在此基礎設施上執行,網路介面處理傳入的提示和輸出的推理,同時僅消耗1/1000的電力。”
對於一家擁有不到50名員工的公司來說,這是一個極其雄心勃勃的目標。然而,鑑於AI擴張的巨大規模以及滿足推理需求所帶來的日益增長的成本,這種方法可能是少數能夠解決這一問題規模的方案之一。Rao將電力供應確定為未來AI增長的關鍵瓶頸,將Unconventional定位為少數幾個有能力解決這一限制的專案之一。
“由於能源限制,擴充套件AI非常困難,這很可能在未來幾年成為根本性限制。我們根本無法繞過它;最終,這將是一個受能源限制的挑戰,”他指出。
Anthropic 推出 Claude Haiku 5.5,將小型模型成本降低 75%,並允許使用者調整推理強度
10月8日,Anthropic 推出了迄今為止最高效且能力最強的模型:Claude Haiku 5.5。作為 Anthropic 產品線中速度最快、能力最強的小型模型,它專為高頻、對成本敏感的應用場景而設計,例如文章摘要生成、內容分類、資料庫查詢、客戶支援回覆、瀏覽器自動化以及由大型 AI 代理委託的子任務。Haiku 5.5 採取了極具競爭力的定價策略,與上一代 Haiku 4.5 相比,平均運營成本降低了約 75%。對於請求量在 10 萬 token 以內的任務,輸入和輸出的成本分別僅為每
Claude 釋出首張完整紫外天空地圖,繪製出 1.19 億顆恆星的分佈圖
在 Anthropic 的大型語言模型 Claude 的強大協助下,天體物理學家們成功生成了歷史上首張完整的紫外全天地圖。這幅包含 1.19 億顆恆星的浩瀚星圖,主要由 Claude 利用先前的多波長天文資料完成,覆蓋了約三分之一的天空。這一突破填補了長達 50 年的歷史空白,這些空白主要是由紫外巡天望遠鏡刻意避開銀河系明亮區域所導致的。製作全天地圖是天文學研究中一項艱鉅且複雜的系統工程。人工智慧的參與顯著提高了效率,將曾經需要天體物理學家花費數週時間的繁瑣手動處理,轉變為 streamlin
AWS 與 NVIDIA 如何推動代理式人工智慧與物理人工智慧的發展
NVIDIA 執行長黃仁勳(圖片來源:Tomohiro Ohsumi/Getty Images)黃仁勳領導的 NVIDIA 與 AWS 擴大全球合作規模,部署 200 萬顆 GPU 以驅動新一代具代理能力與物理人工智慧的企業基礎設施AWS 與 NVIDIA 宣布大幅擴展雙方長期以來的戰略合作關係,以滿足全球對 AI 基礎設施日益激增的需求。隨著人工智慧建設持續推進,運算能力正逐漸成為全球擴張速度最





首頁






