選項
首頁
新聞
Pruna AI揭開開源AI模型優化框架

Pruna AI揭開開源AI模型優化框架

2025-04-10
178

Pruna AI,一家專注於開發 AI 模型壓縮演算法的歐洲新創公司,將於本週四以開源形式發布其優化框架。該公司一直在研發一個整合多種效率技術的框架,包括快取、剪枝、量化和蒸餾,以提升 AI 模型的性能。

Pruna AI 的共同創辦人兼技術長 John Rachwan 在接受 TechCrunch 採訪時表示,他們的框架不僅應用這些方法,還標準化了儲存、載入和評估壓縮模型的流程。這讓使用者能夠評估壓縮後的任何潛在品質損失以及性能提升。

Rachwan 將 Pruna AI 的角色比喻為 Hugging Face,後者標準化了變壓器和擴散器的使用。「我們在做同樣的事情,但針對效率方法,」他強調,專注於這些方法的應用和管理標準化。

主要 AI 實驗室已採用類似的壓縮技術。例如,OpenAI 使用蒸餾技術開發了其模型的更快版本,如 GPT-4 Turbo。同樣地,Black Forest Labs 創建了 Flux.1 的蒸餾版本 Flux.1-schnell。蒸餾涉及一種「教師-學生」方法,使用較大模型的輸出來訓練更小、更高效的模型。

Rachwan 指出,雖然大公司通常內部開發這些工具,但開源社群通常專注於單一方法。「但你找不到一個工具能整合所有方法,讓它們易於使用並結合在一起,」他說,強調 Pruna AI 的獨特價值主張。

從左到右:Rayan Nait Mazi、Bertrand Charpentier、John Rachwan、Stephan Günnemann 圖片來源:Pruna AI
雖然 Pruna AI 的框架支援廣泛的模型,包括大型語言模型、擴散模型、語音轉文字模型和電腦視覺模型,但該公司目前專注於圖像和影片生成模型。Pruna AI 的現有用戶包括 Scenario 和 PhotoRoom。

除了開源版本,Pruna AI 還提供企業版,具備進階優化功能,包括即將推出的壓縮代理。Rachwan 將此代理描述為一種工具,能根據使用者指定的性能和準確度要求,自動為模型找到最佳壓縮組合。

Pruna AI 的專業版按小時計費,類似於在 AWS 等雲端服務上租用 GPU。通過優化模型,使用者可以顯著降低推論成本。例如,Pruna AI 成功將一個 Llama 模型壓縮至原始大小的八分之一,品質損失極小,展示了潛在的成本節約。

該公司最近從包括 EQT Ventures、Daphni、Motier Ventures 和 Kima Ventures 在內的投資者獲得了 650 萬美元的種子輪融資。Pruna AI 將其壓縮框架視為一項策略投資,通過降低營運成本實現自我回報。

相關文章
WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能 WordPress.com 現已允許 AI 代理程式撰寫並發布文章,還有更多功能 廣受歡迎的網站託管與發佈平台 WordPress.com 現正積極導入 AI 代理程式——此舉可能重塑網路的樣貌與使用體驗。該公司於週五宣布,將允許 AI 代理程式在客戶網站上起草、編輯及發佈內容,同時也能管理留言、更新與修正元資料,並透過標籤和分類來整理內容。所有這些操作皆透過一個介面進行控制,網站擁有者只需使用自然語言指令說明其需求即可。憑藉這些新功能,網站幾乎可以完全由人工指導的 AI 代理
Anthropic 的實驗性 AI「Claude」在電子商務測試中完成了談判與交易 Anthropic 的實驗性 AI「Claude」在電子商務測試中完成了談判與交易 隨著人工智慧的快速發展,Anthropic 上週五悄悄推出了一項名為「Project Deal」的內部實驗,展現了人工智慧在電子商務領域的潛力。該實驗讓其人工智慧模型 Claude 在封閉的市場環境中自主處理買賣及價格協商,並涉及真實的金融交易。實驗的核心是一個建構於 Slack 平台上的內部市場,Claude 在其中同時擔任買方與賣方的談判代表。它首先訪談了 69 名員工,以收集他們的買賣意圖及
DeepSeek Code 即將推出 DeepSeek Code 即將推出 隨著人工智慧技術的加速發展,DeepSeek 正處於一個令人振奮的轉捩點。這家人工智慧公司最近透露,已獲得超過 700 億元的資金。管理層強調,公司致力於突破性的人工智慧研究,而非追求眼前的商業利益。這一戰略轉向表明 DeepSeek 將全力投入新產品的開發,尤其是眾人矚目的 DeepSeek Code。DeepSeek Code 的規劃已逐漸成形,該公司職缺頁面已發布數個相關職位,例如「Agen
相關專題推薦
商業 最佳 AI 支出追蹤工具:掃描收據並自動分類公司開支
最佳 AI 支出追蹤工具:掃描收據並自動分類公司開支

2026 年最新最佳 AI 報銷管理工具:備受好評的解決方案,可自動掃描收據並分類企業支出。探索強大且顛覆傳統的解決方案,助您輕鬆管理報銷、精準追蹤財務,並簡化合規流程。我們精心整理並每週更新的免費與付費方案比較指南,將協助您找到最合適的選擇。透過 XIX.AI 的專家精選,釋放您的 AI 優勢。

10 個工具
xix.ai
商業 最佳 AI 招聘工具:篩選履歷與自動化安排候選人面試
最佳 AI 招聘工具:篩選履歷與自動化安排候選人面試

在 XIX.AI 探索 2026 年最新且評價最高的 AI 招聘工具。我們精心挑選的清單收錄了強大且具顛覆性的解決方案,可協助篩選履歷並自動化安排候選人面試。透過實際測試與每週更新的排行榜,比較免費與付費選項。立即找到最適合您的招聘助手,並優化您的招聘流程!

10 個工具
xix.ai
生產率 AI 個人健康與專注力教練:管理倦怠感並提升精神能量
AI 個人健康與專注力教練:管理倦怠感並提升精神能量

立即在 XIX.AI 探索 2026 年最佳 AI 個人健康與專注力教練。我們精心策劃的排行榜收錄了備受好評、能帶來革命性改變的工具,助您管理倦怠感並提升精神能量。透過實際使用心得,比較免費與付費方案的差異。立即開啟通往巔峰生產力與身心健康的道路。

10 個工具
xix.ai
聊天機器人 最受好評的 AI 浪漫聊天機器人:透過一貫的個性建立長期關係
最受好評的 AI 浪漫聊天機器人:透過一貫的個性建立長期關係

探索 2026 年最新、評價最高的 AI 浪漫聊天機器人,助您建立真摯且長久的連結。我們精心整理的清單包含功能強大且性格鮮明的聊天機器人、免費與付費版本的比較,以及實際測試結果。立即前往 XIX.AI 尋找您的完美伴侶,並開始建立這段關係吧。

10 個工具
xix.ai
教育與學習 最佳AI資料科學導師:精通SQL、Pandas及機器學習工作流程
最佳AI資料科學導師:精通SQL、Pandas及機器學習工作流程

探索2026年最優秀的人工智慧資料科學導師,幫助他們掌握SQL、Pandas以及機器學習工作流程。在XIX.AI上檢視我們精心挑選的頂級導師名單,獲得強大而具有變革性的指導。透過對比免費和付費選項,並結合實際應用案例進行了解,今天就開啟你的資料科學精通之路吧。

10 個工具
xix.ai
聊天機器人 最佳 AI 調情與對話訓練工具:即時提升社交魅力與自信
最佳 AI 調情與對話訓練工具:即時提升社交魅力與自信

在 XIX.AI 探索 2026 年最頂尖的 AI 調情與對話訓練工具。我們精心挑選、評價最高的精選清單,能助您即時建立社交魅力與自信。探索這些必試且能徹底改變遊戲規則的工具,並透過免費與付費版本的比較,以及每週更新的排行榜,立即解鎖您的社交優勢。

10 個工具
xix.ai
評論 (32)
0/500
WilliamRoberts
WilliamRoberts 2026-03-10 06:00:37

开源这事儿挺有意思,我看Pruna AI这框架里集成了缓存、剪枝、量化这些技术,是不是真能大幅降低推理成本啊?有人试过吗?感觉现在AI模型优化都卷得不行了,期待周四看看代码质量怎么样。😄

WyattHill
WyattHill 2025-12-30 10:30:54

Finalmente algo open-source pra otimizar modelos grandes! A quantidade de técnicas que mencionaram (cache, poda, quantização) é impressionante. Vai ser interessante testar isso em alguns projetos que tenho em mente. Acho que isso pode ajudar muito desenvolvedores independentes como eu a ter acesso a modelos mais eficientes. Boa iniciativa da startup europeia! 👏

PaulRoberts
PaulRoberts 2025-04-25 12:04:39

O framework de código aberto da Pruna AI é uma bênção para nós entusiastas de AI DIY! É como ter uma faca suíça para otimizar modelos. Consegui reduzir meus modelos sem perder muita precisão, o que é incrível. O único problema? A documentação poderia ser mais detalhada. Ainda assim, mal posso esperar para ver o que mais eles vão lançar! 🚀

DouglasMitchell
DouglasMitchell 2025-04-25 01:25:23

El marco de código abierto de Pruna AI es un regalo para nosotros los entusiastas del AI DIY. ¡Es como tener un cuchillo suizo para optimizar modelos! He podido reducir mis modelos sin perder mucha precisión, lo cual es genial. El único inconveniente es que la documentación podría ser más completa. ¡Aun así, no puedo esperar a ver qué más sacan! 🚀

WillieMartinez
WillieMartinez 2025-04-20 09:20:47

Pruna AI's open-source framework sounds promising, but the setup was a bit of a headache. Once I got it running, the optimization really sped up my models. Just wish the documentation was clearer. Still, it's a solid tool for anyone looking to optimize AI models! 🤓

JamesLopez
JamesLopez 2025-04-19 06:46:00

Pruna AI's open-source framework is a godsend for us DIY AI enthusiasts! It's like having a Swiss Army knife for optimizing models. I've been able to shrink my models without losing much accuracy, which is just awesome. The only hiccup? The documentation could use a bit more love. Still, can't wait to see what else they roll out! 🚀

OR