選項
首頁
新聞
針對消費性 PC 和筆記型電腦推出 Qwen 2.5-Omni-3B AI 機型

針對消費性 PC 和筆記型電腦推出 Qwen 2.5-Omni-3B AI 機型

2025-11-10
240

針對消費性 PC 和筆記型電腦推出 Qwen 2.5-Omni-3B AI 機型

中國電子商務和雲領導者阿里巴巴繼續以其最新的創新成果挑戰全球的人工智能開發者。在推出先進的開源 Qwen3 大型推理模型系列後不久,Qwen 團隊又推出了 Qwen2.5-Omni-3B--一個針對消費級硬體進行優化的精簡型多模態模型,同時在文字、音訊、圖像和視頻處理方面保持強大的性能。

Qwen2.5-Omni-3B 是旗艦級 70 億參數模型的 30 億參數迭代。參數定義了模型的操作複雜性,而更高的參數通常能夠實現更大的功能。儘管規模縮小了,這個精簡版本仍保留了前代版本 90% 以上的多模態效能,同時提供即時文字和自然語音生成功能。

關鍵的改進在於 GPU 記憶體最佳化。據開發團隊報告,在處理 25,000 個字元的擴展輸入時,VRAM 消耗量減少了 50%。透過技術改進,記憶體需求從 60.2 GB (7B 機型) 降至 28.2 GB (3B 機型),可在高級消費性裝置的 24GB GPU 而非企業級硬體上運作。

這樣的效率來自創新的架構元素,包括 Thinker-Talker 框架和客製化 TMRoPE 定位編碼,可同步處理視訊和音訊。目前的授權僅限於研究應用,企業需要從阿里巴巴的 Qwen Team 獲得額外許可才能進行商業實施。

該版本滿足了市場對可部署的多模態解決方案日益增長的需求,其性能指標可媲美大型機型。可透過以下方式存取:

  • 抱抱臉
  • GitHub
  • 模型範圍

整合選項包括 Hugging Face Transformers、Docker containers 和阿里巴巴的 vLLM 平台,並可選用 FlashAttention 2 和 BF16 精度等增強功能,以加速效能並降低記憶體開銷。

基準效能比較

任務Qwen2.5-Omni-3BQwen2.5-Omni-7B
OmniBench (多模式推理)52.256.1
VideoBench (音訊理解)68.874.1
MMMU (影像推理)53.159.2
MVBench (視訊推理)68.770.3
Seed-tts-eval test-hard(語音生成)92.193.5

視聽任務的效能差異極小,強調了 3B 模型的設計效率,對於需要高品質輸出的即時應用程式而言尤其寶貴。

即時多模式功能

Qwen2.5-Omni-3B 可處理同步的多模態輸入,同時產生即時的文字和音訊回應。該機型整合了語音個人化功能,提供兩種預設選項-Chelsie (女性) 和 Ethan (男性),可適用於不同的使用情況。使用者可選擇語音或純文字輸出,並可選擇關閉語音以進一步節省記憶體。

社群發展

Qwen 團隊透過全面的工具包、預先訓練的檢查點、API 可訪問性和部署文件,提倡開放源碼合作。Qwen2.5-Omni 系列已獲得顯著的吸引力,在 Hugging Face 的趨勢模型排名中名列前茅。團隊成員林俊陽在 X 上指出:「雖然許多用戶要求部署精簡的 Omni 模型,但我們正是提供了這樣的產品。

企業影響

對於監督 AI 開發與基礎架構的技術領導者而言,Qwen2.5-Omni-3B 同時帶來了機會與限制。Qwen2.5-Omni-3B 在消費性硬體上的效能可媲美大型機型,這顯示了實際的部署潛力,但授權限制也需要謹慎考量。

根據阿里巴巴雲的 Qwen 研究授權協議,該模型僅限於非商業應用。機構可以為內部研究進行評估、基準測試和改良,但如果沒有獲得商業許可,則不能在面向客戶或創收的系統中實施。

因此,Qwen2.5-Omni-3B 主要定位為原型與評估工具,而非生產解決方案。IT 團隊可以利用它在研究參數範圍內進行管道開發、工具改進和架構評估。資料工程師和安全專業人員可探索其功能,以進行內部驗證,但使用敏感資料進行生產部署需要符合授權規定。

最終,該模型降低了多模式 AI 實驗的技術障礙,同時維持了商業限制。它可作為企業權衡建立與購買決策的策略評估資源,但生產部署需要正式參與阿里巴巴的授權框架。

相關文章
小鵬汽車旗下的 Dogotix 成功募得 9 億美元資金 小鵬汽車旗下的 Dogotix 成功募得 9 億美元資金 小鵬汽車旗下的 Dogotix 部門正在研發「IRON」人形機器人。來源:小鵬汽車效法其他全球主要汽車製造商的做法,小鵬汽車正將業務拓展至人形機器人領域。 這家電動車製造商今日宣布,其機器人子公司 Dogotix 已在首輪融資中籌得逾 9 億美元,融資前估值達 50 億美元,交易後估值更超過 63 億美元。據小鵬汽車表示,這筆資金將用於推進硬體與軟體開發、蒐集營運數據、訓練物理人工智慧模型、建立量
三位人工智慧先驅在安全擔憂日益加劇之際,主張保持大型模型的開放性 三位人工智慧先驅在安全擔憂日益加劇之際,主張保持大型模型的開放性 諸如“前沿節奏”(Pacing the Frontier)之類的倡議旨在透過與主要實驗室合作來確保人工智慧安全,然而開源模型在行業內仍是一個充滿爭議的話題。由於其免費分發且缺乏使用控制,開源權重模型難以監管,導致一些機構對此感到高度擔憂。然而,在上週於拉斯維加斯舉行的 Ai4 會議上,三位著名的人工智慧專家——諾貝爾獎得主傑弗裡·辛頓(Geoffrey Hinton)、World Labs 執行長兼聯合創始人李飛飛(Fei-Fei Li)以及 Coursera 聯合創始人吳恩達(Andre
Base44 推出專有 AI 模型,以增強其 Vibe Coding 平臺的安全性 Base44 推出專有 AI 模型,以增強其 Vibe Coding 平臺的安全性 Base44,這個一年前僅成立六個月、團隊規模僅為八人的初創公司,被Wix以8000萬美元收購,如今已開始部署其專有AI模型,幫助使用者使用自然語言構建應用程式。這一進展正值AI社羣爭論前沿模型是否適用於所有用例,以及依賴外部模型的企業能否保持長期競爭優勢之時。總部位於灣區的Base44的最新戰略旨在解決這兩方面的擔憂。儘管其定製大語言模型(LLM)剛剛推出,Base44的目標是最終超越前沿模型。創始人Maor Shlomo指出,“作為我們整個技術棧的一部分來訓練並擁有該模型,使我們能夠在延遲
相關專題推薦
聊天機器人 最適合面試練習的 AI 對話訓練工具
最適合面試練習的 AI 對話訓練工具

2026 年最新、最受好評的 AI 面試對話訓練工具,盡在 XIX.AI!這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具,這些工具均經過嚴格的實戰測試,能提供精準的回饋。 您將在此找到免費版與付費版的比較分析,以及詳細的排名榜單,助您挑選必試的選項,從而提升自信與技能。立即探索,發掘助您在面試中脫穎而出的完美工具!

12 個工具
xix.ai
設計與藝術 最適合進行創意實驗的 AI 風格轉移工具
最適合進行創意實驗的 AI 風格轉移工具

2026 年最新、最佳且評價最高的 AI 風格轉移工具,助您進行創意實驗!XIX.AI 精心精選了一系列強大且具革命性的必試工具,這些工具經實際測試與嚴格評比,能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性,協助創作者顯著提升生產力。 立即探索,找出最適合您的工具,並從今天開始創作吧!

9 個工具
xix.ai
漫畫創作 最適合視覺敘事的 AI 對話氣泡工具
最適合視覺敘事的 AI 對話氣泡工具

2026 年最新、最受好評的視覺敘事 AI 對話氣泡工具,現已登陸 XIX.AI!這份精心挑選的合集收錄了強大且具顛覆性的工具,能協助創作者提升生產力並突破創作瓶頸。 查看免費版與付費版的比較、參考實際測試結果,並查閱最新排行榜,找出最適合打造引人入勝視覺敘事的必試解決方案。立即探索,發掘您的理想工具!

10 個工具
xix.ai
會議助理 頂尖 AI 會議摘要工具:清晰追蹤決策與後續行動
頂尖 AI 會議摘要工具:清晰追蹤決策與後續行動

2026 年最新高評價最佳 AI 會議摘要工具,助您清晰追蹤決策並輕鬆進行後續跟進。這份精選清單展示了一系列強大且具顛覆性的解決方案,透過自動化會議記錄、識別關鍵行動項目,以及簡化所有專案的團隊協作,大幅提升生產力。 獲取免費版與付費版的比較分析,搭配實際測試報告及每週更新的排行榜,助您找到最合適的工具。立即探索,釋放您的 AI 優勢!

9 個工具
xix.ai
數據分析 最佳人工智慧資料清洗工具:快速處理缺失值與重複資料
最佳人工智慧資料清洗工具:快速處理缺失值與重複資料

2026年最新、最優秀且評分最高的AI資料清洗工具,可快速處理缺失值與重複資料問題。這份精心挑選的清單展示了那些功能強大、能帶來顛覆性變革的解決方案,可顯著提升工作效率。所有候選工具都經過了嚴格的實際應用測試,以確保其穩定性。您可以獲取免費版與付費版的對比資訊,找出最符合您需求的必備工具。即刻訪問XIX.AI,開啟您的AI優勢之旅。

11 個工具
xix.ai
設計與藝術 最佳AI創意構思工具,助力藝術家突破視覺瓶頸
最佳AI創意構思工具,助力藝術家突破視覺瓶頸

2026 年最新最佳頂級評分 AI 創意構思工具由 XIX.AI 精心策劃,旨在幫助創作者突破視覺瓶頸並即時提升創造力。這些強大的變革性工具提供真實世界測試、詳細的免費與付費對比以及每週更新的排名。發現您的完美工具,加速內容創作,並立即釋放您的 AI 優勢。立即探索!

14 個工具
xix.ai
評論 (2)
0/500
KevinJohnson
KevinJohnson 2026-06-08 04:00:09

Finally, a model that can run on my laptop without setting my room on fire... 🔥 but seriously, 3B params for local AI? That's cool but will it outrun my fan noise? 😂

JuanEvans
JuanEvans 2026-05-25 02:00:13

Interesting to see Alibaba pushing AI onto consumer PCs. Makes me wonder if this will finally make local AI assistants actually useful, or just eat up my RAM while trying to order me takeout. The 'Omni' part sounds ambitious!

OR