Google 與 NVIDIA 將 DiffusionGemma 開源,使單張顯卡的推論速度提升 4 倍
2026年6月10日,Google 推出了 DiffusionGemma,這是一款實驗性的開源語言模型,它擺脫了傳統的自迴歸範式——即一次僅生成一個單字的文本生成方式。 該模型首創將圖像 AI 中的擴散機制應用於文字生成,從隨機噪聲出發,並透過迭代精煉,每一步可並行輸出 256 個標記區塊。

在硬體效能方面,得益於 NVIDIA 的深度優化,該模型在單 GPU 單使用者模式下的運行速度,比同級傳統模型快近四倍。 在 H100 GPU 上,單次請求的輸出速度可達每秒 1,000 個標記;即使在 RTX 5090 等高階消費級 GPU 上,其輸出速度也能超過每秒 700 個標記。
DiffusionGemma 擁有 260 億個參數,並採用專家混合 (MoE) 架構,每一步僅激活 38 億個參數。 雖然在標準基準測試中,其文字生成品質與準確度略遜於傳統的 Gemma4 系列模型,但其獨特的「全區塊感知」能力克服了自迴歸模型僅能向後推導的限制。 由於在生成過程中所有標記皆可相互參照,該模型在涉及非線性與結構化資料的任務上表現卓越,例如文本補全、程式碼填空、數獨解題以及胺基酸序列處理。

該模型的權重現已根據 Apache 2.0 授權在 Hugging Face 上開源,並能與 vLLM 和 MLX 等主流推論框架無縫整合。這項探索不僅消除了 GPU 運算能力在記憶體頻寬方面的限制,更為未來人工智慧在複雜邏輯與非線性文本生成領域的應用開闢了一條嶄新的技術道路。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500
2026年6月10日,Google 推出了 DiffusionGemma,這是一款實驗性的開源語言模型,它擺脫了傳統的自迴歸範式——即一次僅生成一個單字的文本生成方式。 該模型首創將圖像 AI 中的擴散機制應用於文字生成,從隨機噪聲出發,並透過迭代精煉,每一步可並行輸出 256 個標記區塊。

在硬體效能方面,得益於 NVIDIA 的深度優化,該模型在單 GPU 單使用者模式下的運行速度,比同級傳統模型快近四倍。 在 H100 GPU 上,單次請求的輸出速度可達每秒 1,000 個標記;即使在 RTX 5090 等高階消費級 GPU 上,其輸出速度也能超過每秒 700 個標記。
DiffusionGemma 擁有 260 億個參數,並採用專家混合 (MoE) 架構,每一步僅激活 38 億個參數。 雖然在標準基準測試中,其文字生成品質與準確度略遜於傳統的 Gemma4 系列模型,但其獨特的「全區塊感知」能力克服了自迴歸模型僅能向後推導的限制。 由於在生成過程中所有標記皆可相互參照,該模型在涉及非線性與結構化資料的任務上表現卓越,例如文本補全、程式碼填空、數獨解題以及胺基酸序列處理。

該模型的權重現已根據 Apache 2.0 授權在 Hugging Face 上開源,並能與 vLLM 和 MLX 等主流推論框架無縫整合。這項探索不僅消除了 GPU 運算能力在記憶體頻寬方面的限制,更為未來人工智慧在複雜邏輯與非線性文本生成領域的應用開闢了一條嶄新的技術道路。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






