Heim
Google und NVIDIA veröffentlichen „DiffusionGemma“ als Open-Source-Projekt und beschleunigen die Inferenz auf einer einzelnen Grafikkarte um das Vierfache
Am 10. Juni 2026 stellte Google „DiffusionGemma“ vor, ein experimentelles Open-Source-Sprachmodell, das mit dem traditionellen autoregressiven Paradigma bricht, bei dem Text Wort für Wort generiert wird. Es leistet Pionierarbeit bei der Nutzung von Diffusionsmechanismen aus der Bild-KI zur Textgenerierung, wobei es von zufälligem Rauschen ausgeht und iterativ verfeinert wird, um pro Schritt 256 Token-Blöcke parallel auszugeben.

Was die Hardware-Leistung angeht, ermöglichen die tiefgreifenden Optimierungen von NVIDIA, dass das Modell im Single-GPU-Einzelbenutzermodus fast viermal schneller läuft als vergleichbare traditionelle Modelle. Auf einer H100-GPU erreicht es Ausgabegeschwindigkeiten von bis zu 1.000 Token pro Sekunde für eine einzelne Anfrage, und selbst auf High-End-GPUs für Endverbraucher wie der RTX 5090 kann es 700 Token pro Sekunde überschreiten.
DiffusionGemma verfügt über 26 Milliarden Parameter und nutzt eine „Mixture-of-Experts“-Architektur (MoE), bei der pro Schritt nur 3,8 Milliarden Parameter aktiviert werden. Zwar bleiben die Qualität und Genauigkeit der Textgenerierung bei Standard-Benchmarks leicht hinter den traditionellen Modellen der Gemma-4-Serie zurück, doch überwindet ihr einzigartiges „Full-Block-Awareness“ die Beschränkung autoregressiver Modelle auf rückwärtsgerichtete Verarbeitung. Da sich alle Token während der Generierung gegenseitig referenzieren können, zeichnet es sich bei Aufgaben mit nichtlinearen und strukturierten Daten aus, wie beispielsweise Textvervollständigung, Code-Auffüllung, Sudoku-Lösung und Verarbeitung von Aminosäuresequenzen.

Die Modellgewichte sind nun auf Hugging Face unter der Apache-2.0-Lizenz als Open Source verfügbar und lassen sich nahtlos mit gängigen Inferenz-Frameworks wie vLLM und MLX nutzen. Diese Entwicklung beseitigt nicht nur Speicherbandbreitenbeschränkungen bei der GPU-Rechenleistung, sondern eröffnet auch einen neuen technischen Weg für zukünftige KI-Anwendungen im Bereich komplexer Logik und nichtlinearer Textgenerierung.
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)
Am 10. Juni 2026 stellte Google „DiffusionGemma“ vor, ein experimentelles Open-Source-Sprachmodell, das mit dem traditionellen autoregressiven Paradigma bricht, bei dem Text Wort für Wort generiert wird. Es leistet Pionierarbeit bei der Nutzung von Diffusionsmechanismen aus der Bild-KI zur Textgenerierung, wobei es von zufälligem Rauschen ausgeht und iterativ verfeinert wird, um pro Schritt 256 Token-Blöcke parallel auszugeben.

Was die Hardware-Leistung angeht, ermöglichen die tiefgreifenden Optimierungen von NVIDIA, dass das Modell im Single-GPU-Einzelbenutzermodus fast viermal schneller läuft als vergleichbare traditionelle Modelle. Auf einer H100-GPU erreicht es Ausgabegeschwindigkeiten von bis zu 1.000 Token pro Sekunde für eine einzelne Anfrage, und selbst auf High-End-GPUs für Endverbraucher wie der RTX 5090 kann es 700 Token pro Sekunde überschreiten.
DiffusionGemma verfügt über 26 Milliarden Parameter und nutzt eine „Mixture-of-Experts“-Architektur (MoE), bei der pro Schritt nur 3,8 Milliarden Parameter aktiviert werden. Zwar bleiben die Qualität und Genauigkeit der Textgenerierung bei Standard-Benchmarks leicht hinter den traditionellen Modellen der Gemma-4-Serie zurück, doch überwindet ihr einzigartiges „Full-Block-Awareness“ die Beschränkung autoregressiver Modelle auf rückwärtsgerichtete Verarbeitung. Da sich alle Token während der Generierung gegenseitig referenzieren können, zeichnet es sich bei Aufgaben mit nichtlinearen und strukturierten Daten aus, wie beispielsweise Textvervollständigung, Code-Auffüllung, Sudoku-Lösung und Verarbeitung von Aminosäuresequenzen.

Die Modellgewichte sind nun auf Hugging Face unter der Apache-2.0-Lizenz als Open Source verfügbar und lassen sich nahtlos mit gängigen Inferenz-Frameworks wie vLLM und MLX nutzen. Diese Entwicklung beseitigt nicht nur Speicherbandbreitenbeschränkungen bei der GPU-Rechenleistung, sondern eröffnet auch einen neuen technischen Weg für zukünftige KI-Anwendungen im Bereich komplexer Logik und nichtlinearer Textgenerierung.
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











