Heim
Google Gemma4 erreicht Dreifache Geschwindigkeit – ein Zeichen für den wahren Auftritt großer Offline-Modelle

Nur wenige Wochen nachdem Google im Bereich der Open-Source-Modelle für Aufsehen gesorgt hatte, hat das Unternehmen sein stärkstes Open-Source-Modell, Gemma4, erneut deutlich verbessert. Am 5. Mai Ortszeit stellte Google offiziell einen Entwurfsgenerator für die Multi-Token Prediction (MTP) für die Gemma4-Serie vor. Diese technologische Neuheit nutzt eine spekulative Dekodierarchitektur, um die Rechengeschwindigkeit des Modells bis zu dreimal zu erhöhen, ohne die Ausgabek Qualität oder die logischen Fähigkeiten zu beeinträchtigen.
Als eines der weltweit am weitesten verbreiteten Open-Source-Modelle hat Gemma4 seit seiner Veröffentlichung bereits über 60 Millionen Mal heruntergeladen werden. Das Hauptziel dieser Aktualisierung besteht darin, das anhaltende Rechenproblem in großen Sprachmodellen zu lösen und die Recheneffizienz weiter zu optimieren.
Technische Einzelheiten: Die Erreichung von „Voraussicht“ bei der Beschleunigung des Rechnens
Die traditionelle Rechenlogik von Sprachmodellen ist oft durch den Speicherverbrauch eingeschränkt. Einfach ausgedrückt: Wenn der Prozessor Text erzeugt, benötigt das Verschieben von Hunderten von Milliarden Parametern vom Speicher in die Recheneinheit viel Zeit. Diese Datenübertragungsgeschwindigkeit ist deutlich langsamer als die Rechenleistung, wodurch Hardwareressourcen größtenteils ungenutzt bleiben und zu erheblichen Reaktionsverzögerungen führen.
Um dieses Problem zu lösen, führte Google die spekulative Dekodierung ein. Ihr Prinzip lässt sich als „Master-Slave“-Konfiguration verstehen: Das System kombiniert leistungsstarke Zielmodelle wie Gemma 4 31B mit leichten MTP-Entwurfsgeneratoren. Der Entwurfsgenerator nutzt ungenutzte Rechenressourcen, um mehrere bevorstehende Token im Voraus vorherzusagen, während das leistungsstärkere Hauptmodell die Ergebnisse parallel überprüft. Wenn die Vorhersagen übereinstimmen, kann das Modell die gesamte Sequenz in einem einzigen Rechenvorgang bestätigen, wodurch die Zeit zur Texterzeugung erheblich verkürzt wird.
Testergebnisse: Apple Silicon und Verbraucher-Grafikkarten zeigen deutliche Verbesserungen
Laut offiziellen Testdaten ist der Beschleunigungseffekt insbesondere auf lokalen Geräten auffällig. In Umgebungen mit Apple Silicon stieg die lokale Rechengeschwindigkeit des Gemma 4 26B-Modells bei Batchgrößen zwischen 4 und 8 um etwa das 2,2-fache.
Das bedeutet, dass Entwickler nun komplexe Offline-Programmierassistenten oder intelligente Agentenworkflows auf persönlichen Computern und Standardverbraucher-Grafikkarten reibungsloser ausführen können. Zudem hat die verbesserte Rechenleistung auch den Stromverbrauch an Edge-Geräten deutlich verringert, was die breitere Einführung von mobilen KI-Lösungen ermöglicht.
Die Grenzen der KI-Anwendungen erweitern sich weiter
Diese technische Aktualisierung richtet sich in erster Linie an Szenarien mit strengen Anforderungen an niedrige Reaktionszeiten, wie Echtzeit-Chatbots, automatisierte Programmierwerkzeuge und verschiedene autonome Agenten. Mit dem MTP-Entwurfsgenerator hat Google gezeigt, dass auch in ressourcenbeschränkten Hardwareumgebungen Entwickler state-of-the-art-Sprachmodelle einsetzen können, ohne auf Reaktionsgeschwindigkeit oder Rechengenauigkeit zu verzichten.
Da die Kosten und Barrieren für die Datenverarbeitung weiter sinken, treibt die Weiterentwicklung von Gemma4 und seinen unterstützenden Technologien die KI von der Cloud in eine breitere Palette persönlicher Rechengeräte.
Verwandter Artikel
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter
Einhaltung der Vorschriften für autonome Fahrzeuge in Kalifornien: Eine neue Ära von Bußgeldern, Geofences und 1 Million Meilen
Guident betreibt einen AuveTech-Shuttle in Südflorida und verwaltet mithilfe seiner Fernüberwachungstechnologie eine vier Meilen lange Strecke in West Palm Beach sowie eine eine Meile lange Strecke in
Empfehlungen zu verwandten Spezialthemen
Kommentare (0)

Nur wenige Wochen nachdem Google im Bereich der Open-Source-Modelle für Aufsehen gesorgt hatte, hat das Unternehmen sein stärkstes Open-Source-Modell, Gemma4, erneut deutlich verbessert. Am 5. Mai Ortszeit stellte Google offiziell einen Entwurfsgenerator für die Multi-Token Prediction (MTP) für die Gemma4-Serie vor. Diese technologische Neuheit nutzt eine spekulative Dekodierarchitektur, um die Rechengeschwindigkeit des Modells bis zu dreimal zu erhöhen, ohne die Ausgabek Qualität oder die logischen Fähigkeiten zu beeinträchtigen.
Als eines der weltweit am weitesten verbreiteten Open-Source-Modelle hat Gemma4 seit seiner Veröffentlichung bereits über 60 Millionen Mal heruntergeladen werden. Das Hauptziel dieser Aktualisierung besteht darin, das anhaltende Rechenproblem in großen Sprachmodellen zu lösen und die Recheneffizienz weiter zu optimieren.
Technische Einzelheiten: Die Erreichung von „Voraussicht“ bei der Beschleunigung des Rechnens
Die traditionelle Rechenlogik von Sprachmodellen ist oft durch den Speicherverbrauch eingeschränkt. Einfach ausgedrückt: Wenn der Prozessor Text erzeugt, benötigt das Verschieben von Hunderten von Milliarden Parametern vom Speicher in die Recheneinheit viel Zeit. Diese Datenübertragungsgeschwindigkeit ist deutlich langsamer als die Rechenleistung, wodurch Hardwareressourcen größtenteils ungenutzt bleiben und zu erheblichen Reaktionsverzögerungen führen.
Um dieses Problem zu lösen, führte Google die spekulative Dekodierung ein. Ihr Prinzip lässt sich als „Master-Slave“-Konfiguration verstehen: Das System kombiniert leistungsstarke Zielmodelle wie Gemma 4 31B mit leichten MTP-Entwurfsgeneratoren. Der Entwurfsgenerator nutzt ungenutzte Rechenressourcen, um mehrere bevorstehende Token im Voraus vorherzusagen, während das leistungsstärkere Hauptmodell die Ergebnisse parallel überprüft. Wenn die Vorhersagen übereinstimmen, kann das Modell die gesamte Sequenz in einem einzigen Rechenvorgang bestätigen, wodurch die Zeit zur Texterzeugung erheblich verkürzt wird.
Testergebnisse: Apple Silicon und Verbraucher-Grafikkarten zeigen deutliche Verbesserungen
Laut offiziellen Testdaten ist der Beschleunigungseffekt insbesondere auf lokalen Geräten auffällig. In Umgebungen mit Apple Silicon stieg die lokale Rechengeschwindigkeit des Gemma 4 26B-Modells bei Batchgrößen zwischen 4 und 8 um etwa das 2,2-fache.
Das bedeutet, dass Entwickler nun komplexe Offline-Programmierassistenten oder intelligente Agentenworkflows auf persönlichen Computern und Standardverbraucher-Grafikkarten reibungsloser ausführen können. Zudem hat die verbesserte Rechenleistung auch den Stromverbrauch an Edge-Geräten deutlich verringert, was die breitere Einführung von mobilen KI-Lösungen ermöglicht.
Die Grenzen der KI-Anwendungen erweitern sich weiter
Diese technische Aktualisierung richtet sich in erster Linie an Szenarien mit strengen Anforderungen an niedrige Reaktionszeiten, wie Echtzeit-Chatbots, automatisierte Programmierwerkzeuge und verschiedene autonome Agenten. Mit dem MTP-Entwurfsgenerator hat Google gezeigt, dass auch in ressourcenbeschränkten Hardwareumgebungen Entwickler state-of-the-art-Sprachmodelle einsetzen können, ohne auf Reaktionsgeschwindigkeit oder Rechengenauigkeit zu verzichten.
Da die Kosten und Barrieren für die Datenverarbeitung weiter sinken, treibt die Weiterentwicklung von Gemma4 und seinen unterstützenden Technologien die KI von der Cloud in eine breitere Palette persönlicher Rechengeräte.
DeepMind-CEO Hassabis: Ich schlafe sechs Stunden pro Tag und fühle mich normalerweise gegen 1 Uhr nachts energiegeladen.
Fortune hat kürzlich ein Interview mit Demis Hassabis, dem CEO von Google DeepMind, veröffentlicht, das seinen unkonventionellen Ansatz zu Erholung und Produktivität offenbart. Hassabis gab bekannt, dass er sehr wenig schläft und seine wachen Stunden
OpenAI und Anthropic kämpfen trotz Umsatzrückgängen um Marktanteile
Obwohl jüngste Berichte darauf hindeuten, dass OpenAI seine Umsatzziele verfehlt hat, was an diesem Dienstag Druck auf die Technologieaktien ausübte, zeigen sich private Investoren in KI-Labore weiter











