Google stellte am 26. März 2026 die KI-Speicherkomprimierungstechnologie „TurboQuant“ vor. Sie reduziert den KV-Cache-Speicherbedarf auf ein Sechstel, ohne dass dabei Genauigkeitseinbußen entstehen, und steigert die Inferenzgeschwindigkeit auf H100-GPUs um das Achtfache. Die Technologie nutzt eine 3-Bit-Komprimierung ohne Vortraining und behält dabei in Tests mit langen Kontexten die volle Leistungsfähigkeit bei.