Le PDG de DeepMind, filiale de Google, a laissé entendre que la sortie du grand modèle open source Gemma 4 était imminente. Cette nouvelle version comporterait un modèle de 120 milliards de paramètres utilisant l'architecture MoE, avec 15 milliards de paramètres actifs pour le traitement local et une longueur de contexte doublée. Les analystes y voient une manœuvre stratégique visant à contrer la domination chinoise dans le domaine de l'IA open source, tout en préservant les intérêts commerciaux fondamentaux de Google.