Google enthüllt neue Kubernetes- und GKE -Verbesserungen für die KI -Innovation

Googles Vorstoß in die KI ist kein Geheimnis, und das aus gutem Grund. Wie CEO Sundar Pichai in einem internen Treffen vor den Feiertagen des letzten Jahres betonte: „Im Jahr 2025 müssen wir uns unermüdlich darauf konzentrieren, die Vorteile der [KI]-Technologie freizusetzen und echte Nutzerprobleme zu lösen.“ Diese Vision treibt Google dazu an, seine Angebote erheblich zu verbessern, insbesondere in den Bereichen Cloud-Dienste und KI-Integration.

Beim Google Cloud Next 2025-Event in Las Vegas stellte Google bedeutende Fortschritte bei Kubernetes und Google Kubernetes Engine (GKE) vor. Diese Updates zielen darauf ab, Plattformteams und Entwickler zu befähigen, KI zu nutzen, während sie ihre bestehenden Kubernetes-Kenntnisse einsetzen. Gabe Monroy, Googles VP of Cloud Runtimes, brachte es prägnant auf den Punkt: „Ihre Kubernetes-Fähigkeiten und Investitionen sind nicht nur relevant; sie sind Ihre KI-Superkraft.“

Also, was genau sind diese neuen Fortschritte? Lassen Sie uns in die Details eintauchen.

Vereinfachtes KI-Cluster-Management: GKE führt ein vereinfachtes KI-Cluster-Management durch Tools wie Cluster Director für GKE ein, früher bekannt als Hypercompute Cluster. Dieses Tool ermöglicht es Nutzern, große Cluster von virtuellen Maschinen (VMs) mit angeschlossenen Nvidia-GPUs bereitzustellen und zu verwalten, was das Skalieren von KI-Workloads effizienter macht.

Ein damit verbundener, bald verfügbarer Dienst ist Cluster Director für Slurm. Slurm, ein Open-Source-Job-Scheduler und Workload-Manager für Linux, wird dank Googles vereinfachter Benutzeroberfläche und APIs einfacher bereitzustellen und zu betreiben sein. Diese werden Blaupausen für typische Workloads mit vorkonfigurierten Softwarepaketen enthalten, die zuverlässige und wiederholbare Bereitstellungen gewährleisten.

Optimiertes KI-Modell-Deployment: Die neuen Funktionen von GKE konzentrieren sich auch auf die Optimierung des KI-Modell-Deployments. Der GKE Inference Quickstart und das GKE Inference Gateway vereinfachen die Auswahl und Bereitstellung von KI-Modellen und gewährleisten eine gute Leistung durch intelligentes Lastenausgleich.

Gabe Monroy hob den Trend der KI-Innovation hervor, die mit traditioneller Rechenleistung, insbesondere im Bereich der Inferenz, zusammenfällt. Er bemerkte: „Wir sehen einen klaren Trend im Zeitalter der KI: erstaunliche Innovationen finden dort statt, wo traditionelle Rechenleistung mit neuronalen Netzen interagiert – auch bekannt als ‚Inferenz‘. Unternehmen, die an der Spitze von Kubernetes und KI operieren, wie LiveX und Moloco, betreiben KI-Inferenz auf GKE.“

Kosteneffiziente Inferenz: GKE macht Fortschritte bei der kosteneffizienten Inferenz mit dem Inference Gateway. Monroy behauptet, dass dieser Ansatz die Bereitstellungskosten um bis zu 30 % senken, die Latenz um bis zu 60 % reduzieren und den Durchsatz im Vergleich zu anderen verwalteten und Open-Source-Kubernetes-Angeboten um 40 % steigern kann. Während dies vielversprechende Zahlen sind, müssen wir sie in Aktion sehen, um ihre Wirkung zu bestätigen.

Modellbewusster Lastenausgleich ist ein zentraler Bestandteil dieser Strategie. Angesichts der variablen Antwortlängen in KI-Modellen können traditionelle Lastenausgleichsmethoden wie Round-Robin ineffizient sein. Das Inference Gateway bietet jedoch ein modellbewusstes Gateway, das für KI optimiert ist, mit fortschrittlichem Routing zu verschiedenen Modellversionen.

Verbesserte Ressourceneffizienz: GKE konzentriert sich auch auf die Verbesserung der Ressourceneffizienz. Der GKE Autopilot bietet jetzt schnellere Pod-Planung, kürzere Skalierungsreaktionszeiten und eine bessere Kapazitätsanpassung. Dies bedeutet, dass Nutzer mehr Traffic mit denselben Ressourcen bewältigen oder den bestehenden Traffic mit weniger Ressourcen aufrechterhalten können. Google behauptet, dass mit dem verbesserten Autopilot die Clusterkapazität immer richtig dimensioniert sein wird.

Derzeit umfasst Autopilot ein Best-Practice-Clusterkonfigurationstool und eine containeroptimierte Rechenplattform, die die Kapazität automatisch an die Workloads anpasst. Allerdings dimensioniert es bestehende Cluster nicht ohne spezifische Konfiguration richtig. Ab dem dritten Quartal wird die containeroptimierte Rechenplattform von Autopilot auch für Standard-GKE-Cluster ohne spezifische Konfiguration verfügbar sein, was bahnbrechend sein könnte.

KI-gestütztes Gemini Cloud Assist: Das Debuggen und Diagnostizieren von Anwendungsproblemen kann Innovationen erheblich verlangsamen. Um dem entgegenzuwirken, hat Google Gemini Cloud Assist eingeführt, das KI-gestützte Unterstützung während des gesamten Anwendungslebenszyklus bietet. Die private Vorschau von Gemini Cloud Assist Investigations hilft Nutzern, Ursachen schnell zu verstehen und Probleme zu lösen.

Das Beste daran? Assist Investigations wird direkt über die GKE-Konsole zugänglich sein, wodurch die Fehlerbehebungszeit reduziert und mehr Zeit für Innovationen freigesetzt wird. Es ermöglicht die Diagnose von Pod- und Clusterproblemen über die GKE-Konsole hinweg für verschiedene Google Cloud-Dienste, einschließlich Knoten, IAM und Lastenausgleicher. Sie können Protokolle und Fehler über mehrere GKE-Dienste, Controller, Pods und zugrunde liegende Knoten hinweg anzeigen. Melden Sie sich für die private Vorschau an, um diese Funktion aus erster Hand zu erleben.

Als Teil seiner umfassenderen Strategie für aufstrebende Technologien positioniert sich Google als führend bei KI-optimierten Plattformen. Diese Entwicklungen ermöglichen es Unternehmen in verschiedenen Branchen, KI effektiver einzusetzen und Innovation sowie Effizienz in Betrieb und Kundenerfahrungen zu fördern.

Zum Beispiel nutzt Intuit Google Clouds Document AI und Gemini, um die Steuervorbereitung für Millionen von TurboTax-Nutzern zu vereinfachen. Reddit verwendet Gemini über Vertex AI, Googles KI-Agenten-Builder, um Reddit Answers zu verbessern, eine neue KI-gestützte Konversationsplattform, die das Erlebnis auf der Homepage verbessern soll.

Kann Google diese KI-gestützten Transformationen erfolgreich umsetzen? Das wird die Zeit zeigen. Wie Pichai im Dezember sagte: „In der Geschichte muss man nicht immer der Erste sein, aber man muss gut ausführen und wirklich der Beste in seiner Klasse als Produkt sein. Ich denke, darum geht es im Jahr 2025.“