Akamai senkt Cloud-Kosten um 70% mit KI-gesteuerter Kubernetes-Automatisierung

In der Ära der generativen KI steigen die Cloud-Ausgaben rasant. Unternehmen werden voraussichtlich in diesem Jahr 44,5 Milliarden Dollar für unnötige Cloud-Ausgaben verschwenden, aufgrund ineffizienter Ressourcennutzung.

Akamai Technologies, mit seiner riesigen, Multi-Cloud-Infrastruktur und strengen Sicherheitsanforderungen, steht vor dieser Herausforderung in besonderem Maße.

Um dies zu bewältigen, hat der Cybersecurity- und Content-Delivery-Riese die Kubernetes-Automatisierungsplattform von Cast AI eingeführt, die KI-Agenten nutzt, um Kosten, Sicherheit und Leistung in Cloud-Umgebungen zu optimieren.

Die Lösung führte zu Cloud-Kostenreduktionen von 40% bis 70%, abhängig von der Arbeitslast.

„Wir benötigten eine kontinuierliche Optimierung unserer Infrastruktur, um Cloud-Kosten zu senken, ohne die Leistung zu beeinträchtigen“, sagte Dekel Shavit, Senior Director of Cloud Engineering bei Akamai, in einem Interview mit VentureBeat. „Als Prozessor für Sicherheitsereignisse sind Verzögerungen inakzeptabel. Nicht in Echtzeit auf Angriffe zu reagieren, ist keine Option.“

KI-Agenten für Echtzeitüberwachung und Optimierung

Kubernetes vereinfacht die Anwendungsbereitstellung, Skalierung und Verwaltung, insbesondere in Cloud-nativen und Microservices-Umgebungen.

Cast AI integriert sich in Kubernetes, um Kunden beim Skalieren von Clustern, der Auswahl optimaler Infrastruktur und der Verwaltung von Compute-Lebenszyklen zu helfen, erklärte Laurent Gil, Gründer und CEO. Die Application Performance Automation (APA)-Plattform verwendet spezialisierte KI-Agenten, um Anwendungsleistung, Sicherheit, Effizienz und Kosten kontinuierlich zu überwachen, zu analysieren und zu verbessern. Unternehmen können nur die notwendige Rechenleistung von Anbietern wie AWS, Microsoft oder Google bereitstellen.

APA nutzt maschinelles Lernen mit Verstärkungslernen, basierend auf historischen Daten und Mustern, kombiniert mit Observability-Tools und Heuristiken. Integriert mit Infrastructure-as-Code-Tools über mehrere Clouds hinweg bietet es vollständige Automatisierung.

Gil betonte, dass Observability nur der Ausgangspunkt ist, nicht das Ziel. Cast AI unterstützt eine schrittweise Einführung, integriert sich in bestehende Tools und Workflows, ohne eine vollständige Überarbeitung zu erfordern. Alle Analysen und Aktionen bleiben innerhalb der dedizierten Kubernetes-Cluster des Kunden, was die Sicherheit und Kontrolle erhöht.

Gil hob auch die menschenzentrierte Automatisierung hervor und betonte, dass APA menschliche Entscheidungsprozesse unterstützt.

Akamais komplexe Infrastrukturanforderungen

Shavit erklärte, dass Akamais weitläufige Cloud-Infrastruktur sein Content Delivery Network (CDN) und Cybersecurity-Dienste für einige der anspruchsvollsten Kunden der Welt unterstützt, unter Einhaltung strenger Service Level Agreements (SLAs) und Leistungsstandards.

Als einer der größten Nutzer bestimmter Anbieterdienste hat Akamai umfangreiche Engineering- und Reengineering-Arbeiten mit seinem Hyperscaler durchgeführt, um seine Bedürfnisse zu erfüllen.

Die Bedienung verschiedener Kunden, einschließlich großer Finanzinstitute und Kreditkartenunternehmen, macht Akamais Dienste entscheidend für deren Sicherheitslage.

Die Balance zwischen dieser Komplexität und den Kosten ist eine Herausforderung. Shavit merkte an, dass reale Angriffe die Kapazitätsanforderungen für bestimmte Komponenten um das 100- oder 1.000-fache erhöhen könnten. Eine vorherige Skalierung der Cloud-Kapazität in solchen Größenordnungen ist jedoch finanziell unpraktikabel.

Während eine Optimierung auf Code-Ebene in Betracht gezogen wurde, erforderte die Komplexität von Akamais Geschäftsmodell einen Fokus auf die Kerninfrastruktur.

Echtzeit-Kubernetes-Optimierung

Akamai benötigte eine Kubernetes-Automatisierungsplattform, um die Kosten in seiner Multi-Cloud-Infrastruktur in Echtzeit zu optimieren und Anwendungen dynamisch basierend auf schwankender Nachfrage zu skalieren, ohne die Leistung zu beeinträchtigen, erklärte Shavit.

Zuvor passte das DevOps-Team von Akamai die Kubernetes-Workloads manuell ein paar Mal im Monat an, ein kostspieliger und herausfordernder Prozess angesichts der Größe der Infrastruktur. Dieser sporadische Ansatz verpasste Echtzeit-Optimierungsmöglichkeiten.

„Jetzt führen Hunderte von Cast AI-Agenten diese Optimierung jede Sekunde durch“, sagte Shavit.

Zu den wichtigsten APA-Funktionen, auf die Akamai setzt, gehören Autoskalierung, fortschrittliche Kubernetes-Automatisierung mit Bin-Packing, automatische Auswahl kosteneffizienter Recheninstanzen, Anpassung der Arbeitslast, Automatisierung von Spot-Instanzen über den Instanzlebenszyklus und Kostenanalysen.

„Innerhalb von zwei Minuten nach der Integration erhielten wir beispiellose Einblicke in die Kostenanalysen“, sagte Shavit. „Sobald die Agenten aktiv waren, begann die Optimierung, und die Einsparungen folgten automatisch.“

Spot-Instanzen, die rabattierte ungenutzte Cloud-Kapazität bieten, waren attraktiv, aber komplex für Akamais Workloads, insbesondere Apache Spark. Überengineering oder zusätzlicher manueller Aufwand war kostenintensiv.

Mit Cast AI nutzte Akamai Spot-Instanzen für Spark ohne Engineering-Investitionen. „Der Wert von Spot-Instanzen war offensichtlich; wir brauchten nur das richtige Tool“, sagte Shavit.

Während eine Verdoppelung oder Verdreifachung der Einsparungen bei Cloud-Rechnungen bedeutend ist, betonte Shavit, dass Automatisierung ohne manuellen Eingriff „unbezahlbar“ ist und erhebliche Zeit spart.

Zuvor passte sein Team ständig die Infrastruktur an, um Produktionsumgebungen aufrechtzuerhalten und Kundenbedürfnisse zu erfüllen.

„Der größte Vorteil ist, dass wir unsere Infrastruktur nicht mehr verwalten“, sagte Shavit. „Die Agenten von Cast AI übernehmen das, sodass unser Team sich darauf konzentrieren kann, Funktionen schneller an Kunden zu liefern.“

Anmerkung des Herausgebers: Bei der diesmonatigen VB Transform werden Google Cloud CTO Will Grannis und Highmark Health SVP und Chief Analytics Officer Richard Clarke den neuen KI-Stack im Gesundheitswesen und die Herausforderungen der Bereitstellung von Multi-Modell-KI-Systemen in einer komplexen, regulierten Umgebung erkunden. Jetzt registrieren.