Akamai réduit les coûts cloud de 70 % avec l'automatisation Kubernetes pilotée par l'IA

À l'ère de l'IA générative, les dépenses cloud explosent. Les entreprises devraient gaspiller 44,5 milliards de dollars en dépenses cloud inutiles cette année en raison d'une utilisation inefficace des ressources.

Akamai Technologies, avec son infrastructure multi-cloud vaste et ses exigences de sécurité strictes, est confrontée à ce défi de manière aiguë.

Pour y répondre, le géant de la cybersécurité et de la livraison de contenu a adopté la plateforme d'automatisation Kubernetes de Cast AI, exploitant des agents IA pour optimiser les coûts, la sécurité et les performances dans les environnements cloud.

La solution a permis de réduire les coûts cloud de 40 % à 70 %, selon la charge de travail.

« Nous avions besoin d'une optimisation continue de notre infrastructure pour réduire les coûts cloud sans compromettre les performances », a déclaré Dekel Shavit, directeur senior de l'ingénierie cloud chez Akamai, dans une interview avec VentureBeat. « En tant que processeur d'événements de sécurité, les retards sont inacceptables. Ne pas répondre aux attaques en temps réel n'est pas une option. »

Agents IA pour une surveillance et une optimisation en temps réel

Kubernetes simplifie le déploiement, la mise à l'échelle et la gestion des applications, en particulier dans les configurations natives du cloud et de microservices.

Cast AI s'intègre à Kubernetes pour aider les clients à dimensionner les clusters, sélectionner l'infrastructure optimale et gérer les cycles de vie des calculs, a expliqué Laurent Gil, fondateur et PDG. Sa plateforme d'automatisation des performances des applications (APA) utilise des agents IA spécialisés pour surveiller, analyser et améliorer en continu les performances, la sécurité, l'efficacité et les coûts des applications. Les entreprises peuvent provisionner uniquement les ressources de calcul nécessaires auprès de fournisseurs comme AWS, Microsoft ou Google.

APA exploite des modèles d'apprentissage automatique avec apprentissage par renforcement, s'appuyant sur des données historiques et des schémas, combinés à des outils d'observabilité et des heuristiques. Intégrée aux outils d'infrastructure-as-code sur plusieurs clouds, elle offre une automatisation complète.

Gil a souligné que l'observabilité n'est qu'un point de départ, pas un objectif final. Cast AI favorise une adoption progressive, s'intégrant aux outils et flux de travail existants sans nécessiter une refonte complète. Toutes les analyses et actions restent dans les clusters Kubernetes dédiés du client, garantissant une sécurité et un contrôle accrus.

Gil a également mis en avant l'automatisation centrée sur l'humain, notant que APA prend en charge les flux de travail avec intervention humaine, complétant la prise de décision.

Les exigences complexes de l'infrastructure d'Akamai

Shavit a expliqué que l'infrastructure cloud étendue d'Akamai soutient son réseau de livraison de contenu (CDN) et ses services de cybersécurité pour certains des clients les plus exigeants au monde, respectant des accords de niveau de service (SLA) et des normes de performance strictes.

En tant que l'un des plus grands consommateurs de certains services de fournisseurs, Akamai a entrepris une ingénierie et une réingénierie approfondies avec son hyperscaler pour répondre à ses besoins.

En servant des clients divers, y compris des institutions financières majeures et des sociétés de cartes de crédit, les services d'Akamai sont cruciaux pour leur posture de sécurité.

Équilibrer cette complexité avec les coûts est un défi. Shavit a noté que les attaques réelles pourraient multiplier par 100 ou 1 000 les besoins de capacité pour certains composants. Cependant, dimensionner à l'avance la capacité cloud à de telles magnitudes est financièrement irréalisable.

Bien que l'optimisation au niveau du code ait été envisagée, la complexité du modèle économique d'Akamai a nécessité de se concentrer sur l'infrastructure de base.

Optimisation Kubernetes en temps réel

Akamai avait besoin d'une plateforme d'automatisation Kubernetes pour optimiser les coûts dans son infrastructure multi-cloud en temps réel, en mettant à l'échelle dynamiquement les applications en fonction de la demande fluctuante sans sacrifier les performances, a expliqué Shavit.

Auparavant, l'équipe DevOps d'Akamai ajustait manuellement les charges de travail Kubernetes quelques fois par mois, un processus coûteux et difficile étant donné l'échelle de l'infrastructure. Cette approche sporadique manquait d'opportunités d'optimisation en temps réel.

« Maintenant, des centaines d'agents Cast AI effectuent cet ajustement chaque seconde », a déclaré Shavit.

Les principales fonctionnalités d'APA sur lesquelles Akamai s'appuie incluent l'auto-mise à l'échelle, l'automatisation avancée de Kubernetes avec bin packing, la sélection automatique d'instances de calcul économiques, l'ajustement des charges de travail, l'automatisation des instances Spot tout au long du cycle de vie des instances et l'analyse des coûts.

« En deux minutes d'intégration, nous avons obtenu des informations inédites sur l'analyse des coûts », a déclaré Shavit. « Une fois les agents activés, l'optimisation a commencé, et les économies ont suivi automatiquement. »

Les instances Spot, offrant une capacité cloud inutilisée à prix réduit, étaient attrayantes mais complexes pour les charges de travail d'Akamai, en particulier Apache Spark. Une sur-ingénierie ou un effort manuel supplémentaire était prohibitif en termes de coûts.

Avec Cast AI, Akamai a utilisé des instances Spot pour Spark sans investissement en ingénierie. « La valeur des instances Spot était évidente ; nous avions juste besoin du bon outil », a déclaré Shavit.

Bien que doubler ou tripler les économies sur les factures cloud soit significatif, Shavit a souligné que l'automatisation sans intervention manuelle est « inestimable », économisant un temps considérable.

Auparavant, son équipe ajustait constamment l'infrastructure pour maintenir les environnements de production et répondre aux besoins des clients.

« Le plus grand avantage est que nous ne gérons plus notre infrastructure », a déclaré Shavit. « Les agents de Cast AI s'en chargent, libérant notre équipe pour se concentrer sur la livraison plus rapide de fonctionnalités aux clients. »

Note de l'éditeur : Lors du VB Transform de ce mois, Will Grannis, CTO de Google Cloud, et Richard Clarke, SVP et directeur de l'analyse de Highmark Health, exploreront la nouvelle pile IA dans le secteur de la santé et les défis du déploiement de systèmes IA multi-modèles dans un environnement complexe et réglementé. Inscrivez-vous aujourd'hui.