Akamai Reduz Custos de Nuvem em 70% com Automação de Kubernetes Impulsionada por IA

Na era da IA generativa, os gastos com nuvem estão disparando. Projeta-se que as empresas desperdicem US$ 44,5 bilhões em gastos desnecessários com nuvem este ano devido ao uso ineficiente de recursos.

A Akamai Technologies, com sua vasta infraestrutura multi-nuvem e exigências rigorosas de segurança, enfrenta esse desafio de forma aguda.

Para enfrentar isso, o gigante de cibersegurança e entrega de conteúdo adotou a plataforma de automação de Kubernetes da Cast AI, utilizando agentes de IA para otimizar custos, segurança e desempenho em ambientes de nuvem.

A solução proporcionou reduções de custo de nuvem de 40% a 70%, dependendo da carga de trabalho.

“Exigíamos otimização contínua de nossa infraestrutura para reduzir custos de nuvem sem comprometer o desempenho,” disse Dekel Shavit, diretor sênior de engenharia de nuvem na Akamai, em entrevista ao VentureBeat. “Como processador de eventos de segurança, atrasos são inaceitáveis. Falhar em responder a ataques em tempo real não é uma opção.”

Agentes de IA para Monitoramento e Otimização em Tempo Real

O Kubernetes simplifica a implantação, escalonamento e gerenciamento de aplicativos, especialmente em configurações nativas de nuvem e microsserviços.

A Cast AI integra-se ao Kubernetes para ajudar os clientes a escalar clusters, selecionar a infraestrutura ideal e gerenciar ciclos de vida de computação, explicou Laurent Gil, fundador e CEO. Sua plataforma de Automação de Desempenho de Aplicações (APA) usa agentes de IA especializados para monitorar, analisar e aprimorar continuamente o desempenho, segurança, eficiência e custo de aplicativos. As empresas podem provisionar apenas a computação necessária de provedores como AWS, Microsoft ou Google.

A APA utiliza modelos de aprendizado de máquina com aprendizado por reforço, baseando-se em dados históricos e padrões, combinados com ferramentas de observabilidade e heurísticas. Integrada com ferramentas de infraestrutura como código em várias nuvens, oferece automação completa.

Gil destacou que a observabilidade é apenas o ponto de partida, não o objetivo final. A Cast AI suporta adoção gradual, integrando-se a ferramentas e fluxos de trabalho existentes sem exigir uma reformulação completa. Todas as análises e ações permanecem dentro dos clusters Kubernetes dedicados do cliente, garantindo maior segurança e controle.

Gil também destacou a automação centrada no humano, observando que a APA suporta fluxos de trabalho com humanos no ciclo, complementando a tomada de decisão.

Exigências Complexas da Infraestrutura da Akamai

Shavit explicou que a vasta infraestrutura de nuvem da Akamai suporta sua rede de entrega de conteúdo (CDN) e serviços de cibersegurança para alguns dos clientes mais exigentes do mundo, aderindo a acordos de nível de serviço (SLAs) e padrões de desempenho rigorosos.

Como um dos maiores consumidores de certos serviços de fornecedores, a Akamai realizou extensas engenharias e reengenharias com seu hiperescalador para atender às suas necessidades.

Atendendo a diversos clientes, incluindo grandes instituições financeiras e empresas de cartões de crédito, os serviços da Akamai são críticos para sua postura de segurança.

Equilibrar essa complexidade com o custo é um desafio. Shavit observou que ataques no mundo real poderiam aumentar as necessidades de capacidade em 100X ou 1.000X para componentes específicos. No entanto, escalar a capacidade de nuvem previamente em tais magnitudes é financeiramente impraticável.

Embora a otimização no nível de código tenha sido considerada, a complexidade do modelo de negócios da Akamai exigia foco na infraestrutura principal.

Otimização de Kubernetes em Tempo Real

A Akamai precisava de uma plataforma de automação de Kubernetes para otimizar custos em sua infraestrutura multi-nuvem em tempo real, escalando aplicativos dinamicamente com base na demanda flutuante sem sacrificar o desempenho, explicou Shavit.

Anteriormente, a equipe de DevOps da Akamai ajustava manualmente as cargas de trabalho do Kubernetes algumas vezes por mês, um processo caro e desafiador, dada a escala da infraestrutura. Essa abordagem esporádica perdia oportunidades de otimização em tempo real.

“Agora, centenas de agentes da Cast AI realizam esse ajuste a cada segundo,” disse Shavit.

Os principais recursos da APA que a Akamai utiliza incluem autoescalonamento, automação avançada de Kubernetes com empacotamento de bins, seleção automática de instâncias de computação econômicas, dimensionamento de cargas de trabalho, automação de instâncias Spot ao longo do ciclo de vida da instância e análises de custo.

“Em dois minutos após a integração, obtivemos insights de análises de custo sem precedentes,” disse Shavit. “Uma vez que os agentes estavam ativos, a otimização começou, e as economias seguiram automaticamente.”

As instâncias Spot, que oferecem capacidade de nuvem não utilizada com desconto, eram atraentes, mas complexas para as cargas de trabalho da Akamai, especialmente Apache Spark. Sobrecarregar ou adicionar esforço manual era proibitivo em termos de custo.

Com a Cast AI, a Akamai utilizou instâncias Spot para Spark sem investimento em engenharia. “O valor das instâncias Spot era óbvio; só precisávamos da ferramenta certa,” disse Shavit.

Embora dobrar ou triplicar as economias nas contas de nuvem seja significativo, Shavit enfatizou que a automação sem intervenção manual é “inestimável,” economizando tempo substancial.

Anteriormente, sua equipe ajustava constantemente a infraestrutura para manter ambientes de produção e atender às necessidades dos clientes.

“O maior benefício é que não gerenciamos mais nossa infraestrutura,” disse Shavit. “Os agentes da Cast AI cuidam disso, liberando nossa equipe para focar em entregar recursos mais rapidamente aos clientes.”

Nota do editor: No VB Transform deste mês, o CTO da Google Cloud, Will Grannis, e o SVP e Diretor de Análise da Highmark Health, Richard Clarke, explorarão a nova pilha de IA na saúde e os desafios de implantar sistemas de IA multimodelo em um ambiente complexo e regulado. Registre-se hoje.