Akamai Reduce Costos de Nube en un 70% con Automatización de Kubernetes Impulsada por IA

En la era de la IA generativa, los gastos en la nube están aumentando. Se proyecta que las empresas desperdicien $44.5 mil millones en gastos innecesarios en la nube este año debido al uso ineficiente de recursos.

Akamai Technologies, con su vasta infraestructura multi-nube y estrictas demandas de seguridad, enfrenta este desafío de manera aguda.

Para abordarlo, el gigante de ciberseguridad y entrega de contenido adoptó la plataforma de automatización de Kubernetes de Cast AI, utilizando agentes de IA para optimizar costos, seguridad y rendimiento en entornos de nube.

La solución logró reducciones de costos en la nube de entre el 40% y el 70%, dependiendo de la carga de trabajo.

“Requiríamos una optimización continua de nuestra infraestructura para reducir costos en la nube sin comprometer el rendimiento,” dijo Dekel Shavit, director senior de ingeniería en la nube de Akamai, en una entrevista con VentureBeat. “Como procesador de eventos de seguridad, los retrasos son inaceptables. No responder a ataques en tiempo real no es una opción.”

Agentes de IA para Monitoreo y Optimización en Tiempo Real

Kubernetes simplifica el despliegue, escalado y gestión de aplicaciones, especialmente en configuraciones nativas de la nube y de microservicios.

Cast AI se integra con Kubernetes para ayudar a los clientes a escalar clústeres, seleccionar infraestructura óptima y gestionar ciclos de vida de cómputo, explicó Laurent Gil, fundador y CEO. Su plataforma de Automatización del Rendimiento de Aplicaciones (APA) utiliza agentes de IA especializados para monitorear, analizar y mejorar continuamente el rendimiento, la seguridad, la eficiencia y los costos de las aplicaciones. Las empresas pueden aprovisionar solo el cómputo necesario de proveedores como AWS, Microsoft o Google.

APA aprovecha modelos de aprendizaje automático con aprendizaje por refuerzo, basándose en datos históricos y patrones, combinados con herramientas de observabilidad y heurísticas. Integrada con herramientas de infraestructura como código en múltiples nubes, ofrece automatización completa.

Gil enfatizó que la observabilidad es solo el punto de partida, no el objetivo final. Cast AI apoya una adopción gradual, integrándose con herramientas y flujos de trabajo existentes sin requerir una revisión completa. Todo el análisis y las acciones permanecen dentro de los clústeres de Kubernetes dedicados del cliente, garantizando mayor seguridad y control.

Gil también destacó la automatización centrada en el humano, señalando que APA apoya flujos de trabajo con intervención humana, complementando la toma de decisiones.

Las Complejas Demandas de Infraestructura de Akamai

Shavit explicó que la extensa infraestructura en la nube de Akamai soporta su red de entrega de contenido (CDN) y servicios de ciberseguridad para algunos de los clientes más exigentes del mundo, cumpliendo con estrictos acuerdos de nivel de servicio (SLAs) y estándares de rendimiento.

Como uno de los mayores consumidores de ciertos servicios de proveedores, Akamai ha llevado a cabo una extensa ingeniería y reingeniería con su hiperescalador para satisfacer sus necesidades.

Al servir a diversos clientes, incluyendo importantes instituciones financieras y compañías de tarjetas de crédito, los servicios de Akamai son críticos para su postura de seguridad.

Equilibrar esta complejidad con los costos es un desafío. Shavit señaló que los ataques en el mundo real podrían aumentar las necesidades de capacidad hasta 100X o 1,000X para componentes específicos. Sin embargo, escalar la capacidad en la nube por tales magnitudes es financieramente inviable.

Aunque se consideró la optimización a nivel de código, la complejidad del modelo de negocio de Akamai requería enfocarse en la infraestructura central.

Optimización de Kubernetes en Tiempo Real

Akamai necesitaba una plataforma de automatización de Kubernetes para optimizar costos en su infraestructura multi-nube en tiempo real, escalando aplicaciones dinámicamente según la demanda fluctuante sin sacrificar el rendimiento, explicó Shavit.

Anteriormente, el equipo de DevOps de Akamai ajustaba manualmente las cargas de trabajo de Kubernetes unas pocas veces al mes, un proceso costoso y desafiante dada la escala de la infraestructura. Este enfoque esporádico perdía oportunidades de optimización en tiempo real.

“Ahora, cientos de agentes de Cast AI realizan este ajuste cada segundo,” dijo Shavit.

Las características clave de APA que Akamai utiliza incluyen autoescalado, automatización avanzada de Kubernetes con empaquetamiento de contenedores, selección automática de instancias de cómputo rentables, ajuste de tamaño de cargas de trabajo, automatización de instancias Spot a lo largo del ciclo de vida de las instancias y análisis de costos.

“En dos minutos de integración, obtuvimos conocimientos de análisis de costos sin precedentes,” dijo Shavit. “Una vez que los agentes estuvieron activos, la optimización comenzó y los ahorros siguieron automáticamente.”

Las instancias Spot, que ofrecen capacidad en la nube no utilizada con descuento, eran atractivas pero complejas para las cargas de trabajo de Akamai, especialmente Apache Spark. Sobrediseñar o agregar esfuerzo manual era costoso.

Con Cast AI, Akamai utilizó instancias Spot para Spark sin inversión en ingeniería. “El valor de las instancias Spot era obvio; solo necesitábamos la herramienta adecuada,” dijo Shavit.

Aunque duplicar o triplicar los ahorros en las facturas de la nube es significativo, Shavit enfatizó que la automatización sin intervención manual es “invaluable,” ahorrando un tiempo considerable.

Anteriormente, su equipo ajustaba constantemente la infraestructura para mantener los entornos de producción y satisfacer las necesidades de los clientes.

“El mayor beneficio es que ya no gestionamos nuestra infraestructura,” dijo Shavit. “Los agentes de Cast AI la manejan, liberando a nuestro equipo para enfocarse en entregar funciones más rápido a los clientes.”

Nota del editor: En el VB Transform de este mes, el CTO de Google Cloud, Will Grannis, y el SVP y Director de Análisis de Highmark Health, Richard Clarke, explorarán la nueva pila de IA en el cuidado de la salud y los desafíos de implementar sistemas de IA multimodelo en un entorno complejo y regulado. Regístrate hoy.