Akamai AI驱动的Kubernetes自动化将云成本削减70%

在生成式AI时代，云支出激增。预计企业今年因资源使用效率低下将浪费445亿美元的云支出。

Akamai技术公司，拥有庞大的多云基础设施和严格的安全需求，面临这一挑战尤为严峻。

为此，这家网络安全和内容分发巨头采用了Cast AI的Kubernetes自动化平台，利用AI代理优化云环境的成本、安全性和性能。

该解决方案根据工作负载将云成本降低了40%至70%。

“我们需要持续优化基础设施，以在不牺牲性能的情况下降低云成本，”Akamai云工程高级总监Dekel Shavit在接受VentureBeat采访时表示。“作为安全事件处理器，延迟是不可接受的。无法实时响应攻击不是一个选项。”

用于实时监控和优化的AI代理

Kubernetes简化了云原生和微服务架构中的应用部署、扩展和管理。

Cast AI创始人兼首席执行官Laurent Gil解释说，Cast AI与Kubernetes集成，帮助客户扩展集群、选择最佳基础设施并管理计算生命周期。其应用性能自动化（APA）平台使用专用AI代理持续监控、分析和提升应用性能、安全性、效率和成本。公司可以仅从AWS、Microsoft或Google等提供商那里配置必要的计算资源。

APA利用机器学习模型结合强化学习，基于历史数据和模式，结合可观察性工具和启发式方法。与多云基础设施即代码工具集成，提供全自动化。

Gil强调，可观察性只是起点，而非终点。Cast AI支持渐进式采用，与现有工具和工作流程整合，无需彻底改造。所有分析和操作均在客户专用的Kubernetes集群内进行，确保更高的安全性和控制力。

Gil还强调以人为中心的自动化，指出APA支持人机协同工作流程，辅助决策。

Akamai的复杂基础设施需求

Shavit解释说，Akamai庞大的云基础设施支持其内容分发网络（CDN）和网络安全服务，为全球最苛刻的客户提供服务，遵守严格的服务水平协议（SLA）和性能标准。

作为某些供应商服务的最大消费者之一，Akamai与其超大规模云服务商进行了广泛的工程和再工程以满足需求。

为包括主要金融机构和信用卡公司在内的多样化客户提供服务，Akamai的服务对其安全态势至关重要。

平衡这种复杂性与成本是一项挑战。Shavit指出，现实世界的攻击可能使特定组件的容量需求激增100倍或1000倍。然而，按此规模预先扩展云容量在财务上不可行。

虽然考虑了代码级优化，但Akamai业务模型的复杂性要求聚焦于核心基础设施。

实时Kubernetes优化

Shavit解释说，Akamai需要一个Kubernetes自动化平台，实时优化其多云基础设施的成本，根据波动的需求动态扩展应用，同时不牺牲性能。

此前，Akamai的DevOps团队每月手动调整Kubernetes工作负载几次，考虑到基础设施规模，这是一个昂贵且具有挑战性的过程。这种零星的方法错过了实时优化的机会。

“现在，数百个Cast AI代理每秒执行这种调整，”Shavit说。

Akamai依赖的APA关键功能包括自动扩展、先进的Kubernetes自动化与容器打包、自动选择成本效益高的计算实例、工作负载调整、整个实例生命周期的Spot实例自动化以及成本分析。

“在集成两分钟内，我们获得了前所未有的成本分析洞察，”Shavit说。“一旦代理启动，优化即开始，节省随之自动实现。”

Spot实例提供折扣的未使用云容量，对Akamai的工作负载（尤其是Apache Spark）具有吸引力，但复杂。过度工程或增加手动工作成本高昂。

通过Cast AI，Akamai以零工程投资利用Spot实例运行Spark。“Spot实例的价值显而易见；我们只需要正确的工具，”Shavit说。

虽然将云账单节省翻倍或三倍很重要，但Shavit强调，无需手动干预的自动化是“无价的”，节省了大量时间。

此前，他的团队不断调整基础设施以维护生产环境并满足客户需求。

“最大的好处是我们不再管理基础设施，”Shavit说。“Cast AI的代理处理一切，解放我们的团队，让我们专注于更快地为客户提供功能。”

编辑注：在本月的VB Transform会议上，Google Cloud首席技术官Will Grannis和高马克健康公司高级副总裁兼首席分析官Richard Clarke将探讨医疗保健领域的新AI堆栈，以及在复杂、受监管环境中部署多模型AI系统的挑战。立即注册。