阿卡迈通过AI驱动的Kubernetes自动化将云成本削减70%

在生成式AI时代，云支出激增。企业预计今年因资源使用效率低下将浪费445亿美元的云支出。

阿卡迈科技，拥有庞大的多云基础设施和严格的安全需求，面临这一挑战尤为严峻。

为解决此问题，这家网络安全和内容分发巨头采用了Cast AI的Kubernetes自动化平台，利用AI代理优化云环境的成本、安全性和性能。

该解决方案根据工作负载实现了40%至70%的云成本降低。

“我们需要持续优化基础设施，以在不牺牲性能的情况下降低云成本，”阿卡迈云工程高级总监德克尔·沙维特在接受VentureBeat采访时表示。“作为安全事件处理器，延迟不可接受。无法实时响应攻击不是选项。”

用于实时监控和优化的AI代理

Kubernetes简化了云原生和微服务环境中的应用部署、扩展和管理。

Cast AI创始人兼首席执行官劳伦特·吉尔解释，Cast AI与Kubernetes集成，帮助客户扩展集群、选择最佳基础设施并管理计算生命周期。其应用性能自动化（APA）平台使用专用AI代理持续监控、分析和提升应用性能、安全性、效率和成本。企业可仅从AWS、Microsoft或Google等供应商处配置必要计算资源。

APA利用结合历史数据和模式的强化学习机器学习模型，结合可观察性工具和启发式方法。与多云基础设施即代码工具集成，提供完全自动化。

吉尔强调，可观察性只是起点，而非终点。Cast AI支持渐进式采用，与现有工具和工作流整合，无需彻底改造。所有分析和操作均在客户专用Kubernetes集群内进行，确保更高的安全性和控制力。

吉尔还强调以人为中心的自动化，APA支持人在回路工作流，辅助决策。

阿卡迈的复杂基础设施需求

沙维特解释，阿卡迈庞大的云基础设施支持其内容分发网络（CDN）和网络安全服务，服务于全球最苛刻的客户，遵循严格的服务水平协议（SLA）和性能标准。

作为某些供应商服务的最大消费者之一，阿卡迈与其超大规模云服务商进行了广泛的工程和再工程以满足需求。

服务于包括主要金融机构和信用卡公司在内的多样化客户，阿卡迈的服务对其安全态势至关重要。

平衡复杂性与成本是一大挑战。沙维特指出，现实世界的攻击可能使特定组件的容量需求激增100倍或1000倍。然而，按此规模预扩展云容量在财务上不可行。

尽管考虑了代码级优化，但阿卡迈复杂业务模型要求聚焦核心基础设施。

实时Kubernetes优化

沙维特解释，阿卡迈需要一个Kubernetes自动化平台，实时优化多云基础设施成本，根据波动需求动态扩展应用，同时不牺牲性能。

此前，阿卡迈的DevOps团队每月手动调整Kubernetes工作负载几次，鉴于基础设施规模，这是一个昂贵且具挑战性的过程。这种零星方法错过了实时优化机会。

“现在，数百个Cast AI代理每秒进行优化，”沙维特说。

阿卡迈依赖的APA关键功能包括自动扩展、高级Kubernetes自动化与容器打包、自动选择成本效益高的计算实例、工作负载调整、跨实例生命周期的Spot实例自动化和成本分析。

“整合两分钟后，我们获得了前所未有的成本分析洞察，”沙维特说。“一旦代理激活，优化即开始，节约随之自动实现。”

提供折扣未用云容量的Spot实例对阿卡迈的工作负载（尤其是Apache Spark）很有吸引力，但复杂性高。过度工程或增加手动工作成本过高。

通过Cast AI，阿卡迈以零工程投资使用Spot实例运行Spark。“Spot实例的价值显而易见；我们只需要合适的工具，”沙维特说。

虽然云账单节省翻倍或三倍意义重大，但沙维特强调，无需人工干预的自动化“无价”，节省了大量时间。

此前，他的团队不断调整基础设施以维持生产环境并满足客户需求。

“最大的好处是我们不再管理基础设施，”沙维特说。“Cast AI的代理处理一切，解放我们的团队专注于更快为客户提供功能。”

编者按：在本月的VB Transform会议上，Google Cloud首席技术官威尔·格兰尼斯和高马克健康高级副总裁兼首席分析官理查德·克拉克将探讨医疗领域的新AI堆栈以及在复杂、受监管环境中部署多模型AI系统的挑战。立即注册。