Akamai 使用 AI 驅動的 Kubernetes 自動化技術將雲端成本削減 70%

在生成式 AI 時代，雲端支出正在飆升。預計企業今年因資源使用效率低下，將浪費 445 億美元於不必要的雲端支出。

Akamai 科技公司，擁有龐大的多雲端基礎設施和嚴格的安全需求，面臨這一挑戰尤為嚴峻。

為了解決這一問題，這家網絡安全與內容傳遞巨頭採用了 Cast AI 的 Kubernetes 自動化平台，利用 AI 代理優化雲端環境的成本、安全性和性能。

該解決方案根據工作負載的不同，實現了 40% 至 70% 的雲端成本削減。

“我們需要持續優化基礎設施，以在不影響性能的情況下降低雲端成本，”Akamai 雲端工程高級總監 Dekel Shavit 在接受 VentureBeat 採訪時表示。“作為安全事件處理器，延遲是不可接受的。無法即時應對攻擊絕非選項。”

用於即時監控與優化的 AI 代理

Kubernetes 簡化了應用程序的部署、擴展和管理，特別是在雲原生和微服務架構中。

Cast AI 創始人兼首席執行官 Laurent Gil 解釋說，Cast AI 與 Kubernetes 整合，幫助客戶擴展集群、選擇最佳基礎設施並管理計算生命週期。其應用性能自動化（APA）平台使用專門的 AI 代理，持續監控、分析並提升應用性能、安全性、效率和成本。企業可以僅從 AWS、Microsoft 或 Google 等提供商中配置必要的計算資源。

APA 利用機器學習模型結合強化學習，基於歷史數據和模式，結合可觀測性工具和啟發式方法。與多雲端的基礎設施即代碼工具整合，提供全面自動化。

Gil 強調，可觀測性只是起點，而非終點。Cast AI 支持逐步採用，與現有工具和工作流程整合，無需徹底改造。所有分析和操作均在客戶專用的 Kubernetes 集群內進行，確保更高的安全性和控制力。

Gil 還強調了以人為本的自動化，指出 APA 支持人機協作工作流程，輔助決策制定。

Akamai 的複雜基礎設施需求

Shavit 解釋說，Akamai 廣泛的雲端基礎設施支持其內容傳遞網絡（CDN）和網絡安全服務，服務於全球最苛刻的客戶，遵循嚴格的服務水平協議（SLAs）和性能標準。

作為某些供應商服務的最大消費者之一，Akamai 與其超大規模雲服務商進行了廣泛的工程和再工程，以滿足其需求。

為包括主要金融機構和信用卡公司在內的多元化客戶提供服務，Akamai 的服務對其安全態勢至關重要。

在這種複雜性與成本之間取得平衡是一大挑戰。Shavit 指出，現實世界的攻擊可能導致特定組件的容量需求激增 100 倍或 1,000 倍。然而，預先按這種規模擴展雲端容量在財務上不可行。

雖然考慮了代碼級優化，但 Akamai 業務模型的複雜性要求專注於核心基礎設施。

即時 Kubernetes 優化

Shavit 解釋說，Akamai 需要一個 Kubernetes 自動化平台，以即時優化其多雲端基礎設施的成本，根據波動的需求動態擴展應用程序，同時不犧牲性能。

此前，Akamai 的 DevOps 團隊每月手動調整 Kubernetes 工作負載數次，鑑於基礎設施的規模，這是一個昂貴且具挑戰性的過程。這種斷續的方法錯失了即時優化的機會。

“現在，數百個 Cast AI 代理每秒執行這種調整，”Shavit 說。

Akamai 依賴的 APA 關鍵功能包括自動擴展、高級 Kubernetes 自動化與分箱打包、自動選擇成本效益高的計算實例、工作負載適當調整、跨實例生命週期的 Spot 實例自動化以及成本分析。

“在整合後的兩分鐘內，我們獲得了前所未有的成本分析洞察，”Shavit 說。“一旦代理啟動，優化即開始，節省隨之自動實現。”

提供折扣未使用雲端容量的 Spot 實例對 Akamai 的工作負載（特別是 Apache Spark）具有吸引力，但複雜性較高。過度工程或增加手動工作量在成本上不可行。

有了 Cast AI，Akamai 以零工程投資利用 Spot 實例運行 Spark。“Spot 實例的價值顯而易見；我們只需要正確的工具，”Shavit 說。

雖然將雲端帳單節省翻倍或三倍很重要，但 Shavit 強調，無需手動干預的自動化是“無價的”，節省了大量時間。

此前，他的團隊不斷調整基礎設施以維持生產環境並滿足客戶需求。

“最大的好處是我們不再管理基礎設施，”Shavit 說。“Cast AI 的代理處理這一切，讓我們的團隊專注於更快地為客戶提供功能。”

編者按：在本月的 VB Transform，Google Cloud 首席技術官 Will Grannis 和 Highmark Health 高級副總裁兼首席分析官 Richard Clarke 將探討醫療保健領域的新 AI 堆棧，以及在複雜、受監管的環境中部署多模型 AI 系統的挑戰。立即註冊。