Akamai 使用 AI 驅動的 Kubernetes 自動化技術將雲端成本削減 70%
在生成式 AI 時代，雲端支出正在飆升。預計企業今年因資源使用效率低下，將浪費 445 億美元於不必要的雲端支出。
Akamai 科技公司，擁有龐大的多雲端基礎設施和嚴格的安全需求，面臨這一挑戰尤為嚴峻。
為了解決這一問題，這家網絡安全與內容傳遞巨頭採用了 Cast AI 的 Kubernetes 自動化平台，利用 AI 代理優化雲端環境的成本、安全性和性能。
該解決方案根據工作負載的不同，實現了 40% 至 70% 的雲端成本削減。
“我們需要持續優化基礎設施，以在不影響性能的情況下降低雲端成本，”Akamai 雲端工程高級總監 Dekel Shavit 在接受 VentureBeat 採訪時表示。“作為安全事件處理器，延遲是不可接受的。無法即時應對攻擊絕非選項。”
用於即時監控與優化的 AI 代理
Kubernetes 簡化了應用程序的部署、擴展和管理，特別是在雲原生和微服務架構中。
Cast AI 創始人兼首席執行官 Laurent Gil 解釋說，Cast AI 與 Kubernetes 整合，幫助客戶擴展集群、選擇最佳基礎設施並管理計算生命週期。其應用性能自動化（APA）平台使用專門的 AI 代理，持續監控、分析並提升應用性能、安全性、效率和成本。企業可以僅從 AWS、Microsoft 或 Google 等提供商中配置必要的計算資源。
APA 利用機器學習模型結合強化學習，基於歷史數據和模式，結合可觀測性工具和啟發式方法。與多雲端的基礎設施即代碼工具整合，提供全面自動化。
Gil 強調，可觀測性只是起點，而非終點。Cast AI 支持逐步採用，與現有工具和工作流程整合，無需徹底改造。所有分析和操作均在客戶專用的 Kubernetes 集群內進行，確保更高的安全性和控制力。
Gil 還強調了以人為本的自動化，指出 APA 支持人機協作工作流程，輔助決策制定。
Akamai 的複雜基礎設施需求
Shavit 解釋說，Akamai 廣泛的雲端基礎設施支持其內容傳遞網絡（CDN）和網絡安全服務，服務於全球最苛刻的客戶，遵循嚴格的服務水平協議（SLAs）和性能標準。
作為某些供應商服務的最大消費者之一，Akamai 與其超大規模雲服務商進行了廣泛的工程和再工程，以滿足其需求。
為包括主要金融機構和信用卡公司在內的多元化客戶提供服務，Akamai 的服務對其安全態勢至關重要。
在這種複雜性與成本之間取得平衡是一大挑戰。Shavit 指出，現實世界的攻擊可能導致特定組件的容量需求激增 100 倍或 1,000 倍。然而，預先按這種規模擴展雲端容量在財務上不可行。
雖然考慮了代碼級優化，但 Akamai 業務模型的複雜性要求專注於核心基礎設施。
即時 Kubernetes 優化
Shavit 解釋說，Akamai 需要一個 Kubernetes 自動化平台，以即時優化其多雲端基礎設施的成本，根據波動的需求動態擴展應用程序，同時不犧牲性能。
此前，Akamai 的 DevOps 團隊每月手動調整 Kubernetes 工作負載數次，鑑於基礎設施的規模，這是一個昂貴且具挑戰性的過程。這種斷續的方法錯失了即時優化的機會。
“現在，數百個 Cast AI 代理每秒執行這種調整，”Shavit 說。
Akamai 依賴的 APA 關鍵功能包括自動擴展、高級 Kubernetes 自動化與分箱打包、自動選擇成本效益高的計算實例、工作負載適當調整、跨實例生命週期的 Spot 實例自動化以及成本分析。
“在整合後的兩分鐘內，我們獲得了前所未有的成本分析洞察，”Shavit 說。“一旦代理啟動，優化即開始，節省隨之自動實現。”
提供折扣未使用雲端容量的 Spot 實例對 Akamai 的工作負載（特別是 Apache Spark）具有吸引力，但複雜性較高。過度工程或增加手動工作量在成本上不可行。
有了 Cast AI，Akamai 以零工程投資利用 Spot 實例運行 Spark。“Spot 實例的價值顯而易見；我們只需要正確的工具，”Shavit 說。
雖然將雲端帳單節省翻倍或三倍很重要，但 Shavit 強調，無需手動干預的自動化是“無價的”，節省了大量時間。
此前，他的團隊不斷調整基礎設施以維持生產環境並滿足客戶需求。
“最大的好處是我們不再管理基礎設施，”Shavit 說。“Cast AI 的代理處理這一切，讓我們的團隊專注於更快地為客戶提供功能。”
編者按：在本月的 VB Transform，Google Cloud 首席技術官 Will Grannis 和 Highmark Health 高級副總裁兼首席分析官 Richard Clarke 將探討醫療保健領域的新 AI 堆棧，以及在複雜、受監管的環境中部署多模型 AI 系統的挑戰。立即註冊。
相關文章
渥太華醫院如何使用AI環境語音捕捉降低70%醫師職業倦怠，達成97%患者滿意度
AI如何改變醫療：減輕職業倦怠並提升患者照護挑戰：臨床醫師過勞與患者就醫延遲全球醫療系統面臨雙重挑戰：臨床醫師職業倦怠與患者就醫延遲。醫師被繁重的行政任務淹沒，而患者難以及時獲得醫療服務。在渥太華醫院 (TOH)，領導者意識到這個問題，並轉向AI尋求解決方案。通過整合Microsoft的DAX Copilot—一款AI驅動的臨床文件助手，他們已看到顯著的改善：✔ 每次患者訪視節省7分鐘✔ 醫師報告
精通AI驅動的市場分析代理以實現更智能的交易策略
AI在金融市場的崛起：智能代理如何改變交易金融市場永不休眠—價格波動，趨勢出現又消失，機會稍縱即逝。在這高速環境中，交易者和投資者總在尋找優勢。人工智慧（AI）作為改變遊戲規則的技術，正在革新市場分析。AI驅動的代理能篩選海量數據，發現隱藏模式，並即時生成可操作的洞察。但AI如何融入交易？它真能超越人類直覺嗎？交易者在整合AI策略前需知道什麼？讓我們來拆解。為何AI對交易者是遊戲改變者AI不僅是工
朱利葉斯AI：用計算智能徹底改變數據分析
在當今以數據為中心的世界中，數據分析在做出明智的決策中起著關鍵作用。但是，對於許多人來說，這個過程仍然令人生畏和耗時。輸入Julius AI，這是一種革命性的計算AI工具
評論 (0)
0/200
在生成式 AI 時代，雲端支出正在飆升。預計企業今年因資源使用效率低下，將浪費 445 億美元於不必要的雲端支出。
Akamai 科技公司，擁有龐大的多雲端基礎設施和嚴格的安全需求，面臨這一挑戰尤為嚴峻。
為了解決這一問題，這家網絡安全與內容傳遞巨頭採用了 Cast AI 的 Kubernetes 自動化平台，利用 AI 代理優化雲端環境的成本、安全性和性能。
該解決方案根據工作負載的不同，實現了 40% 至 70% 的雲端成本削減。
“我們需要持續優化基礎設施，以在不影響性能的情況下降低雲端成本，”Akamai 雲端工程高級總監 Dekel Shavit 在接受 VentureBeat 採訪時表示。“作為安全事件處理器，延遲是不可接受的。無法即時應對攻擊絕非選項。”
用於即時監控與優化的 AI 代理
Kubernetes 簡化了應用程序的部署、擴展和管理，特別是在雲原生和微服務架構中。
Cast AI 創始人兼首席執行官 Laurent Gil 解釋說，Cast AI 與 Kubernetes 整合，幫助客戶擴展集群、選擇最佳基礎設施並管理計算生命週期。其應用性能自動化（APA）平台使用專門的 AI 代理，持續監控、分析並提升應用性能、安全性、效率和成本。企業可以僅從 AWS、Microsoft 或 Google 等提供商中配置必要的計算資源。
APA 利用機器學習模型結合強化學習，基於歷史數據和模式，結合可觀測性工具和啟發式方法。與多雲端的基礎設施即代碼工具整合，提供全面自動化。
Gil 強調，可觀測性只是起點，而非終點。Cast AI 支持逐步採用，與現有工具和工作流程整合，無需徹底改造。所有分析和操作均在客戶專用的 Kubernetes 集群內進行，確保更高的安全性和控制力。
Gil 還強調了以人為本的自動化，指出 APA 支持人機協作工作流程，輔助決策制定。
Akamai 的複雜基礎設施需求
Shavit 解釋說，Akamai 廣泛的雲端基礎設施支持其內容傳遞網絡（CDN）和網絡安全服務，服務於全球最苛刻的客戶，遵循嚴格的服務水平協議（SLAs）和性能標準。
作為某些供應商服務的最大消費者之一，Akamai 與其超大規模雲服務商進行了廣泛的工程和再工程，以滿足其需求。
為包括主要金融機構和信用卡公司在內的多元化客戶提供服務，Akamai 的服務對其安全態勢至關重要。
在這種複雜性與成本之間取得平衡是一大挑戰。Shavit 指出，現實世界的攻擊可能導致特定組件的容量需求激增 100 倍或 1,000 倍。然而，預先按這種規模擴展雲端容量在財務上不可行。
雖然考慮了代碼級優化，但 Akamai 業務模型的複雜性要求專注於核心基礎設施。
即時 Kubernetes 優化
Shavit 解釋說，Akamai 需要一個 Kubernetes 自動化平台，以即時優化其多雲端基礎設施的成本，根據波動的需求動態擴展應用程序，同時不犧牲性能。
此前，Akamai 的 DevOps 團隊每月手動調整 Kubernetes 工作負載數次，鑑於基礎設施的規模，這是一個昂貴且具挑戰性的過程。這種斷續的方法錯失了即時優化的機會。
“現在，數百個 Cast AI 代理每秒執行這種調整，”Shavit 說。
Akamai 依賴的 APA 關鍵功能包括自動擴展、高級 Kubernetes 自動化與分箱打包、自動選擇成本效益高的計算實例、工作負載適當調整、跨實例生命週期的 Spot 實例自動化以及成本分析。
“在整合後的兩分鐘內，我們獲得了前所未有的成本分析洞察，”Shavit 說。“一旦代理啟動，優化即開始，節省隨之自動實現。”
提供折扣未使用雲端容量的 Spot 實例對 Akamai 的工作負載（特別是 Apache Spark）具有吸引力，但複雜性較高。過度工程或增加手動工作量在成本上不可行。
有了 Cast AI，Akamai 以零工程投資利用 Spot 實例運行 Spark。“Spot 實例的價值顯而易見；我們只需要正確的工具，”Shavit 說。
雖然將雲端帳單節省翻倍或三倍很重要，但 Shavit 強調，無需手動干預的自動化是“無價的”，節省了大量時間。
此前，他的團隊不斷調整基礎設施以維持生產環境並滿足客戶需求。
“最大的好處是我們不再管理基礎設施，”Shavit 說。“Cast AI 的代理處理這一切，讓我們的團隊專注於更快地為客戶提供功能。”
編者按：在本月的 VB Transform，Google Cloud 首席技術官 Will Grannis 和 Highmark Health 高級副總裁兼首席分析官 Richard Clarke 將探討醫療保健領域的新 AI 堆棧，以及在複雜、受監管的環境中部署多模型 AI 系統的挑戰。立即註冊。
渥太華醫院如何使用AI環境語音捕捉降低70%醫師職業倦怠，達成97%患者滿意度
AI如何改變醫療：減輕職業倦怠並提升患者照護挑戰：臨床醫師過勞與患者就醫延遲全球醫療系統面臨雙重挑戰：臨床醫師職業倦怠與患者就醫延遲。醫師被繁重的行政任務淹沒，而患者難以及時獲得醫療服務。在渥太華醫院 (TOH)，領導者意識到這個問題，並轉向AI尋求解決方案。通過整合Microsoft的DAX Copilot—一款AI驅動的臨床文件助手，他們已看到顯著的改善：✔ 每次患者訪視節省7分鐘✔ 醫師報告
精通AI驅動的市場分析代理以實現更智能的交易策略
AI在金融市場的崛起：智能代理如何改變交易金融市場永不休眠—價格波動，趨勢出現又消失，機會稍縱即逝。在這高速環境中，交易者和投資者總在尋找優勢。人工智慧（AI）作為改變遊戲規則的技術，正在革新市場分析。AI驅動的代理能篩選海量數據，發現隱藏模式，並即時生成可操作的洞察。但AI如何融入交易？它真能超越人類直覺嗎？交易者在整合AI策略前需知道什麼？讓我們來拆解。為何AI對交易者是遊戲改變者AI不僅是工
朱利葉斯AI：用計算智能徹底改變數據分析
在當今以數據為中心的世界中，數據分析在做出明智的決策中起著關鍵作用。但是，對於許多人來說，這個過程仍然令人生畏和耗時。輸入Julius AI，這是一種革命性的計算AI工具
