Akamai, AI 기반 Kubernetes 자동화로 클라우드 비용 70% 절감

생성 AI 시대에 클라우드 비용이 급등하고 있습니다. 기업들은 비효율적인 자원 사용으로 인해 올해 불필요한 클라우드 지출로 445억 달러를 낭비할 것으로 예상됩니다.

Akamai Technologies는 방대한 멀티클라우드 인프라와 엄격한 보안 요구 사항으로 인해 이 문제에 직면해 있습니다.

이를 해결하기 위해 이 사이버보안 및 콘텐츠 전송 대기업은 Cast AI의 Kubernetes 자동화 플랫폼을 채택하여 AI 에이전트를 활용해 클라우드 환경 전반에 걸쳐 비용, 보안, 성능을 최적화했습니다.

이 솔루션은 워크로드에 따라 클라우드 비용을 40%에서 70%까지 절감했습니다.

“우리는 성능 저하 없이 클라우드 비용을 줄이기 위해 인프라를 지속적으로 최적화해야 했습니다,” Akamai의 클라우드 엔지니어링 수석 디렉터인 Dekel Shavit이 VentureBeat와의 인터뷰에서 말했습니다. “보안 이벤트 프로세서로서 지연은 용납되지 않습니다. 실시간으로 공격에 대응하지 못하는 것은 선택지가 아닙니다.”

실시간 모니터링 및 최적화를 위한 AI 에이전트

Kubernetes는 특히 클라우드 네이티브 및 마이크로서비스 설정에서 애플리케이션 배포, 확장, 관리를 간소화합니다.

Cast AI는 Kubernetes와 통합되어 클라이언트가 클러스터를 확장하고, 최적의 인프라를 선택하며, 컴퓨팅 라이프사이클을 관리할 수 있도록 돕습니다,라고 창립자이자 CEO인 Laurent Gil이 설명했습니다. APA(Application Performance Automation) 플랫폼은 전문 AI 에이전트를 사용해 애플리케이션 성능, 보안, 효율성, 비용을 지속적으로 모니터링, 분석, 개선합니다. 기업은 AWS, Microsoft, Google 같은 제공업체로부터 필요한 컴퓨팅만 프로비저닝할 수 있습니다.

APA는 강화 학습을 활용한 머신 러닝 모델을 사용하며, 과거 데이터와 패턴, 관찰 도구, 휴리스틱을 결합합니다. 여러 클라우드에서 인프라-as-code 도구와 통합되어 완전한 자동화를 제공합니다.

Gil은 관찰 가능성이 단순한 시작점일 뿐 목표가 아니라고 강조했습니다. Cast AI는 기존 도구 및 워크플로우와 통합되어 완전한 개편 없이 점진적인 채택을 지원합니다. 모든 분석과 작업은 고객의 전용 Kubernetes 클러스터 내에서 이루어져 보안과 제어를 강화합니다.

Gil은 또한 인간 중심의 자동화를 강조하며, APA가 인간-인-더-루프 워크플로우를 지원해 의사 결정을 보완한다고 밝혔습니다.

Akamai의 복잡한 인프라 요구 사항

Shavit은 Akamai의 방대한 클라우드 인프라가 콘텐츠 전송 네트워크(CDN)와 세계에서 가장 까다로운 고객을 위한 사이버보안 서비스를 지원하며, 엄격한 서비스 수준 계약(SLA)과 성능 표준을 준수한다고 설명했습니다.

특정 벤더 서비스의 최대 소비자 중 하나인 Akamai는 하이퍼스케일러와 광범위한 엔지니어링 및 재엔지니어링을 수행해 요구를 충족했습니다.

주요 금융 기관 및 신용카드 회사를 포함한 다양한 고객을 서비스하며, Akamai의 서비스는 그들의 보안 태세에 매우 중요합니다.

이 복잡성을 비용과 균형 잡는 것은 도전 과제입니다. Shavit은 실제 공격이 특정 구성 요소의 용량 요구를 100배 또는 1,000배로 급증시킬 수 있다고 언급했습니다. 그러나 클라우드 용량을 그런 규모로 미리 확장하는 것은 재정적으로 비현실적입니다.

코드 수준 최적화도 고려되었지만, Akamai의 비즈니스 모델 복잡성으로 인해 핵심 인프라에 집중해야 했습니다.

실시간 Kubernetes 최적화

Shavit은 Akamai가 멀티클라우드 인프라 전반의 비용을 실시간으로 최적화하고, 성능 저하 없이 변동하는 수요에 따라 애플리케이션을 동적으로 확장하는 Kubernetes 자동화 플랫폼이 필요했다고 설명했습니다.

이전에는 Akamai의 DevOps 팀이 한 달에 몇 번 Kubernetes 워크로드를 수동으로 조정했으며, 이는 인프라 규모를 고려할 때 비용이 많이 들고 어려운 과정이었습니다. 이 산발적인 접근은 실시간 최적화 기회를 놓쳤습니다.

“이제 Cast AI 에이전트 수백 개가 매초 이 튜닝을 수행합니다,” Shavit이 말했습니다.

Akamai가 의존하는 주요 APA 기능에는 오토스케일링, bin packing을 포함한 고급 Kubernetes 자동화, 비용 효율적인 컴퓨팅 인스턴스 자동 선택, 워크로드 크기 조정, 인스턴스 라이프사이클 전반의 Spot 인스턴스 자동화, 비용 분석이 포함됩니다.

“통합 후 2분 만에 전례 없는 비용 분석 통찰을 얻었습니다,” Shavit이 말했습니다. “에이전트가 활성화되자 최적화가 시작되었고, 절감 효과가 자동으로 따랐습니다.”

할인된 미사용 클라우드 용량을 제공하는 Spot 인스턴스는 매력적이었지만, 특히 Apache Spark와 같은 Akamai의 워크로드에는 복잡했습니다. 과도한 엔지니어링이나 수동 작업 추가는 비용이 많이 들었습니다.

Cast AI를 통해 Akamai는 엔지니어링 투자 없이 Spark에 Spot 인스턴스를 활용했습니다. “Spot 인스턴스의 가치는 명확했지만, 적절한 도구가 필요했습니다,” Shavit이 말했습니다.

클라우드 비용 절감이 두 배, 세 배로 증가하는 것도 중요하지만, Shavit은 수동 개입 없는 자동화가 “가치가 매우 크다”며 상당한 시간을 절약했다고 강조했습니다.

이전에는 그의 팀이 프로덕션 환경을 유지하고 고객 요구를 충족하기 위해 인프라를 지속적으로 조정했습니다.

“가장 큰 이점은 우리가 더 이상 인프라를 관리하지 않는다는 것입니다,” Shavit이 말했습니다. “Cast AI의 에이전트가 이를 처리해 우리 팀은 고객에게 기능을 더 빠르게 제공하는 데 집중할 수 있습니다.”

편집자 주: 이번 달 VB Transform에서 Google Cloud CTO Will Grannis와 Highmark Health SVP 겸 최고 분석 책임자 Richard Clarke는 의료 분야의 새로운 AI 스택과 복잡하고 규제된 환경에서 멀티모델 AI 시스템 배포의 도전 과제를 탐구할 것입니다. 오늘 등록하세요.