Akamai снижает затраты на облако на 70% с помощью автоматизации Kubernetes на базе ИИ

В эпоху генеративного ИИ расходы на облако стремительно растут. Предприятия прогнозируют потери в $44.5 миллиарда на ненужные облачные расходы в этом году из-за неэффективного использования ресурсов.

Akamai Technologies, с её обширной многооблачной инфраструктурой и строгими требованиями к безопасности, сталкивается с этой проблемой особенно остро.

Для её решения гигант кибербезопасности и доставки контента внедрил платформу автоматизации Kubernetes от Cast AI, используя ИИ-агентов для оптимизации затрат, безопасности и производительности в облачных средах.

Решение обеспечило снижение облачных затрат на 40–70% в зависимости от рабочей нагрузки.

«Нам требовалась непрерывная оптимизация инфраструктуры для сокращения облачных затрат без ущерба для производительности», — сказал Декель Шавит, старший директор по облачной инженерии в Akamai, в интервью VentureBeat. «Как обработчик событий безопасности, задержки недопустимы. Неспособность реагировать на атаки в реальном времени — не вариант».

ИИ-агенты для мониторинга и оптимизации в реальном времени

Kubernetes упрощает развертывание, масштабирование и управление приложениями, особенно в облачно-ориентированных и микросервисных конфигурациях.

Cast AI интегрируется с Kubernetes, помогая клиентам масштабировать кластеры, выбирать оптимальную инфраструктуру и управлять жизненным циклом вычислений, объяснил Лоран Жиль, основатель и генеральный директор. Платформа автоматизации производительности приложений (APA) использует специализированных ИИ-агентов для непрерывного мониторинга, анализа и повышения производительности, безопасности, эффективности и затрат приложений. Компании могут выделять только необходимые вычислительные ресурсы от провайдеров, таких как AWS, Microsoft или Google.

APA использует модели машинного обучения с обучением с подкреплением, опираясь на исторические данные и шаблоны, в сочетании с инструментами наблюдения и эвристикой. Интегрированная с инструментами инфраструктуры как кода в нескольких облаках, она предлагает полную автоматизацию.

Жиль подчеркнул, что наблюдение — это только отправная точка, а не конечная цель. Cast AI поддерживает постепенное внедрение, интегрируясь с существующими инструментами и рабочими процессами без необходимости полной перестройки. Все анализы и действия остаются в пределах выделенных кластеров Kubernetes клиента, обеспечивая повышенную безопасность и контроль.

Жиль также отметил ориентированную на человека автоматизацию, подчеркивая, что APA поддерживает рабочие процессы с участием человека, дополняя принятие решений.

Сложные требования инфраструктуры Akamai

Шавит объяснил, что обширная облачная инфраструктура Akamai поддерживает её сеть доставки контента (CDN) и услуги кибербезопасности для некоторых из самых требовательных клиентов в мире, соблюдая строгие соглашения об уровне обслуживания (SLA) и стандарты производительности.

Являясь одним из крупнейших потребителей услуг некоторых поставщиков, Akamai провела обширную разработку и переработку с гипермасштабируемым провайдером для удовлетворения своих потребностей.

Обслуживая различных клиентов, включая крупные финансовые учреждения и компании по выпуску кредитных карт, услуги Akamai критически важны для их безопасности.

Балансировка этой сложности с затратами — это вызов. Шавит отметил, что реальные атаки могут увеличить потребности в мощности в 100 или 1000 раз для определённых компонентов. Однако предварительное масштабирование облачных мощностей в таких масштабах финансово нецелесообразно.

Хотя оптимизация на уровне кода рассматривалась, сложность бизнес-модели Akamai потребовала сосредоточиться на основной инфраструктуре.

Оптимизация Kubernetes в реальном времени

Akamai требовалась платформа автоматизации Kubernetes для оптимизации затрат в многооблачной инфраструктуре в реальном времени, динамически масштабируя приложения в зависимости от изменяющегося спроса без ущерба для производительности, объяснил Шавит.

Ранее команда DevOps Akamai вручную корректировала рабочие нагрузки Kubernetes несколько раз в месяц, что было дорого и сложно из-за масштаба инфраструктуры. Этот эпизодический подход упускал возможности оптимизации в реальном времени.

«Теперь сотни агентов Cast AI выполняют эту настройку каждую секунду», — сказал Шавит.

Ключевые функции APA, на которые полагается Akamai, включают автоскейлинг, продвинутую автоматизацию Kubernetes с упаковкой контейнеров, автоматический выбор экономичных вычислительных экземпляров, оптимизацию размеров рабочих нагрузок, автоматизацию Spot-экземпляров на протяжении их жизненного цикла и аналитику затрат.

«Через две минуты после интеграции мы получили беспрецедентные аналитические данные о затратах», — сказал Шавит. «Как только агенты начали работать, оптимизация началась, и экономия последовала автоматически».

Spot-экземпляры, предлагающие скидки на неиспользуемые облачные мощности, были привлекательны, но сложны для рабочих нагрузок Akamai, особенно Apache Spark. Избыточная разработка или добавление ручных усилий были слишком затратными.

С Cast AI Akamai использовала Spot-экземпляры для Spark без инженерных затрат. «Ценность Spot-экземпляров была очевидна; нам просто нужен был правильный инструмент», — сказал Шавит.

Хотя удвоение или утроение экономии на облачных счетах значительно, Шавит подчеркнул, что автоматизация без ручного вмешательства «бесценна», экономя значительное время.

Ранее его команда постоянно корректировала инфраструктуру для поддержания производственных сред и удовлетворения потребностей клиентов.

«Самое большое преимущество в том, что мы больше не управляем нашей инфраструктурой», — сказал Шавит. «Агенты Cast AI справляются с этим, освобождая нашу команду для более быстрой доставки функций клиентам».

Примечание редактора: На VB Transform в этом месяце технический директор Google Cloud Уилл Граннис и старший вице-президент и главный аналитический директор High容量 Health Ричард Кларк рассмотрят новый стек ИИ в здравоохранении и вызовы развертывания мультимодельных систем ИИ в сложной регулируемой среде. Зарегистрируйтесь сегодня.