IT-инновации

Akamai сэкономила до 70% на облачных расходах благодаря ИИ-оптимизации Kubernetes

Главный редакторAMP · Быстрое чтение

На фоне стремительного роста популярности генеративного ИИ затраты на облачные услуги достигли рекордных значений. Однако причина не только в увеличении потребляемых вычислительных ресурсов – предприятия часто используют их неэффективно. По оценкам, только в этом году компании по всему миру потратят впустую $44,5 млрд из-за неоптимального использования облаков.

Для Akamai Technologies эта проблема стоит особенно остро. Компания управляет масштабной и сложной облачной инфраструктурой, развернутой на нескольких платформах, и при этом должна соблюдать множество строгих требований безопасности.

Кибербезопасность как основа ИИ-модели
Чтобы решить эту задачу, провайдер услуг по доставке контента и кибербезопасности обратился к платформе автоматизации Kubernetes — Cast AI. Ее ИИ-агенты помогают оптимизировать затраты, безопасность и скорость работы в различных облачных средах.

В результате Akamai удалось сократить облачные расходы на 40-70% в зависимости от типа рабочей нагрузки.

«Нам требовался постоянный способ оптимизировать нашу инфраструктуру и снижать затраты на облака без ущерба для производительности, — заявил VentureBeat Декель Шавит (Dekel Shavit), старший директор по облачной разработке Akamai. — Мы обрабатываем события безопасности. Задержки недопустимы. Если мы не сможем реагировать на атаки в реальном времени, это будет означать наш провал».

Специализированные агенты: мониторинг, анализ, действие
Kubernetes управляет инфраструктурой, на которой работают приложения, упрощая их развертывание, масштабирование и администрирование, особенно в облачно-ориентированных и микросервисных архитектурах.

Как пояснил основатель и CEO Cast AI Лоран Жиль (Laurent Gil), платформа интегрирована в экосистему Kubernetes, чтобы помогать клиентам масштабировать кластеры и рабочие нагрузки, выбирать оптимальную инфраструктуру и управлять жизненным циклом вычислительных ресурсов. Ее ядро — Automation Performance Automation (APA), работающее через команду специализированных агентов. Эти агенты непрерывно отслеживают состояние системы, анализируют данные и предпринимают действия для улучшения производительности, безопасности, эффективности приложений и снижения затрат. Компании оплачивают только необходимые им ресурсы от AWS, Microsoft, Google и других провайдеров.

APA работает на базе нескольких моделей машинного обучения (МО) с использованием обучения с подкреплением (Reinforcement Learning, RL), основанных на исторических данных и выявленных закономерностях. Эти модели дополнены стеком наблюдения (observability) и эвристическими правилами. Платформа интегрирована с инструментами инфраструктуры как кода (IaC) в нескольких облаках, что делает ее полностью автоматизированным решением.

Жиль подчеркнул, что APA построена на принципе, что наблюдение — это лишь отправная точка, «основа, а не цель». Cast AI также поддерживает постепенное внедрение: клиентам не нужно полностью заменять существующие системы, они могут интегрировать платформу с текущими инструментами и процессами. Все анализ и действия происходят исключительно внутри инфраструктуры заказчика, в его выделенных кластерах Kubernetes, обеспечивая максимальный уровень безопасности и контроля.

Особое внимание уделяется роли человека. «Автоматизация дополняет, а не заменяет человеческие решения», — сказал Жиль, отметив, что в APA реализованы процессы с участием человека («human-in-the-middle»).

Уникальные вызовы Akamai
Шавит объяснил, что мощная и сложная облачная инфраструктура Akamai обеспечивает работу сети доставки контента (CDN) и сервисов кибербезопасности для «одних из самых требовательных клиентов и отраслей мира» при строгом соблюдении соглашений об уровне обслуживания (SLA) и требований к производительности.

По его словам, для некоторых потребляемых сервисов Akamai является крупнейшим клиентом поставщика. Компания провела огромный объем инженерных работ и реинжиниринга со своим облачным провайдером (hyperscaler), чтобы обеспечить свои нужды.

Кроме того, Akamai обслуживает клиентов разных размеров и из различных отраслей, включая крупные финансовые институты и компании, выпускающие кредитные карты. Работа сервисов Akamai напрямую влияет на уровень безопасности ее клиентов.

В итоге перед Akamai встала задача сбалансировать всю эту сложность с затратами. Шавит отметил, что реальные атаки на клиентов могут вызвать стократный или тысячекратный рост нагрузки на отдельные компоненты инфраструктуры. Но «заранее масштабировать облачные мощности в 1000 раз просто финансово нецелесообразно».

Команда рассматривала оптимизацию на уровне кода, но присущая бизнес-модели сложность заставила сосредоточиться на самой базовой инфраструктуре.