4 Экспертные советы по обеспечению безопасности для предприятий, чтобы ориентироваться

Киберпреступники теперь используют искусственный интеллект (ИИ) для улучшения всех этапов своих атак. Они применяют большие языковые модели (LLMs) для создания высокоперсонализированных фишинговых писем, собирая личные данные из социальных сетей и профессиональных сетей. Тем временем генеративные противоборствующие сети (GANs) используются для создания дипфейк-аудио и видео, которые могут обмануть системы многофакторной аутентификации. Даже скрипт-кидди включаются в игру, используя автоматизированные инструменты, такие как WormGPT, для развертывания полиморфного вредоносного ПО, которое может изменяться и уклоняться от традиционных методов обнаружения.

Это не просто гипотетические угрозы; они происходят сейчас. Компании, которые не адаптируют свои стратегии безопасности, столкнутся с волной сложных киберугроз не только в 2025 году, но и в дальнейшем.

Хотите оставаться впереди в эпоху ИИ? У вас есть два варианта: внедрить ИИ в свои операции или использовать ИИ для улучшения вашего бизнеса.

Чтобы глубже погрузиться в то, как ИИ меняет безопасность предприятий, я побеседовал с Брэндоном Роджерсом, главным клиентским директором Island и опытным экспертом по кибербезопасности. Мы обсудили эволюционирующий ландшафт цифровой безопасности, раннее обнаружение угроз и стратегии подготовки вашей команды к атакам, управляемым ИИ. Но сначала давайте зададим контекст.

Почему угрозы кибербезопасности с использованием ИИ отличаются

ИИ предоставляет злоумышленникам продвинутые инструменты, которые делают кибератаки более целенаправленными, убедительными и сложными для обнаружения. Например, современные системы генеративного ИИ могут просеивать огромные наборы данных личной информации, корпоративных коммуникаций и социальных сетей, чтобы создавать фишинговые кампании, которые выглядят так, будто они исходят от доверенных источников. В сочетании с вредоносным ПО, которое автоматически адаптируется к мерам безопасности, масштаб и эффективность этих атак резко возрастают.

Технология дипфейков идет еще дальше, создавая реалистичные видео- и аудиоконтенты, которые позволяют осуществлять всё, от мошенничества с подменой руководителей до масштабных кампаний по дезинформации. Мы видели реальные примеры, такие как кража 25 миллионов долларов у компании в Гонконге через видеоконференцию с дипфейком, и множество случаев, когда аудиоклипы, сгенерированные ИИ, обманывали людей, заставляя переводить деньги мошенникам.

Автоматизированные кибератаки, управляемые ИИ, также представили системы "установил и забыл", которые постоянно ищут уязвимости, адаптируются к контрмерам и используют слабые места без участия человека. Примечательный случай — взлом AWS в 2024 году, где вредоносное ПО, управляемое ИИ, картировало сеть, определило уязвимости и выполнило сложную атаку, скомпрометировав тысячи клиентских аккаунтов.

Эти инциденты показывают, что ИИ не просто усиливает существующие киберугрозы; он порождает совершенно новые типы рисков безопасности. Вот как Брэндон Роджерс предлагает справляться с этими вызовами.

1. Внедрение архитектуры нулевого доверия

Старая модель периметра безопасности больше не справляется с угрозами, усиленными ИИ. Архитектура нулевого доверия следует подходу "никогда не доверяй, всегда проверяй", гарантируя, что каждый пользователь, устройство и приложение должны быть аутентифицированы и авторизованы перед доступом к ресурсам. Этот метод минимизирует риск несанкционированного доступа, даже если злоумышленникам удастся проникнуть в сеть.

"Компании должны проверять каждого пользователя, устройство и приложение — включая ИИ — прежде чем они смогут коснуться критически важных данных или функций," — подчеркивает Роджерс, называя это лучшей стратегией защиты. Постоянная проверка идентичности и строгая политика контроля доступа позволяют компаниям сократить поверхность атаки и ограничить ущерб от скомпрометированных аккаунтов.

Хотя ИИ создает новые вызовы, он также предоставляет мощные инструменты защиты. Решения безопасности, управляемые ИИ, могут анализировать огромные объемы данных в реальном времени, обнаруживая аномалии и потенциальные угрозы, которые могут пропустить традиционные методы. Эти системы адаптируются к новым шаблонам атак, предлагая динамическую защиту от кибератак, управляемых ИИ.

Роджерс предупреждает, что ИИ в киберзащите не следует рассматривать просто как дополнительную функцию. "Руководители по информационной безопасности и лидеры должны внедрять ИИ в свои системы с нуля," — говорит он. Интегрируя ИИ в инфраструктуру безопасности, организации могут повысить свою способность быстро обнаруживать и реагировать на инциденты, сокращая окно возможностей для злоумышленников.

2. Обучение и подготовка сотрудников по угрозам, связанным с ИИ

Создавая культуру осведомленности о безопасности и устанавливая четкие руководства по использованию инструментов ИИ, компании могут снизить риск внутренних уязвимостей. В конце концов, люди сложны, и часто простые решения работают лучше всего.

"Речь идет не только о защите от внешних атак. Это также о задании границ для сотрудников, использующих ИИ как 'чит-код' для продуктивности," — объясняет Роджерс.

Человеческая ошибка остается основным слабым местом в кибербезопасности. Поскольку фишинговые и социальные инженерные атаки, сгенерированные ИИ, становятся более убедительными, крайне важно обучать сотрудников этим эволюционирующим угрозам. Регулярное обучение может помочь им обнаруживать подозрительные действия, такие как неожиданные письма или необычные запросы, нарушающие обычные процедуры.

3. Мониторинг и регулирование использования ИИ сотрудниками

Технологии ИИ широко применяются в бизнесе, но несанкционированное или немониторируемое использование — так называемый "теневой ИИ" — может создать серьезные риски безопасности. Сотрудники могут случайно использовать приложения ИИ без должной безопасности, что приводит к утечкам данных или проблемам с соответствием.

"Мы не можем допустить, чтобы корпоративные данные свободно перетекали в несанкционированные среды ИИ, поэтому нужно найти баланс," — отмечает Роджерс. Политики, регулирующие инструменты ИИ, регулярные аудиты и обеспечение соответствия всех приложений ИИ стандартам безопасности компании — ключ к управлению этими рисками.

4. Сотрудничество с экспертами по ИИ и кибербезопасности

Сложность угроз, управляемых ИИ, означает, что компаниям нужно работать с экспертами по ИИ и кибербезопасности. Партнерство с внешними фирмами может предоставить организациям доступ к последней информации об угрозах, передовым технологиям защиты и специализированным навыкам, которых может не быть внутри компании.

Атаки, управляемые ИИ, требуют сложных средств защиты, которые традиционные инструменты безопасности часто не могут предоставить. Платформы обнаружения угроз, усиленные ИИ, безопасные браузеры и контроли доступа с нулевым доверием могут анализировать поведение пользователей, выявлять аномалии и предотвращать несанкционированный доступ злоумышленников.

Роджерс указывает, что инновационные решения для предприятий "являются недостающим звеном в головоломке безопасности с нулевым доверием. Эти инструменты предлагают глубокие, детализированные контроли безопасности, защищающие любое приложение или ресурс в публичных и частных сетях."

Эти инструменты используют машинное обучение для мониторинга сетевой активности, выявления подозрительных шаблонов и автоматизации реагирования на инциденты, снижая риск проникновения атак, сгенерированных ИИ, в корпоративные системы.