Инструменты безопасности на основе AI: ваше секретное оружие против будущих кибератак

В мире кибербезопасности это хорошо известный факт, что злоумышленники должны найти только одну уязвимость, чтобы вызвать хаос, в то время как защитники должны защищать от каждой возможной угрозы. Эта динамика становится еще более сложной с интеграцией ИИ в кибербезопасность, превращая ее в гонку вооружений, где как нападающие, так и защитники имеют доступ к мощным инструментам ИИ.

Cisco, гигант в сетевой индустрии, находится в авангарде этой битвы, постоянно работая, чтобы защитить своих клиентов от кибератаков с AI. В эксклюзивном интервью с Zdnet, Ананд Рагхаван, вице -президентом Cisco по продуктам искусственного интеллекта, проливает свет на то, как ИИ меняет кибербезопасность и расширяет потенциальные поверхности атаки для организаций.

Zdnet: Можете ли вы кратко представиться и описать свою роль в Cisco?

Ананд Рагхаван: Я Ананд Рагхаван, вице -президент по продуктам для ИИ в группе программного обеспечения и платформ Cisco. Моя команда сотрудничает с различными командами продуктов в Cisco для разработки и предоставления безопасных и надежных генеративных продуктов с AI, нашим клиентам. Недавно мы запустили помощника Cisco AI, который упрощает взаимодействие с клиентами с нашими продуктами через естественный язык, и Defense Cisco AI, что обеспечивает безопасное и безопасное использование ИИ как для сотрудников, так и для облачных приложений, разработанных для клиентов.

ZDNet: Как ИИ преобразует характер угроз, предпринимаемых и правительства, с которыми сталкиваются на уровне сети?

AR: ИИ произвел революцию в сетевой безопасности, позволяя хакерам выполнять более сложные и эффективные атаки. Они используют ИИ для автоматизации и персонализации фишинговых кампаний, что делает их более убедительными и увеличивая вероятность того, что сотрудники влюбится в них. Мы также видим вредоносную программу с AI, которые могут адаптироваться к уклонению от традиционных мер безопасности. По мере того, как инструменты искусственного интеллекта становятся более распространенными, они не только расширяют поверхность атаки, но и усиливают проблему Shadow It.

В то время как компании используют ИИ для инноваций, вредоносные субъекты используют ту же технологию для создания новых угроз. Теперь важно больше, чем когда -либо, использовать последние достижения в области искусственного интеллекта для быстрого обнаружения и смягчения этих возникающих угроз.

Например, наша технология зашифрованного двигателя видимости может остановить вредоносные подключения в режиме реального времени в наших брандмауэрах, а в нашем продукте для защиты угроз электронной почты используются языковые детекторы для выявления мошеннических электронных писем. С ростом приложений для искусственного интеллекта, стоящих перед клиентами, уязвимости в моделях ИИ стали новой критической атакой. Эти модели могут быть нацелены на быстрой инъекции или атаки отказа в обслуживании, потенциально протекающие конфиденциальные данные. Индустрия безопасности участвует в том, чтобы интегрировать ИИ в решения для обнаружения необычных моделей и подозрительной сетевой деятельности.

ZDNet: Как инструменты, управляемые искусственным интеллектом, помогают предприятиям опережать все более сложные кибер-противники?

AR: В сегодняшнем ландшафте динамической угрозы инструменты безопасности на основе AI обеспечивают непрерывный и самооптимизирующий мониторинг в масштабе, с которым ручные усилия не могут соответствовать. ИИ позволяет командам безопасности анализировать данные со всей экосистемы организации, быстро обнаруживая необычные закономерности или подозрительный трафик, который может указывать на нарушение. Этот быстрый анализ позволяет в реальном времени в реальном времени реакциями на потенциальные угрозы.

ИИ дополняет специалистов по безопасности человека, повышая видимость и время отклика, создавая сценарий «лучше вместе». В мире, где аналитиков безопасности высшего уровня мало, ИИ может поддерживать аналитиков уровня 1 и уровня 2, значительно сокращая время, необходимое для решения новых инцидентов и угроз. Автоматизация рабочих процессов для расширенного обнаружения и ответа (XDR) с использованием ИИ является ключом к тому, чтобы оставаться впереди кибер -противников.

Zdnet: Объясните защиту ИИ, и какова основная проблема, которую он стремится решить?

AR: Быстрое принятие приложений ИИ неоспоримо, но в рамках организаций темпы развития и принятия ИИ медленнее из -за опасений по поводу безопасности и безопасности. Согласно Индексу готовности к AI в Cisco в 2024 году, только 29% организаций чувствуют себя полностью оборудованными для обнаружения и предотвращения несанкционированного фальсификации с ИИ. Компании сталкиваются с дилеммой: двигаться слишком быстро и рисковать безопасностью, или слишком медленно двигайтесь и рискуйте отставать от конкурентов.

AI Defense обращается к этому, включив и защищая преобразование ИИ на предприятиях. Он справляется с двумя основными рисками: воздействие конфиденциальных данных посредством неправильного использования сторонних инструментов ИИ и безопасность моделей ИИ, разработанных и развернутых предприятиями. Наше решение по доступу искусственного интеллекта обеспечивает видимость в использовании сторонних ИИ и позволяет устанавливать политики ограничивать обмен данными или ограничивать доступ к несанкционированным инструментам. Для предприятий, разрабатывающих приложения ИИ, AI Defense использует алгоритмические технологии Red Team для автоматизации оценки уязвимости и обеспечивает защиту в режиме реального времени от угроз, таких как быстрые инъекции и извлечение данных.

Zdnet: Как защита ИИ отличается от существующих фреймворков безопасности?

AR: AI представляет уникальные проблемы безопасности, для которых традиционные рамки не предназначены. Защита ИИ специально создана для защиты предприятий от рисков, связанных с использованием и разработкой применения ИИ. Он основан на пользовательских моделях ИИ Cisco, сосредоточенных на непрерывной проверке ИИ и защите в масштабе.

Традиционные приложения защищены человеческими красными командами, но этот подход не масштабируется для неэнергинистических моделей ИИ. AI Defense использует алгоритмическую красную команду, чтобы постоянно контролировать уязвимости и рекомендовать ограждения. Наш подход платформы гарантирует, что эти ограждения распределяются по всей сети, обеспечивая полную видимость в области ИИ.

ZDNet: Каково видение Cisco для интеграции защиты ИИ с более широкими стратегиями безопасности предприятия?

AR: Индекс готовности AI от Cisco 2024 года подчеркивает, что организации, с которыми сталкиваются организации давления для принятия ИИ, однако многие не готовы и не знают о рисках безопасности ИИ. AI Defense предназначена для того, чтобы помочь организациям надежно разблокировать преимущества AI в многоклетной многомоделической среде. Он обеспечивает видимость и контроль над приложениями искусственного интеллекта, что облегчает инновации разработчикам без ущерба для безопасности.

Жизненный цикл усыновления для ИИ включает в себя видимость, валидацию и защиту времени выполнения. AI Defense поддерживает эти шаги, причем правоприменение происходит посредством безопасного доступа или продуктов SASE для защиты сотрудников, а также благодаря облачным приложениям для защиты от Shother, таких как Cisco MultiCloud Defense для облачных приложений.

ZDNet: Какие стратегии должны принять предприятия, чтобы смягчить риски состязательных атак на системы ИИ?

AR: Приложения ИИ вводят новые риски безопасности из-за непредсказуемого и неэнергинистического характера. Модели могут страдать от галлюцинаций или быть уязвимыми для таких атак, как отравление данными и быстрое инъекцию. В многослойной, многомодерной среде, противоречивые стандарты безопасности могут быть проблемой.

Чтобы защитить от фальсификации ИИ и утечки данных, организациям нужен единый подход безопасности во всех облаках, приложениях и моделях. Это особенно важно, когда подотчетность фрагментирована по разным заинтересованным сторонам. Основной является общий продукт безопасности искусственного интеллекта, который контролирует и обеспечивает соблюдение ограждений по всем категориям безопасности и безопасности искусственного интеллекта, как указано такими стандартами, как Miter Atlas, Owasp LLM10 и NIST RMF.

ZDNet: Не могли бы вы поделиться реальным сценарием или тематическим исследованием, где защита ИИ может предотвратить критическое нарушение безопасности?

AR: AI Defense рассматривает две основные области риска ИИ предприятия: использование сторонних инструментов ИИ и разработка новых приложений ИИ. В одном сценарии сотрудник может поделиться информацией о клиентах с несанкционированным помощником искусственного интеллекта, чтобы помочь с презентацией. Эти данные могут стать частью повторных данных ИИ, рискуя нарушением конфиденциальности. Защита ИИ может ограничить обмен данными или ограничить доступ к инструменту, смягчая риск.

В другом сценарии разработчик искусственного интеллекта может использовать модель с открытым исходным кодом для создания помощника по обслуживанию клиентов, непреднамеренно ослабляя свои ограждения. Затем помощник может начать предоставлять неверные ответы и стать уязвимым для атак. Защита ИИ будет определять этот недостаток посредством непрерывного мониторинга и автоматически применять необходимые ограждения.

ZDNet: Какие появляющиеся тенденции в безопасности искусственного интеллекта вы предвидите будущее будущее кибербезопасности?

AR: Одной из значительных тенденций является уменьшение времени между обнаружением уязвимости и эксплуатацией злоумышленников, благодаря ИИ. Организации должны обнаружить и исправлять уязвимости быстрее, чем когда -либо. ИИ может ускорить обнаружение уязвимости, обеспечивая реакцию в реальном времени.

Глубобы - еще одна важная проблема в течение следующих пяти лет. Индустрия безопасности только начинает готовиться к защите от них, но они будут представлять значительный риск. Подобно тому, как в прошлом атаки и вымогатели отказа в обслуживании были серьезными угрозами, DeepFakes станет бессонной ночью для многих специалистов по безопасности.

ZDNet: Как правительства и предприятия могут сотрудничать для создания надежных стандартов безопасности ИИ?

AR: Сотрудничество между правительствами и частным сектором может использовать различные знания и перспективы для разработки лучших практик в быстро развивающейся ландшафте безопасности ИИ. В прошлом году Cisco работала с совместным сотрудником кибер-обороны (JCDC) Агентства по безопасности инфраструктуры (CISA), в которую входили лидеры отрасли и государственные учреждения, чтобы улучшить коллективный ответ на инциденты, связанные с ВП.

Мы участвовали в настольном упражнении и внесли свой вклад в «Играцию по вопросам сотрудничества в области безопасности в безопасности искусственного интеллекта», которая предоставляет практическое руководство для реагирования на инциденты, связанные с ИИ, и обмениваться информацией об уязвимости системы искусственного интеллекта. Это сотрудничество может повысить осведомленность о рисках безопасности, связанных с технологией ИИ.

Zdnet: Как вы видите, как ИИ преодолевает разрыв между профилактикой кибератак и реагированием на инциденты?

AR: Security Security Secriation уже обеспечивают непрерывный и масштабируемый мониторинг, помогая группам безопасности человека обнаруживать подозрительную деятельность и уязвимости. ИИ является бесценным инструментом, который повышает видимость и дает рекомендации для ответа на инцидент.

В будущем ИИ может автоматически развернуть и реализовать исправления безопасности в рамках человеческого надзора. Преимущества включают непрерывный мониторинг, масштабируемость по мере роста поверхности атаки, повышение точности обнаружения тонких показателей и более быстрое время отклика по сравнению с ручными обзорами.

ИИ трансформирует кибербезопасность, но действительно ли предприятия подготовлены к рискам, которые он приносит? Вы столкнулись с киберугрозами, управляемыми ИИ, в вашей организации? Как вы думаете, Security Secrections с AI могут опережать все более сложные атаки? Как вы видите баланс между ИИ как инструментом безопасности и потенциальной уязвимостью? Делится ли компании, чтобы защитить свои модели ИИ от эксплуатации? Дайте нам знать в комментариях ниже.

Вы можете следить за моими повседневными обновлениями проекта в социальных сетях. Обязательно подпишитесь на мою еженедельную новостную рассылку обновлений и подпишитесь на меня в Twitter/X на @DavidgeWirtz, на Facebook на Facebook.com/davidgewirtz, в Instagram на Instagram.com/davidgewirtz, на Bluesky на @DavidgeWirtz.com и на YouTube на YouTube.com/DavidgeWirtzTV.