Руководители служб безопасности призывают к быстрому регулированию ИИ, ссылаясь на риски таких инструментов, как DeepSeek

В операционных центрах безопасности, особенно среди руководителей служб информационной безопасности (CISO), растет беспокойство по поводу гиганта искусственного интеллекта DeepSeek из Китая.

Хотя изначально искусственный интеллект приветствовался как прорыв в области эффективности бизнеса и инноваций, сейчас он вызывает серьезные опасения у тех, кто возглавляет корпоративную защиту.

Значительное большинство - 81 % - британских CISO призывают к немедленному государственному регулированию китайского ИИ-чатбота. Они предупреждают, что отсутствие быстрых действий может привести к тому, что этот инструмент спровоцирует общенациональный кризис кибербезопасности.

Эта обеспокоенность основана не на домыслах, а непосредственно на непрозрачных методах работы с данными и потенциале вредоносного использования технологии - вопросах, которые вызывают тревогу на самом высоком уровне корпоративной безопасности.

Эти данные получены в результате опроса 250 руководителей CISO крупнейших британских организаций, проведенного для отчета Absolute Security "Индекс риска устойчивости в Великобритании". Полученные данные свидетельствуют о том, что некогда теоретическая угроза ИИ стала для руководителей служб безопасности ощутимой реальностью, требующей принятия решительных мер.

Отражая резкое изменение стратегии, более трети руководителей (34 %) уже ввели полный запрет на использование инструментов ИИ из-за опасений по поводу безопасности. Еще 30 % остановили конкретные внедрения ИИ в своих компаниях.

Это не отказ от технологии, а прагматичная реакция на растущие риски. Компании уже сталкиваются с изощренными угрозами, о чем свидетельствуют такие громкие инциденты, как недавний взлом в Harrods. CISO трудно идти в ногу со временем, а перспектива развития искусственного интеллекта, расширяющего возможности злоумышленников, - это вызов, к которому многие не готовы.

Расширяющийся пробел в безопасности таких платформ, как DeepSeek

Основной риск таких платформ, как DeepSeek, заключается в их двойном потенциале - утечка конфиденциальных корпоративных данных и использование киберпреступниками в качестве инструмента атаки.

Шестьдесят процентов руководителей CISO ожидают прямого роста числа кибератак, вызванных распространением DeepSeek. Столько же сообщают, что эта технология уже усложняет протоколы конфиденциальности и управления, доводя и без того сложную работу до предела.

Это привело к заметному изменению восприятия. Когда-то ИИ считался потенциальной переломной технологией для защиты, но теперь специалисты по безопасности все чаще рассматривают его как часть угрозы. По данным опроса, 42 % руководителей CISO теперь считают, что ИИ представляет собой скорее риск, чем пользу для их системы безопасности.

Энди Уорд, SVP International в Absolute Security, прокомментировал: "Наше исследование подчеркивает существенную опасность, которую представляют собой новые инструменты искусственного интеллекта, такие как DeepSeek, которые быстро трансформируют среду киберугроз.

Учитывая растущие опасения по поводу их способности усилить атаки и поставить под угрозу конфиденциальные данные, организации должны срочно повысить свою киберустойчивость и обновить системы безопасности, чтобы противостоять этим угрозам, созданным с помощью ИИ".

"Именно поэтому четыре из пяти британских CISO требуют государственного регулирования. Они на собственном опыте убедились, как быстро развивается эта технология и как она может обойти существующие меры безопасности".

Возможно, самым тревожным выводом является признание отсутствия готовности. Почти половина (46 %) руководителей служб безопасности признают, что их команды не готовы противостоять уникальным опасностям атак с использованием искусственного интеллекта. Они наблюдают, как такие инструменты, как DeepSeek, развиваются быстрее, чем их защитные стратегии успевают адаптироваться, создавая критическую уязвимость, которую, по мнению многих, может устранить только вмешательство государства.

"Это конкретные, а не гипотетические риски", - добавил Уорд. Тот факт, что организации уже вводят полные запреты на использование инструментов ИИ и пересматривают стратегии безопасности в ответ на LLM, подобные DeepSeek, показывает, насколько остро стоит эта проблема".

"Без национальной нормативной базы, устанавливающей четкие правила развертывания, управления и мониторинга, мы рискуем серьезно нарушить работу всех секторов экономики Великобритании".

Предприятия инвестируют, чтобы обеспечить будущее ИИ

Несмотря на оборонительную позицию, компании не отказываются от ИИ полностью. Нынешний подход - это скорее стратегическая рекалибровка, чем полное отступление.

Компании признают трансформационный потенциал ИИ и вкладывают значительные средства в его безопасную интеграцию. Так, 84 % организаций уделяют приоритетное внимание найму специалистов по ИИ к 2025 году.

Эта приверженность достигает самых высоких руководящих уровней: 80 % компаний посвящают обучение ИИ для своих руководителей высшего звена. Стратегия состоит из двух частей: повышение квалификации существующих сотрудников для управления технологией и привлечение специализированных кадров для работы с ее тонкостями.

Цель - создать прочный внутренний фундамент знаний об ИИ, который послужит важнейшей защитой от растущих внешних угроз.

Посыл руководства службы безопасности Великобритании однозначен: цель состоит не в том, чтобы подавить инновации в области ИИ, а в том, чтобы обеспечить их безопасное развитие. Для достижения этой цели необходимо более тесное и совместное партнерство с правительством.

Путь вперед предполагает установление четких правил, обеспечение государственного контроля, подготовку квалифицированных кадров в области ИИ и разработку последовательной национальной стратегии по управлению рисками безопасности, создаваемыми DeepSeek и последующими мощными инструментами ИИ.

"Период обсуждений прошел. Нам нужны немедленные действия, четкая политика и строгий надзор, чтобы ИИ способствовал прогрессу, а не провоцировал кризис", - заключил Уорд.

См. также: Институт Алана Тьюринга: Гуманитарные науки - ключ к будущему ИИ

Хотите узнать больше об ИИ и больших данных от экспертов отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это комплексное мероприятие проводится наряду с другими ведущими конференциями, включая Intelligent Automation Conference, BlockX, Digital Transformation Week и Cyber Security & Cloud Expo.

Ознакомиться с другими предстоящими мероприятиями и вебинарами по корпоративным технологиям, организованными TechForge, можно здесь.