Reco стремится искоренить слепые пятна теневого ИИ на всех предприятиях

ИИ распространяется по рабочим местам беспрецедентными темпами. Каждый день сотрудники подключают инструменты ИИ к корпоративным системам - часто без одобрения или контроля со стороны служб ИТ-безопасности. В результате возникает то, что эксперты называют теневым ИИ: растущая сеть интеграций и инструментов, которые получают доступ к данным компании без контроля.

Доктор Таль Шапира, соучредитель и технический директор компании Reco, поставщика услуг SaaS по обеспечению безопасности и управлению ИИ, говорит, что такое невидимое разрастание может стать одной из самых серьезных организационных угроз современности. Он отмечает, что скорость внедрения ИИ уже превзошла существующие корпоративные средства защиты.

Мы прошли путь от "ИИ на подходе" до "ИИ повсюду" примерно за 18 месяцев. Проблема в том, что системы управления не успевают за этим", - говорит Шапира.

Скрытая угроза в корпоративных системах

По словам Шапиры, большинство корпоративных систем безопасности были созданы для старой эпохи, когда все оставалось за брандмауэрами и сетевыми границами. Теневой ИИ разрушает эту модель, действуя изнутри, скрываясь в собственных приложениях компании.

Многие современные инструменты ИИ интегрируются непосредственно с повседневными SaaS-платформами, такими как Salesforce, Slack или Google Workspace. Хотя это не опасно по своей сути, ИИ часто подключается через разрешения или плагины, которые остаются активными после установки. Такие "тихие" подключения могут продолжать предоставлять ИИ доступ к данным компании даже после того, как установивший их сотрудник уволится или перестанет пользоваться инструментами. Это представляет собой серьезную проблему теневого ИИ.

Шапира сказал: "Более серьезная проблема заключается в том, что эти инструменты внедряются в инфраструктуру компании, иногда в течение месяцев или лет, оставаясь незамеченными".

Этот новый класс рисков особенно трудно отследить, поскольку многие системы ИИ являются вероятностными. Вместо того чтобы выполнять фиксированные команды, ИИ делает прогнозы на основе закономерностей. В результате их поведение зависит от контекста, что усложняет надзор и контроль.

Когда ИИ ведет себя неожиданно

Реальные инциденты показывают ощутимое влияние теневого ИИ. Недавно компания Reco сотрудничала с финансовой фирмой из списка Fortune 100, которая считала свои системы безопасными и соответствующими требованиям. В течение нескольких дней после развертывания системы мониторинга Reco компания обнаружила более 1000 несанкционированных интеграций сторонних компаний в своих средах Salesforce и Microsoft 365 - более половины из них были созданы искусственным интеллектом.

Одна из интеграций, инструмент транскрипции, связанный с Zoom, записывал каждый звонок клиента, включая переговоры о цене и конфиденциальные отзывы. "Они непреднамеренно обучали стороннюю модель на своих самых конфиденциальных данных", - объясняет Шапира. "Не было ни договора, ни ясности относительно того, как эти данные хранятся или используются".

В другом случае сотрудник подключил ChatGPT напрямую к Salesforce, что позволило искусственному интеллекту за несколько часов подготовить сотни внутренних отчетов. Несмотря на эффективность, это позволило раскрыть данные о клиентах и прогнозы продаж для внешней платформы ИИ.

Как Reco раскрывает то, что остается незамеченным

Платформа Reco обеспечивает компаниям полную видимость того, какие инструменты ИИ подключаются к их системам и к каким данным эти инструменты могут обращаться. Она постоянно сканирует SaaS-среды на предмет разрешений OAuth, сторонних приложений и расширений браузера. После обнаружения Reco указывает, кто из пользователей их установил, какие разрешения они имеют и выглядит ли их поведение необычным.

Если соединение кажется рискованным, система предупреждает администраторов или автоматически отзывает доступ. "Скорость очень важна, поскольку инструменты искусственного интеллекта могут извлекать огромные объемы данных за несколько часов, а не дней", - отметил Шапира.

В отличие от традиционных продуктов безопасности, ориентированных на периметр сети, Reco нацелена на уровень идентификации и доступа. Это делает его хорошо подходящим для современных организаций, ориентированных на облака и зависимых от SaaS, где большинство данных находится за пределами традиционного брандмауэра.

Более широкое предупреждение о безопасности

По мнению отраслевых аналитиков, подход Reco отражает более широкую тенденцию в сфере корпоративной безопасности: переход от блокирования ИИ к его управлению. Недавний отчет Cisco о готовности к использованию ИИ показал, что 62 % организаций признают, что имеют ограниченное представление о том, как сотрудники используют инструменты ИИ на работе. Почти половина уже столкнулась хотя бы с одним инцидентом с данными, связанными с ИИ.

По мере того как ИИ внедряется в основное программное обеспечение - от Einstein компании Salesforce до Microsoft Copilot, - проблема обостряется. "Вы можете считать, что используете надежную платформу, - говорит Шапира, - но не понимать, что она теперь включает в себя функции искусственного интеллекта, которые автоматически получают доступ к вашей информации".

Платформа Reco устраняет этот пробел, отслеживая как одобренную, так и неодобренную деятельность ИИ, помогая организациям понять, куда и зачем утекают их данные.

Уверенное внедрение ИИ

Шапира считает, что мы вступаем в "фазу инфраструктуры ИИ" - время, когда каждый бизнес-инструмент будет включать ИИ в той или иной форме, видимой или нет. Это делает необходимым постоянный мониторинг, доступ с наименьшими привилегиями и ограниченные по времени разрешения.

"Успешными будут не те компании, которые блокируют ИИ", - заметил он. "Они будут теми, кто внедряет его ответственно, с ограждениями, которые защищают как инновации, так и доверие".

Теневой ИИ, подчеркнул он, отражает не беспечность сотрудников, а то, как быстро развиваются технологии. "Люди хотят быть продуктивными", - сказал он. "Наша роль заключается в том, чтобы создать условия для этого, не подвергая организацию риску".

Для предприятий, стремящихся использовать возможности искусственного интеллекта, не теряя при этом контроля над своими данными, идея Реко проста: Невозможно защитить то, чего не видно.

Источник изображения: Unsplash