Агенты ИИ используют конфиденциальные данные: как их используют хакеры и защитные меры

Как и все мы, киберпреступники обращаются к искусственному интеллекту, чтобы оптимизировать свои операции, делая атаки быстрее, проще и хитрее. Интегрируя ИИ в свой привычный арсенал, такой как автоматизированные боты, захват аккаунтов и социальная инженерия, эти ловкие мошенники повышают свою игру. Недавний отчет Gartner проливает свет на то, как развивается эта тенденция, и предупреждает, что в ближайшем будущем она может усилиться.

Вице-президент и аналитик Gartner Джереми Д'Ойне указывает, что слабая аутентификация — это ахиллесова пята, подпитывающая захват аккаунтов. Кибератакующие используют эту уязвимость, применяя различные методы для кражи паролей аккаунтов, от утечек данных до социальной инженерии.

Роль ИИ в захвате аккаунтов

Как только пароль оказывается скомпрометированным, ИИ выходит на сцену. Киберпреступники используют автоматизированные ИИ-боты, чтобы атаковать множество сервисов попытками входа, стремясь выяснить, используются ли эти учетные данные повторно на разных платформах. Конечная цель? Найти прибыльный сайт, где они смогут полностью захватить аккаунт. Если хакер не заинтересован в проведении атаки самостоятельно, он может легко продать украденную информацию на темной стороне интернета, где ждут заинтересованные покупатели.

«Захват аккаунтов (ATO) остается устойчивым вектором атаки, потому что слабые учетные данные, такие как пароли, собираются различными способами, включая утечки данных, фишинг, социальную инженерию и вредоносное ПО», — объясняет Д'Ойне в отчете Gartner. «Затем злоумышленники используют ботов для автоматизации шквала попыток входа на различные сервисы в надежде, что учетные данные были повторно использованы на нескольких платформах».

С ИИ в своем арсенале злоумышленники могут автоматизировать процесс захвата аккаунтов более эффективно. Gartner прогнозирует, что в ближайшие два года время, необходимое для захвата аккаунта, сократится на 50%.

ИИ и дипфейк в социальной инженерии

Влияние ИИ выходит за рамки захвата аккаунтов; он также революционизирует кампании с использованием дипфейков. Киберпреступники сочетают социальную инженерию с дипфейковыми аудио и видео, чтобы обмануть свои цели. Представьте, что вам звонит человек, чей голос звучит точно как ваш начальник или доверенный коллега, побуждая вас перевести деньги или раскрыть конфиденциальную информацию. Это происходит, и это обходится компаниям в крупные суммы.

Хотя сообщалось лишь о нескольких громких случаях, финансовый ущерб был значительным. Обнаружение дипфейковых голосов во время личных звонков остается сложной задачей. Gartner прогнозирует, что к 2028 году 40% атак с использованием социальной инженерии будут направлены как на руководителей, так и на более широкий круг сотрудников.

«Организациям придется следить за рынком и адаптировать процедуры и рабочие процессы, чтобы лучше противостоять атакам, использующим техники поддельной реальности», — советует Мануэль Акоста, старший директор-аналитик в Gartner. «Обучение сотрудников о развивающемся ландшафте угроз с использованием тренингов, специфичных для социальной инженерии с дипфейками, является ключевым шагом».

Противодействие атакам с использованием ИИ

Итак, как отдельные лица и организации могут отбиваться от этих атак, подпитываемых ИИ?

«Чтобы противостоять новым вызовам от атак, управляемых ИИ, организации должны использовать инструменты на базе ИИ, которые могут обеспечить детализированную видимость среды в реальном времени и оповещения для усиления команд безопасности», — предлагает Николь Кариньян, старший вице-президент по стратегии безопасности и ИИ в Darktrace.

Кариньян также рекомендует опережать новые угрозы, интегрируя машинные ответы, либо автономно, либо с человеческим надзором, чтобы ускорить реакции команд безопасности. «Благодаря этому подходу внедрение технологий ИИ — таких как решения с возможностями обнаружения аномалий, которые могут выявлять и реагировать на ранее не виданные угрозы — может быть решающим для обеспечения безопасности организаций».

Многофакторная аутентификация и биометрическая верификация, такие как сканирование лица или отпечатков пальцев, также имеют решающее значение для защиты от компрометации аккаунтов. «Киберпреступники полагаются не только на украденные учетные данные, но и на социальные манипуляции, чтобы обойти защиту идентичности», — говорит Джеймс Скоби, главный директор по информационной безопасности в Keeper Security. «Дипфейки вызывают особую озабоченность в этой области, поскольку модели ИИ делают эти методы атак быстрее, дешевле и убедительнее. По мере того как злоумышленники становятся более изощренными, потребность в более надежных и динамичных методах проверки личности — таких как многофакторная аутентификация (MFA) и биометрия — будет жизненно важной для защиты от этих всё более тонких угроз. MFA необходима для предотвращения захвата аккаунтов».

Советы Gartner по борьбе с социальной инженерией и дипфейками

• Обучайте сотрудников. Тренируйте их по социальной инженерии и дипфейкам, но не полагайтесь только на их способность распознавать эти угрозы.
• Установите другие меры верификации. Например, проверяйте любые попытки запроса конфиденциальной информации по телефону на другой платформе.
• Используйте политику обратного звонка. Предоставьте назначенный номер, по которому сотрудники могут позвонить, чтобы подтвердить конфиденциальные или секретные запросы.
• Идите дальше политики обратного звонка. Убедитесь, что один телефонный звонок или запрос не могут инициировать действие высокого риска без дополнительной проверки от руководителей высокого уровня.
• Следите за обнаружением дипфейков в реальном времени. Следите за появляющимися технологиями, которые могут обнаруживать дипфейки в аудио и видеозвонках, и дополняйте их другими методами идентификации, такими как уникальные идентификаторы.

Хотите больше историй об ИИ? Подпишитесь на Innovation, нашу еженедельную рассылку.