Тревожный рост мошенничества с AI: Microsoft раскрывает 4 миллиарда долларов в мошенничестве

Быстрая эволюция мошенничества с использованием искусственного интеллекта

Мошенничество с использованием искусственного интеллекта набирает обороты, и киберпреступники применяют передовые технологии для более эффективного обмана жертв, чем когда-либо прежде. Согласно последнему отчету Microsoft Cyber Signals, технологический гигант предотвратил мошеннические попытки на сумму 4 миллиарда долларов за последний год, блокируя около 1,6 миллиона попыток регистрации ботов каждый час. Эта ошеломляющая цифра подчеркивает масштаб угрозы, с которой мы сталкиваемся.

Девятое издание отчета, озаглавленное «Обман с использованием искусственного интеллекта: новые угрозы мошенничества и меры противодействия», проливает свет на то, как искусственный интеллект снижает технические барьеры для мошенников. То, что раньше занимало дни или недели, теперь можно сделать за минуты, позволяя даже людям с минимальными навыками запускать сложные мошеннические схемы. Эта демократизация возможностей мошенничества меняет криминальный ландшафт, затрагивая потребителей и компании по всему миру.

Как искусственный интеллект усиливает кибермошенничество

Отчет Microsoft подробно описывает, как инструменты искусственного интеллекта теперь способны сканировать и собирать информацию в интернете о компаниях, позволяя киберпреступникам создавать детализированные профили для целевых атак социальной инженерии. Эти злоумышленники используют искусственный интеллект для создания фальшивых отзывов о продуктах и генерации целых витрин с вымышленными историями бизнеса и отзывами клиентов, чтобы заманивать жертв в сложные мошеннические схемы.

Келли Бисселл, корпоративный вице-президент по борьбе с мошенничеством и злоупотреблениями продуктами в Microsoft Security, отмечает, что киберпреступность — это проблема на триллион долларов, которая ежегодно растет на протяжении последних трех десятилетий. «Я думаю, что сегодня у нас есть возможность быстрее внедрять искусственный интеллект, чтобы мы могли выявлять и устранять уязвимости быстрее», — заявляет Бисселл. «Теперь у нас есть искусственный интеллект, который может существенно изменить ситуацию в масштабе и помочь нам быстрее внедрять защиту от мошенничества и безопасности в наши продукты».

В отчете также подчеркивается, что атаки мошенничества с использованием искусственного интеллекта являются глобальной проблемой, с значительной активностью, исходящей из Китая и Европы, особенно из Германии, из-за ее крупного рынка электронной коммерции. Чем больше цифровой рынок, тем выше вероятность пропорционального увеличения попыток мошенничества.

Мошенничество в электронной коммерции и при найме на работу на передовой

Две области, где мошенничество с использованием искусственного интеллекта особенно распространено, — это электронная коммерция и подбор персонала. В секторе электронной коммерции инструменты искусственного интеллекта позволяют мошенникам создавать мошеннические веб-сайты за минуты, имитируя законные компании с помощью сгенерированных искусственным интеллектом описаний продуктов, изображений и отзывов клиентов. Эти сайты могут даже использовать чат-ботов службы поддержки клиентов на базе искусственного интеллекта, которые убедительно взаимодействуют с клиентами, задерживают возвратные платежи и манипулируют жалобами, чтобы поддерживать профессиональный фасад.

Соискатели также находятся в зоне риска, поскольку генеративный искусственный интеллект упрощает мошенникам создание фальшивых объявлений о вакансиях на различных платформах. Эти объявления часто сопровождаются автоматически сгенерированными описаниями и email-кампаниями на базе искусственного интеллекта, предназначенными для фишинга соискателей. Интервью с использованием искусственного интеллекта и автоматические электронные письма дополнительно повышают достоверность этих мошенничеств, делая их труднее для обнаружения. Мошенники часто запрашивают личную информацию, такую как резюме или данные банковских счетов, под предлогом проверки кандидатов.

Красные флажки включают в себя непрошенные предложения о работе, запросы на оплату и общение через неформальные платформы, такие как текстовые сообщения или WhatsApp.

Ответ Microsoft на мошенничество с использованием искусственного интеллекта

Для борьбы с этими новыми угрозами Microsoft применила многосторонний подход к своим продуктам и услугам. Microsoft Defender for Cloud предлагает защиту от угроз для ресурсов Azure, а Microsoft Edge оснащен функциями защиты от опечаток в адресах веб-сайтов и защиты от подделки доменов, используя технологию глубокого обучения, чтобы помочь пользователям избегать мошеннических веб-сайтов.

Windows Quick Assist был усовершенствован с добавлением предупреждающих сообщений, чтобы уведомлять пользователей о потенциальных мошенничествах с технической поддержкой перед предоставлением доступа кому-либо, утверждающему, что он из службы IT-поддержки. Microsoft теперь блокирует в среднем 4415 подозрительных попыток подключения через Quick Assist ежедневно.

В рамках своей инициативы Secure Future Initiative (SFI) Microsoft ввела новую политику предотвращения мошенничества. Начиная с января 2025 года, команды разработчиков продуктов Microsoft должны проводить оценки предотвращения мошенничества и внедрять меры контроля на этапе проектирования, обеспечивая, чтобы продукты были «устойчивыми к мошенничеству по дизайну».

По мере того как мошенничество с использованием искусственного интеллекта продолжает развиваться, осведомленность потребителей имеет решающее значение. Microsoft советует пользователям быть осторожными с тактиками срочности, проверять легитимность веб-сайтов перед совершением покупок и никогда не предоставлять личную или финансовую информацию непроверенным источникам. Для предприятий внедрение многофакторной аутентификации и использование алгоритмов обнаружения дипфейков может помочь снизить риски.