Alarming rise in AI-powered scams: Microsoft reveals $4 Billion in thwarted fraud

A rápida evolução dos golpes de IA

Os golpes movidos a IA estão aumentando, com os cibercriminosos alavancando a tecnologia de ponta para enganar as vítimas com mais eficácia do que nunca. De acordo com o mais recente relatório dos sinais cibernéticos da Microsoft, a gigante da tecnologia frustrou US $ 4 bilhões em tentativas de fraude no ano passado, bloqueando cerca de 1,6 milhão de tentativas de inscrição a cada hora. Esse número impressionante ressalta a escala da ameaça que estamos enfrentando.

A nona edição do relatório, intitulada "Decepção de IA: ameaças e contramedidas emergentes de fraude", lança luz sobre como a inteligência artificial está diminuindo as barreiras técnicas para os golpistas. O que costumava levar dias ou semanas para configurar agora pode ser feito em minutos, permitindo que até aqueles com habilidades mínimas lançassem golpes sofisticados. Essa democratização das capacidades de fraude está reformulando o cenário criminal, impactando os consumidores e os negócios em todo o mundo.

Como a IA está aumentando os golpes cibernéticos

O relatório da Microsoft detalha como as ferramentas de IA agora são capazes de digitalizar e raspar a web para reunir informações da empresa, permitindo que os cibercriminosos criem perfis detalhados para ataques de engenharia social direcionados. Esses maus atores estão usando a IA para criar análises falsas de produtos e gerar fachadas de lojas inteiras, completas com histórias de negócios fabricadas e depoimentos de clientes, para atrair vítimas para esquemas complexos de fraude.

Kelly Bissell, vice-presidente corporativa de abuso de antifraud e produtos da Microsoft Security, observa que o cibercrime é uma questão de trilhões de dólares que vem crescendo anualmente nas últimas três décadas. "Acho que hoje temos uma oportunidade de adotar a IA mais rapidamente, para que possamos detectar e fechar a lacuna de exposição rapidamente", afirma Bissell. "Agora temos a IA que pode fazer a diferença em escala e nos ajudar a criar proteções de segurança e fraude em nossos produtos muito mais rapidamente".

O relatório também destaca que ataques de fraude movidos a IA são uma preocupação global, com atividades significativas originárias da China e da Europa, particularmente na Alemanha, devido ao seu grande mercado de comércio eletrônico. Quanto maior o mercado digital, maior a probabilidade de ver um aumento proporcional na tentativa de fraude.

Comércio eletrônico e golpes de emprego na vanguarda

Duas áreas onde a fraude aprimorada pela AI é particularmente prevalente são o comércio eletrônico e o recrutamento de empregos. No setor de comércio eletrônico, as ferramentas de IA permitem que os golpistas criem sites fraudulentos em minutos, imitando empresas legítimas com descrições, imagens e análises de clientes gerados por IA. Esses sites podem até implantar os chatbots de atendimento ao cliente que interagem convincentemente com os clientes, atrasam os estornos e manipulam reclamações para manter uma fachada profissional.

Os candidatos a emprego também estão em risco, pois a IA generativa facilita a criação de listagens de empregos falsas em várias plataformas. Essas listagens geralmente vêm com descrições geradas automaticamente e campanhas de email movidas a IA, projetadas para buscar os candidatos a emprego. Entrevistas movidas a IA e e-mails automatizados aumentam ainda mais a credibilidade desses golpes, tornando-os mais difíceis de detectar. Os fraudadores geralmente solicitam informações pessoais, como currículos ou detalhes da conta bancária, sob o disfarce de verificar os candidatos.

As bandeiras vermelhas incluem ofertas de emprego não solicitadas, solicitações de pagamento e comunicação por meio de plataformas informais, como mensagens de texto ou WhatsApp.

Resposta da Microsoft à fraude movida a IA

Para enfrentar essas ameaças emergentes, a Microsoft adotou uma abordagem multifacetada em seus produtos e serviços. O Microsoft Defender for Cloud oferece proteção contra ameaças para os recursos do Azure, enquanto o Microsoft Edge Recursa Proteção de erro de digitação e proteção de representação de domínio, utilizando a tecnologia de aprendizado profundo para ajudar os usuários a evitar sites fraudulentos.

O Windows Quick Assist foi aprimorado com mensagens de alerta para alertar os usuários sobre possíveis golpes de suporte técnico antes de conceder acesso a alguém que afirma ser do suporte de TI. A Microsoft agora bloqueia uma média de 4.415 tentativas de conexão rápida suspeita diariamente.

Como parte de sua iniciativa futura segura (SFI), a Microsoft introduziu uma nova política de prevenção de fraudes. A partir de janeiro de 2025, as equipes de produtos da Microsoft devem realizar avaliações de prevenção de fraudes e implementar controles de fraude durante o processo de design, garantindo que os produtos sejam "resistentes a fraudes pelo design".

À medida que os golpes movidos a IA continuam evoluindo, a consciência do consumidor é crucial. A Microsoft aconselha os usuários a desconfiar de táticas de urgência, verificar a legitimidade do site antes de fazer compras e nunca fornecer informações pessoais ou financeiras a fontes não verificadas. Para as empresas, a implementação da autenticação multifatorial e a implantação de algoritmos de detecção de profundidade pode ajudar a mitigar os riscos.