Os agentes da IA ​​exploram dados confidenciais: como os hackers os usam e medidas de proteção

Assim como o resto de nós, os cibercriminosos estão recorrendo à inteligência artificial para otimizar suas operações, tornando seus ataques mais rápidos, fáceis e astutos. Ao integrar a IA em seu arsenal habitual, como bots automatizados, apropriação de contas e engenharia social, esses golpistas experientes estão elevando seu jogo. Um relatório recente da Gartner ilumina como essa tendência está evoluindo e alerta que ela pode se intensificar em um futuro próximo.

O analista vice-presidente da Gartner, Jeremy D'Hoinne, aponta que a autenticação fraca é o calcanhar de Aquiles que alimenta a apropriação de contas. Os atacantes cibernéticos exploram essa vulnerabilidade usando uma variedade de métodos para obter senhas de contas, desde violações de dados até engenharia social.

O Papel da IA na Apropriação de Contas

Uma vez que uma senha é comprometida, a IA entra em cena. Os cibercriminosos utilizam bots de IA automatizados para bombardear múltiplos serviços com tentativas de login, buscando descobrir se essas credenciais são reutilizadas em diferentes plataformas. O objetivo final? Encontrar um site lucrativo onde possam orquestrar uma apropriação total de conta. Se o hacker não estiver interessado em realizar o ataque ele mesmo, ele pode facilmente vender as informações roubadas na dark web, onde compradores ansiosos aguardam.

"A apropriação de contas (ATO) permanece um vetor de ataque persistente porque credenciais de autenticação fracas, como senhas, são obtidas por uma variedade de meios, incluindo violações de dados, phishing, engenharia social e malware," explica D'Hoinne no relatório da Gartner. "Os atacantes então utilizam bots para automatizar uma enxurrada de tentativas de login em uma variedade de serviços na esperança de que as credenciais tenham sido reutilizadas em várias plataformas."

Com a IA agora em seu kit de ferramentas, os atacantes podem automatizar o processo de apropriação de contas de forma mais eficiente. A Gartner prevê que, nos próximos dois anos, o tempo necessário para uma apropriação de conta diminuirá em 50%.

IA e Engenharia Social com Deepfakes

O impacto da IA vai além da apropriação de contas; ela também está revolucionando campanhas de deepfake. Os cibercriminosos estão combinando engenharia social com áudio e vídeo deepfake para enganar suas vítimas. Imagine receber uma ligação de alguém que soa exatamente como seu chefe ou um colega confiável, pedindo para transferir fundos ou revelar informações sensíveis. Isso está acontecendo, e está custando caro às empresas.

Embora apenas alguns casos de alto perfil tenham sido relatados, o dano financeiro foi significativo. Detectar vozes deepfake durante chamadas pessoais permanece complicado. A Gartner prevê que até 2028, 40% dos ataques de engenharia social terão como alvo tanto executivos quanto a força de trabalho em geral.

"As organizações terão que se manter atualizadas com o mercado e adaptar procedimentos e fluxos de trabalho na tentativa de resistir melhor aos ataques que utilizam técnicas de realidade falsificada," aconselha Manuel Acosta, analista sênior da Gartner. "Educar os funcionários sobre o cenário de ameaças em evolução, usando treinamento específico para engenharia social com deepfakes, é um passo chave."

Combatendo Ataques Impulsionados por IA

Então, como indivíduos e organizações podem se defender desses ataques impulsionados por IA?

"Para combater os desafios emergentes de ataques impulsionados por IA, as organizações devem utilizar ferramentas alimentadas por IA que possam fornecer visibilidade granular do ambiente em tempo real e alertas para reforçar as equipes de segurança," sugere Nicole Carignan, vice-presidente sênior para estratégia de segurança e IA na Darktrace.

Carignan também recomenda antecipar novas ameaças integrando respostas conduzidas por máquinas, seja autonomamente ou com supervisão humana, para acelerar as reações das equipes de segurança. "Por meio dessa abordagem, a adoção de tecnologias de IA — como soluções com capacidades de detecção baseadas em anomalias que podem detectar e responder a ameaças nunca vistas antes — pode ser instrumental para manter as organizações seguras."

Autenticação multifator e verificação biométrica, como escaneamentos faciais ou de impressões digitais, também são cruciais para proteger contra comprometimento de contas. "Os cibercriminosos não estão apenas confiando em credenciais roubadas, mas também em manipulação social, para violar proteções de identidade," diz James Scobey, diretor-chefe de segurança da informação na Keeper Security. "Deepfakes são uma preocupação particular nessa área, pois os modelos de IA tornam esses métodos de ataque mais rápidos, baratos e convincentes. À medida que os atacantes se tornam mais sofisticados, a necessidade de métodos de verificação de identidade mais fortes e dinâmicos – como autenticação multifator (MFA) e biometria – será vital para se defender contra essas ameaças progressivamente nuançadas. A MFA é essencial para prevenir apropriações de contas."

Dicas da Gartner para Lidar com Engenharia Social e Deepfakes

• Eduque os funcionários. Treine-os sobre engenharia social e deepfakes, mas não dependa apenas da capacidade deles de identificar essas ameaças.
• Estabeleça outras medidas de verificação. Por exemplo, verifique qualquer tentativa de solicitar informações confidenciais por telefone em outra plataforma.
• Use uma política de retorno de chamada. Forneça um número designado que os funcionários possam ligar para confirmar solicitações sensíveis ou confidenciais.
• Vá além de uma política de retorno de chamada. Garanta que uma única ligação ou solicitação não possa desencadear uma ação de alto risco sem verificação adicional de executivos de alto nível.
• Mantenha-se atualizado com a detecção de deepfakes em tempo real. Acompanhe as tecnologias emergentes que podem detectar deepfakes em chamadas de áudio e vídeo, e complemente-as com outros métodos de identificação, como IDs exclusivos.

Quer mais histórias sobre IA? Inscreva-se no Innovation, nosso boletim semanal.