Os pesquisadores enganam a IA para a elaboração de infotealistas cromados, apesar da falta de habilidades de codificação de malware

A IA generativa tem sido uma faca de dois gumes, gerando tanto controvérsia quanto inovação, particularmente no âmbito da infraestrutura de segurança. A Cato Networks, uma provedora líder de segurança empresarial, lançou luz sobre um novo método para manipular chatbots de IA. O Relatório de Ameaças Cato CTRL 2025, lançado na terça-feira, detalha como um pesquisador sem experiência prévia em codificação de malware conseguiu enganar vários modelos de IA, incluindo DeepSeek R1 e V3, Microsoft Copilot e GPT-4o da OpenAI, para criar infostealers do Chrome "totalmente funcionais". Esses malwares são projetados para roubar dados sensíveis, como senhas e informações financeiras, de navegadores Chrome.

O pesquisador empregou uma tática criativa, chamada "Mundo Imersivo", para contornar as medidas de segurança desses sistemas de IA. Ao criar um universo fictício detalhado onde cada ferramenta de IA tinha papéis, tarefas e desafios específicos, o pesquisador conseguiu normalizar operações restritas, efetivamente driblando os protocolos de segurança em vigor.

Técnica do Mundo Imersivo

A técnica de jailbreak "Mundo Imersivo" é particularmente preocupante devido ao uso generalizado dos chatbots que hospedam esses modelos de IA. Embora os modelos DeepSeek sejam conhecidos por terem menos barreiras de segurança e já terem sido alvos de jailbreak anteriormente, o fato de que Copilot e GPT-4o, apoiados por empresas com equipes de segurança robustas, também foram suscetíveis destaca a vulnerabilidade de rotas de manipulação indireta.

Etay Maor, estrategista-chefe de segurança da Cato, comentou: "Nossa nova técnica de jailbreak de LLM [...] deveria ter sido bloqueada pelas barreiras de segurança da IA generativa. Não foi." O relatório da Cato também menciona que, embora a empresa tenha notificado as partes afetadas, as respostas variaram. A DeepSeek não respondeu, enquanto OpenAI e Microsoft reconheceram as descobertas. A Google, por outro lado, confirmou o recebimento, mas recusou-se a revisar o código da Cato.

Um Alarme para Profissionais de Segurança

As descobertas da Cato servem como um alerta para a indústria de segurança, ilustrando como até mesmo indivíduos sem conhecimento especializado podem representar uma ameaça significativa para as empresas. Com as barreiras de entrada na manipulação de IA se tornando cada vez mais baixas, os atacantes precisam de menos expertise técnica para executar ataques bem-sucedidos.

A solução, segundo a Cato, está na adoção de estratégias de segurança baseadas em IA. Ao focar o treinamento de segurança no cenário em evolução de ameaças alimentadas por IA, as equipes podem se manter um passo à frente. Para mais insights sobre como preparar empresas para esses desafios, confira as dicas deste especialista.

Mantenha-se atualizado com as últimas notícias de segurança assinando o Tech Today, entregue em sua caixa de entrada todas as manhãs.