Ferramentas de segurança movidas a IA: sua arma secreta contra futuros ataques cibernéticos

No mundo da segurança cibernética, é um fato bem conhecido que os invasores precisam apenas encontrar uma vulnerabilidade para causar estragos, enquanto os defensores devem proteger contra todas as ameaças possíveis. Essa dinâmica se torna ainda mais complexa com a integração da IA ​​na segurança cibernética, transformando -a em uma corrida armamentista onde os invasores e os defensores têm acesso a ferramentas poderosas de IA.

A Cisco, uma gigante do setor de rede, está na vanguarda desta batalha, trabalhando constantemente para proteger seus clientes de ataques cibernéticos movidos a IA. Em uma entrevista exclusiva à ZDNet, Anand Raghavan, vice -presidente de produtos da AI da Cisco, lança luz sobre como a IA está reformulando a segurança cibernética e expandindo as possíveis superfícies de ataque para as organizações.

ZDNET: Você pode se apresentar brevemente e descrever seu papel na Cisco?

Anand Raghavan: Eu sou Anand Raghavan, vice -presidente de produtos da IA ​​no grupo de software e plataformas da Cisco. Minha equipe colabora com várias equipes de produtos da Cisco para desenvolver e fornecer produtos generativos de IA segura e seguros para nossos clientes. Recentemente, lançamos o Assistente da Cisco AI, que simplifica as interações com nossos produtos através da linguagem natural e da defesa da Cisco AI, o que garante o uso seguro e seguro de IA para funcionários e aplicativos em nuvem desenvolvidos para clientes.

ZDNET: Como a IA está transformando a natureza das ameaças e os governos enfrentam no nível da rede?

AR: AI revolucionou a segurança da rede, permitindo que os hackers executem ataques mais sofisticados e eficientes. Eles estão usando a IA para automatizar e personalizar campanhas de phishing, tornando -as mais convincentes e aumentando a probabilidade de os funcionários se apaixonarem por eles. Também estamos vendo malware movido a IA que pode se adaptar para evitar medidas de segurança tradicionais. À medida que as ferramentas de IA se tornam mais difundidas, elas não apenas expandem a superfície de ataque, mas também amplificam a questão da sombra.

Enquanto as empresas aproveitam a IA para inovar, os atores maliciosos usam a mesma tecnologia para criar novas ameaças. É crucial agora mais do que nunca usar os mais recentes avanços da IA ​​para detectar e mitigar essas ameaças emergentes rapidamente.

Por exemplo, nossa tecnologia de mecanismo de visibilidade criptografada pode interromper as conexões maliciosas em tempo real dentro de nossos firewalls, e nosso produto de defesa de ameaças por e-mail usa detectores baseados em idiomas para identificar e-mails fraudulentos. Com o surgimento de aplicativos de IA enfrentados por clientes, as vulnerabilidades nos modelos de IA se tornaram uma nova superfície de ataque crítico. Esses modelos podem ser direcionados com ataques rápidos de injeção ou negação de serviço, potencialmente vazando dados sensíveis. O setor de segurança está correndo para integrar a IA em soluções para detectar padrões incomuns e atividades de rede suspeitas.

ZDNET: Como as ferramentas orientadas pela IA ajudam as empresas a permanecer à frente de adversários cibernéticos cada vez mais sofisticados?

AR: No cenário dinâmico de ameaças de hoje, as ferramentas de segurança movidas a IA fornecem monitoramento contínuo e auto-otimista em uma escala que os esforços manuais não podem corresponder. A IA permite que as equipes de segurança analisem dados de todo o ecossistema de uma organização, detectando rapidamente padrões incomuns ou tráfego suspeito que pode indicar uma violação. Essa análise rápida permite respostas quase em tempo real a ameaças em potencial.

A IA complementa os profissionais de segurança humana, aprimorando os tempos de visibilidade e resposta, criando um cenário "melhor juntos". Em um mundo em que os analistas de segurança de primeira linha são escassos, a IA pode suportar analistas de Nível 1 e Nível 2, reduzindo significativamente o tempo necessário para abordar novos incidentes e ameaças. A automação do fluxo de trabalho para detecção e resposta estendida (XDR) usando a IA é a chave para ficar à frente dos adversários cibernéticos.

ZDNET: Explique a defesa da IA ​​e qual é o principal problema que ele pretende resolver?

AR: A rápida adoção de aplicativos de IA é inegável, mas dentro das organizações, o ritmo do desenvolvimento e adoção da IA ​​é mais lento devido a preocupações sobre segurança e proteção. De acordo com o índice de prontidão da AI 2024 da Cisco, apenas 29% das organizações se sentem totalmente equipadas para detectar e impedir adulteração não autorizada com a IA. As empresas enfrentam um dilema: movem -se muito rapidamente e arrisquem a segurança, ou se movem muito lentamente e correm o risco de ficar para trás dos concorrentes.

A defesa da IA ​​aborda isso, permitindo e protegendo a transformação da IA ​​nas empresas. Ele aborda dois riscos principais: a exposição de dados sensíveis através do uso indevido de ferramentas de IA de terceiros e a segurança dos modelos de IA desenvolvidos e implantados por empresas. Nossa solução de acesso à IA fornece visibilidade no uso de IA de terceiros e permite que a definição de políticas limite o compartilhamento de dados ou restrinja o acesso a ferramentas não autorizadas. Para empresas que desenvolvem aplicativos de IA, a AI Defense usa a tecnologia algorítmica da equipe vermelha para automatizar avaliações de vulnerabilidades e fornece proteção em tempo real contra ameaças como injeções rápidas e extração de dados.

ZDNET: Como a defesa da IA ​​se diferencia das estruturas de segurança existentes?

AR: A IA apresenta desafios de segurança exclusivos que as estruturas tradicionais não foram projetadas para lidar. A defesa da IA ​​é construída especificamente para proteger as empresas dos riscos associados ao uso e desenvolvimento de aplicativos de IA. É baseado nos modelos de IA personalizados da Cisco, com foco na validação e proteção contínuas da IA ​​em escala.

As aplicações tradicionais são protegidas por equipes vermelhas humanas, mas essa abordagem não escala para os modelos de IA não determinísticos. A IA Defense usa a equipe algorítmica do RED para monitorar continuamente vulnerabilidades e recomendar a GuardaRails. Nossa abordagem de plataforma garante que esses guardrails sejam distribuídos pela rede, fornecendo visibilidade total sobre a pegada da IA.

ZDNET: Qual é a visão da Cisco para integrar a defesa de IA com estratégias de segurança corporativa mais amplas?

AR: O índice de prontidão da AI 2024 da Cisco destaca as organizações de pressão para adotar a IA, mas muitas estão despreparadas e desconhecem os riscos de segurança da IA. A defesa da IA ​​foi projetada para ajudar as organizações a desbloquear os benefícios da IA ​​com segurança em um ambiente de múltiplas nuvens. Ele fornece visibilidade e controle sobre os aplicativos de IA, facilitando a inovação dos desenvolvedores sem comprometer a segurança.

O ciclo de vida da adoção para IA inclui visibilidade, validação e proteção de tempo de execução. A IA Defense suporta essas etapas, com a aplicação da aplicação por meio de produtos seguros ou produtos SASE para proteção contra funcionários e por meio de aplicativos de suíte de proteção em nuvem, como a Cisco Multicloud Defense for Applications em nuvem.

ZDNET: Quais estratégias devem adotar as empresas para mitigar os riscos de ataques adversários aos sistemas de IA?

AR: Os aplicativos de IA introduzem novos riscos de segurança devido à sua natureza imprevisível e não determinística. Os modelos podem sofrer de alucinações ou estar vulneráveis ​​a ataques, como envenenamento por dados de treinamento e injeção imediata. Em um ambiente multi-nuvem e múltiplo, os padrões de segurança e segurança inconsistentes podem ser um problema.

Para proteger contra adulteração de IA e vazamento de dados, as organizações precisam de uma abordagem de segurança unificada em todas as nuvens, aplicativos e modelos. Isso é especialmente crucial quando a responsabilidade é fragmentada em diferentes partes interessadas. Um produto de segurança de IA comum que monitora e aplica o Guardrails em todas as categorias de segurança e segurança da IA, conforme descrito por padrões como Mitre Atlas, OWASP LLM10 e NIST RMF, é essencial.

ZDNET: Você poderia compartilhar um cenário ou estudo de caso do mundo real, onde a defesa da IA ​​poderia impedir uma violação crítica de segurança?

AR: A defesa da IA ​​aborda duas áreas principais de risco de IA corporativo: o uso de ferramentas de IA de terceiros e o desenvolvimento de novos aplicativos de IA. Em um cenário, um funcionário pode compartilhar informações do cliente com um assistente de IA não autorizado para ajudar com uma apresentação. Esses dados podem se tornar parte dos dados de reciclagem da IA, arriscando uma violação de privacidade. A defesa da IA ​​pode limitar esse compartilhamento de dados ou restringir o acesso à ferramenta, mitigando o risco.

Em outro cenário, um desenvolvedor de IA pode usar um modelo de código aberto para criar um assistente de atendimento ao cliente, enfraquecendo inadvertidamente seus corrimãos. O assistente poderia começar a fornecer respostas incorretas e se tornar vulnerável a ataques. A defesa da IA ​​identificaria essa falha através do monitoramento contínuo e aplicaria automaticamente os corrimãos necessários.

ZDNET: Que tendências emergentes na segurança da IA ​​você prevê moldando o futuro da segurança cibernética?

AR: Uma tendência significativa é o tempo decrescente entre a descoberta de vulnerabilidades e a exploração dos atacantes, graças à IA. As organizações devem detectar e remendar vulnerabilidades mais rapidamente do que nunca. A IA pode acelerar a detecção de vulnerabilidades, permitindo respostas em tempo real.

DeepFakes é outra grande preocupação para os próximos cinco anos. O setor de segurança está apenas começando a se preparar para defendê -los, mas eles representarão um risco significativo. Assim como os ataques de negação de serviço e ransomware têm sido grandes ameaças no passado, o DeepFakes será uma noite sem dormir para muitos profissionais de segurança.

ZDNET: Como os governos e empresas podem colaborar para criar padrões robustos de segurança de IA?

AR: A colaboração entre governos e o setor privado pode alavancar diversos conhecimentos e perspectivas para desenvolver as melhores práticas no cenário de segurança da IA ​​em rápida evolução. No ano passado, a Cisco trabalhou com a colaboração cibernética de defesa cibernética (CISA) (CISA) (JCDC), que incluiu líderes do setor e agências governamentais para melhorar a resposta coletiva a incidentes de segurança relacionados à IA.

Participamos de um exercício de mesa e contribuímos para o "Playbook de colaboração de incidentes de segurança da IA", que fornece orientações práticas para responder a incidentes de segurança relacionados à IA e compartilhar informações sobre as vulnerabilidades do sistema de IA. Essa colaboração pode aumentar a conscientização dos riscos de segurança associados à tecnologia de IA.

ZDNET: Como você vê a IA pondo a lacuna entre a prevenção de ataques cibernéticos e a resposta a incidentes?

AR: As soluções de segurança habilitadas para a AI já estão fornecendo monitoramento contínuo e escalável, ajudando as equipes de segurança humana a detectar atividades e vulnerabilidades suspeitas. A IA é uma ferramenta inestimável que aprimora a visibilidade e fornece recomendações para a resposta a incidentes.

No futuro, a IA poderia implantar e implementar automaticamente patches de segurança sob supervisão humana. Os benefícios incluem monitoramento contínuo, escalabilidade à medida que a superfície de ataque cresce, maior precisão na detecção de indicadores sutis e tempos de resposta mais rápidos em comparação com revisões manuais.

A IA está transformando a segurança cibernética, mas as empresas estão realmente preparadas para os riscos que traz? Você encontrou ameaças cibernéticas orientadas pela IA em sua organização? Você acha que as soluções de segurança movidas a IA podem ficar à frente de ataques cada vez mais sofisticados? Como você vê o equilíbrio entre a IA como uma ferramenta de segurança e uma potencial vulnerabilidade? As empresas estão fazendo o suficiente para garantir seus modelos de IA da exploração? Informe -nos nos comentários abaixo.

Você pode seguir minhas atualizações do projeto diário nas mídias sociais. Certifique -se de assinar meu boletim de atualização semanal e siga -me no Twitter/x em @davidgewirtz, no Facebook em facebook.com/davidgewirtz, no Instagram em Instagram.com/davidgewirtz, em Bluesky em @Davidgewirtz.com e no youtube em youtube.com/davidgewirtztv.