Herramientas de seguridad con IA: tu arma secreta contra futuros ataques cibernéticos

En el mundo de la ciberseguridad, es un hecho bien conocido que los atacantes solo necesitan encontrar una vulnerabilidad para causar estragos, mientras que los defensores deben proteger contra todas las amenazas posibles. Esta dinámica se vuelve aún más compleja con la integración de la IA en la ciberseguridad, convirtiéndola en una carrera armamentista donde tanto los atacantes como los defensores tienen acceso a poderosas herramientas de IA.

Cisco, un gigante en la industria de las redes, está a la vanguardia de esta batalla, trabajando constantemente para proteger a sus clientes de los ataques cibernéticos con IA. En una entrevista exclusiva con ZDNet, Anand Raghavan, vicepresidente de productos de IA de Cisco, arroja luz sobre cómo AI está remodelando la ciberseguridad y expandiendo las posibles superficies de ataque para las organizaciones.

ZDNET: ¿Puedes presentarte brevemente y describir tu papel en Cisco?

Anand Raghavan: Soy Anand Raghavan, el vicepresidente de productos para IA dentro del grupo de software y plataformas de IA de Cisco. Mi equipo colabora con varios equipos de productos en Cisco para desarrollar y entregar productos generativos de IA generativos seguros a nuestros clientes. Recientemente, lanzamos el Asistente de AI de Cisco, que simplifica las interacciones de los clientes con nuestros productos a través del lenguaje natural, y Cisco AI Defense, que garantiza un uso seguro de IA seguro para los empleados y las aplicaciones en la nube desarrolladas para los clientes.

ZDNET: ¿Cómo transforma la IA la naturaleza de las amenazas que enfrentan las empresas y los gobiernos a nivel de red?

AR: AI ha revolucionado la seguridad de la red, permitiendo a los piratas informáticos ejecutar ataques más sofisticados y eficientes. Están utilizando AI para automatizar y personalizar las campañas de phishing, haciéndolas más convincentes y aumentando la probabilidad de que los empleados se enamoren de ellas. También estamos viendo malware impulsado por IA que puede adaptarse para evadir las medidas de seguridad tradicionales. A medida que las herramientas de IA se generalizan, no solo expanden la superficie de ataque sino que también amplifican el problema de la sombra.

Mientras que las empresas aprovechan la IA para innovar, los actores maliciosos usan la misma tecnología para elaborar nuevas amenazas. Es crucial ahora más que nunca usar los últimos avances de IA para detectar y mitigar estas amenazas emergentes rápidamente.

Por ejemplo, nuestra tecnología de motor de visibilidad cifrada puede detener las conexiones maliciosas en tiempo real dentro de nuestros firewalls, y nuestro producto de defensa de amenaza de correo electrónico utiliza detectores basados ​​en el lenguaje para identificar correos electrónicos fraudulentos. Con el aumento de las aplicaciones de IA que enfrentan los clientes, las vulnerabilidades en los modelos de IA se han convertido en una nueva superficie de ataque crítico. Estos modelos pueden dirigirse con ataques de inyección o denegación de servicio, potencialmente filtrando datos confidenciales. La industria de la seguridad está corriendo para integrar la IA en soluciones para detectar patrones inusuales y actividad de red sospechosa.

ZDNET: ¿Cómo ayudan a las herramientas de IA ayudando a las empresas a mantenerse por delante de los adversarios cibernéticos cada vez más sofisticados?

AR: En el panorama de las amenazas dinámicas de hoy, las herramientas de seguridad con IA proporcionan monitoreo continuo y autoptimizante a una escala que los esfuerzos manuales no pueden igualar. AI permite a los equipos de seguridad analizar datos de todo el ecosistema de una organización, detectando rápidamente patrones inusuales o tráfico sospechoso que podrían indicar una violación. Este análisis rápido permite respuestas casi en tiempo real a posibles amenazas.

AI complementa los profesionales de la seguridad humana al mejorar los tiempos de visibilidad y respuesta, creando un escenario "mejor juntos". En un mundo donde los analistas de seguridad de primer nivel son escasos, la IA puede apoyar a los analistas de Nivel 1 y Nivel 2, reduciendo significativamente el tiempo necesario para abordar nuevos incidentes y amenazas. La automatización de flujo de trabajo para detección y respuesta extendida (XDR) que usa AI es clave para mantenerse por delante de los adversarios cibernéticos.

ZDNET: Explique la defensa de la IA, y ¿cuál es el principal problema que pretende resolver?

AR: La rápida adopción de aplicaciones de IA es innegable, pero dentro de las organizaciones, el ritmo del desarrollo y la adopción de la IA es más lenta debido a las preocupaciones sobre la seguridad y la seguridad. Según el índice de preparación de AI 2024 de Cisco, solo el 29% de las organizaciones se sienten totalmente equipadas para detectar y evitar la manipulación no autorizada con IA. Las empresas enfrentan un dilema: moverse demasiado rápido y arriesgar la seguridad, o moverse demasiado lentamente y arriesgarse a quedarse atrás de los competidores.

La defensa de AI aborda esto al habilitar y salvaguardar la transformación de IA dentro de las empresas. Agradece dos riesgos principales: la exposición de datos confidenciales a través del mal uso de las herramientas de IA de terceros y la seguridad de los modelos de IA desarrollados e implementados por las empresas. Nuestra solución de acceso de IA proporciona visibilidad en el uso de AI de terceros y permite que las políticas de configuración limiten el intercambio de datos o restrinjan el acceso a herramientas no autorizadas. Para las empresas que desarrollan aplicaciones de IA, AI Defense utiliza tecnología de equipo rojo algorítmico para automatizar las evaluaciones de vulnerabilidad y proporciona protección en tiempo real contra amenazas como inyecciones rápidas y extracción de datos.

ZDNET: ¿Cómo se diferencia AI Defense de los marcos de seguridad existentes?

AR: AI presenta desafíos de seguridad únicos que los marcos tradicionales no están diseñados para manejar. La defensa de IA está específicamente construida para proteger a las empresas de los riesgos asociados con el uso y el desarrollo de la aplicación de IA. Se basa en los modelos AI personalizados de Cisco, centrándose en la validación y protección continua de IA a escala.

Las aplicaciones tradicionales están aseguradas por equipos rojos humanos, pero este enfoque no escala para los modelos de IA no deterministas. AI Defense utiliza un equipo rojo algorítmico para monitorear continuamente las vulnerabilidades y recomendar las barandillas. Nuestro enfoque de plataforma garantiza que estas barandillas se distribuyan en toda la red, proporcionando visibilidad total sobre la huella de IA.

ZDNET: ¿Cuál es la visión de Cisco para integrar la defensa de IA con estrategias de seguridad empresariales más amplias?

AR: El índice de preparación de IA 2024 de Cisco destaca que las organizaciones de presión enfrentan la IA, pero muchos no están preparados y desconocen los riesgos de seguridad de la IA. AI Defense está diseñada para ayudar a las organizaciones a desbloquear los beneficios de IA de forma segura en un entorno múltiple de múltiples nubes. Proporciona visibilidad y control sobre las aplicaciones de IA, lo que facilita a los desarrolladores innovar sin comprometer la seguridad.

El ciclo de vida de adopción para AI incluye visibilidad, validación y protección de tiempo de ejecución. AI Defense admite estos pasos, con la ejecución de la aplicación a través de acceso seguro o productos SASE para la protección de los empleados, y a través de aplicaciones de suite de protección en la nube como Cisco Multicloud Defense para aplicaciones en la nube.

ZDNET: ¿Qué estrategias deben adoptar las empresas para mitigar los riesgos de los ataques adversos a los sistemas de IA?

AR: Las aplicaciones de IA introducen nuevos riesgos de seguridad debido a su naturaleza impredecible y no determinista. Los modelos pueden sufrir alucinaciones o ser vulnerables a ataques como el envenenamiento por datos de entrenamiento y la inyección inmediata. En un entorno múltiple y múltiples modelos, estándares inconsistentes de seguridad pueden ser un problema.

Para proteger contra la manipulación de la IA y la fuga de datos, las organizaciones necesitan un enfoque de seguridad unificado en todas las nubes, aplicaciones y modelos. Esto es especialmente crucial cuando la responsabilidad se fragmenta en diferentes partes interesadas. Es esencial un producto común de seguridad de IA que monitorea y aplique barandillas en todas las categorías de seguridad y seguridad de IA, como se describe por estándares como Mitre Atlas, OWASP LLM10 y NIST RMF, es esencial.

ZDNET: ¿Podría compartir un escenario del mundo real o un estudio de caso donde la defensa de IA podría evitar una violación de seguridad crítica?

AR: La defensa de IA aborda dos áreas principales del riesgo de IA empresarial: el uso de herramientas de IA de terceros y el desarrollo de nuevas aplicaciones de IA. En un escenario, un empleado puede compartir información del cliente con un asistente de IA no autorizado para ayudar con una presentación. Estos datos podrían convertirse en parte de los datos de reentrenamiento de la IA, arriesgando una violación de la privacidad. AI Defense puede limitar este intercambio de datos o restringir el acceso a la herramienta, mitigando el riesgo.

En otro escenario, un desarrollador de IA podría usar un modelo de código abierto para crear un asistente de servicio al cliente, debilitando inadvertidamente sus barandillas. El asistente podría comenzar a proporcionar respuestas incorrectas y volverse vulnerable a los ataques. La defensa de IA identificaría este defecto a través del monitoreo continuo y aplicaría automáticamente las barandillas necesarias.

ZDNET: ¿Qué tendencias emergentes en la seguridad de IA prevé que moldee el futuro de la ciberseguridad?

AR: Una tendencia significativa es el tiempo decreciente entre el descubrimiento de vulnerabilidad y la explotación por parte de los atacantes, gracias a la IA. Las organizaciones deben detectar y parchear las vulnerabilidades más rápido que nunca. La IA puede acelerar la detección de vulnerabilidad, permitiendo respuestas en tiempo real.

Deepfakes son otra preocupación importante para los próximos cinco años. La industria de la seguridad recién está comenzando a prepararse para defenderse de ellos, pero representarán un riesgo significativo. Así como los ataques de denegación de servicio y ransomware han sido amenazas importantes en el pasado, Deepfakes será una noche de insomnio para muchos profesionales de la seguridad.

ZDNET: ¿Cómo pueden colaborar los gobiernos y las empresas para construir estándares de seguridad de IA robustos?

AR: La colaboración entre los gobiernos y el sector privado puede aprovechar diversos conocimientos y perspectivas para desarrollar las mejores prácticas en el panorama de seguridad de IA en rápida evolución. El año pasado, Cisco trabajó con la colaboración conjunta de defensa cibernética (JCDC) de la Agencia de Seguridad Cibernética e Infraestructura (CISA), que incluía a los líderes de la industria y a las agencias gubernamentales para mejorar la respuesta colectiva a los incidentes de seguridad relacionados con la IA.

Participamos en un ejercicio de mesa y contribuimos al "libro de jugadas de colaboración de incidentes de seguridad de IA", que proporciona orientación práctica para responder a incidentes de seguridad relacionados con la IA y compartir información sobre las vulnerabilidades del sistema de IA. Esta colaboración puede crear conciencia sobre los riesgos de seguridad asociados con la tecnología de IA.

ZDNET: ¿Cómo se ve a AI unir la brecha entre la prevención del ciberataque y la respuesta a los incidentes?

AR: Las soluciones de seguridad habilitadas para AI ya están proporcionando monitoreo continuo y escalable, lo que ayuda a los equipos de seguridad humana a detectar actividades sospechosas y vulnerabilidades. La IA es una herramienta invaluable que mejora la visibilidad y proporciona recomendaciones para la respuesta a incidentes.

En el futuro, la IA podría implementar e implementar automáticamente parches de seguridad bajo supervisión humana. Los beneficios incluyen monitoreo continuo, escalabilidad a medida que crece la superficie de ataque, una mayor precisión en la detección de indicadores sutiles y tiempos de respuesta más rápidos en comparación con las revisiones manuales.

La IA está transformando la ciberseguridad, pero ¿las empresas están realmente preparadas para los riesgos que trae? ¿Ha encontrado amenazas cibernéticas impulsadas por la IA en su organización? ¿Crees que las soluciones de seguridad con AI pueden mantenerse por delante de ataques cada vez más sofisticados? ¿Cómo ve el equilibrio entre la IA como una herramienta de seguridad y una posible vulnerabilidad? ¿Están haciendo las empresas lo suficiente para asegurar sus modelos de IA de la explotación? Háganos saber en los comentarios a continuación.

Puede seguir mis actualizaciones de proyecto diarias en las redes sociales. Asegúrese de suscribirse a mi boletín semanal de actualizaciones y sígueme en Twitter/X en @DavidgeWirtz, en Facebook en Facebook.com/davidgewirtz, en Instagram en Instagram.com/davidgewirtz, en Bluesky en @Davidgewirtz.com, y en YouTube en YouTube.com/davidgewirtztztv.