Los agentes de IA explotan datos confidenciales: cómo los hackers los usan y las medidas de protección

Al igual que el resto de nosotros, los ciberdelincuentes están recurriendo a la inteligencia artificial para optimizar sus operaciones, haciendo que sus ataques sean más rápidos, fáciles y astutos. Al integrar la IA en su arsenal habitual de trucos, como bots automatizados, apropiaciones de cuentas y técnicas de ingeniería social, estos estafadores expertos están elevando su juego. Un reciente informe de Gartner arroja luz sobre cómo está evolucionando esta tendencia y advierte que podría intensificarse en un futuro próximo.

El analista principal de Gartner, Jeremy D'Hoinne, señala que la autenticación débil es el talón de Aquiles que impulsa las apropiaciones de cuentas. Los ciberatacantes explotan esta vulnerabilidad utilizando una variedad de métodos para obtener contraseñas de cuentas, desde violaciones de datos hasta ingeniería social.

El papel de la IA en las apropiaciones de cuentas

Una vez que se compromete una contraseña, la IA entra en escena. Los ciberdelincuentes despliegan bots automatizados de IA para bombardear múltiples servicios con intentos de inicio de sesión, con el objetivo de descubrir si esas credenciales se reutilizan en diferentes plataformas. ¿El objetivo final? Encontrar un sitio lucrativo donde puedan orquestar una apropiación completa de la cuenta. Si el hacker no está interesado en llevar a cabo el ataque por sí mismo, puede fácilmente vender la información robada en la dark web, donde esperan compradores ansiosos.

"La apropiación de cuentas (ATO) sigue siendo un vector de ataque persistente porque las credenciales de autenticación débiles, como las contraseñas, se recopilan por diversos medios, incluidos violaciones de datos, phishing, ingeniería social y malware," explica D'Hoinne en el informe de Gartner. "Los atacantes luego aprovechan los bots para automatizar un aluvión de intentos de inicio de sesión en una variedad de servicios con la esperanza de que las credenciales se hayan reutilizado en múltiples plataformas."

Con la IA ahora en su arsenal, los atacantes pueden automatizar el proceso de apropiación de cuentas de manera más eficiente. Gartner predice que en los próximos dos años, el tiempo requerido para una apropiación de cuenta disminuirá en un 50%.

IA y la ingeniería social con deepfakes

El impacto de la IA va más allá de las apropiaciones de cuentas; también está revolucionando las campañas de deepfakes. Los ciberdelincuentes están combinando la ingeniería social con audio y video deepfake para engañar a sus objetivos. Imagina recibir una llamada de alguien que suena exactamente como tu jefe o un colega de confianza, instándote a transferir fondos o revelar información sensible. Está sucediendo, y está costando a las empresas sumas significativas.

Aunque solo se han reportado un puñado de casos de alto perfil, el daño financiero ha sido considerable. Detectar voces deepfake durante llamadas personales sigue siendo complicado. Gartner pronostica que para 2028, el 40% de los ataques de ingeniería social se dirigirán tanto a ejecutivos como a la fuerza laboral en general.

"Las organizaciones tendrán que mantenerse al tanto del mercado y adaptar procedimientos y flujos de trabajo en un intento de resistir mejor los ataques que aprovechan técnicas de realidad falsificada," aconseja Manuel Acosta, analista senior de Gartner. "Educar a los empleados sobre el panorama de amenazas en evolución mediante el uso de capacitación específica sobre ingeniería social con deepfakes es un paso clave."

Frustrar los ataques impulsados por IA

Entonces, ¿cómo pueden los individuos y las organizaciones defenderse de estos asaltos impulsados por IA?

"Para combatir los desafíos emergentes de los ataques impulsados por IA, las organizaciones deben aprovechar herramientas impulsadas por IA que puedan proporcionar visibilidad y alertas granulares en tiempo real del entorno para aumentar la capacidad de los equipos de seguridad," sugiere Nicole Carignan, vicepresidenta senior de estrategia de seguridad y IA en Darktrace.

Carignan también recomienda adelantarse a las nuevas amenazas integrando respuestas impulsadas por máquinas, ya sea de manera autónoma o con supervisión humana, para acelerar las reacciones del equipo de seguridad. "A través de este enfoque, la adopción de tecnologías de IA, como soluciones con capacidades de detección basadas en anomalías que pueden detectar y responder a amenazas nunca antes vistas, puede ser fundamental para mantener seguras a las organizaciones."

La autenticación multifactor y la verificación biométrica, como escaneos faciales o de huellas dactilares, también son cruciales para proteger contra el compromiso de cuentas. "Los ciberdelincuentes no solo dependen de credenciales robadas, sino también de la manipulación social, para violar las protecciones de identidad," dice James Scobey, director de seguridad de la información en Keeper Security. "Los deepfakes son una preocupación particular en esta área, ya que los modelos de IA hacen que estos métodos de ataque sean más rápidos, baratos y convincentes. A medida que los atacantes se vuelven más sofisticados, la necesidad de métodos de verificación de identidad más fuertes y dinámicos, como la autenticación multifactor (MFA) y la biometría, será vital para defenderse contra estas amenazas cada vez más matizadas. La MFA es esencial para prevenir las apropiaciones de cuentas."

Consejos de Gartner para lidiar con la ingeniería social y los deepfakes

• Educar a los empleados. Capacítelos en ingeniería social y deepfakes, pero no confíe únicamente en su capacidad para detectar estas amenazas.
• Establecer otras medidas de verificación. Por ejemplo, verifique cualquier intento de solicitar información confidencial por teléfono en otra plataforma.
• Usar una política de devolución de llamada. Proporcione un número designado al que los empleados puedan llamar para confirmar solicitudes sensibles o confidenciales.
• Ir más allá de una política de devolución de llamada. Asegúrese de que una sola llamada telefónica o solicitud no pueda desencadenar una acción de alto riesgo sin una verificación adicional de ejecutivos de alto nivel.
• Mantenerse al tanto de la detección de deepfakes en tiempo real. Manténgase al día con las tecnologías emergentes que pueden detectar deepfakes en llamadas de audio y video, y complemente estas con otros métodos de identificación como IDs únicos.

¿Quieres más historias sobre IA? Suscríbete a Innovación, nuestro boletín semanal.