4 conseils de sécurité experts pour que les entreprises puissent naviguer dans les cybermenaces alimentées par l'IA en 2025

Les cybercriminels utilisent désormais l'intelligence artificielle (IA) pour améliorer chaque étape de leurs attaques. Ils utilisent des modèles de grandes langues (LLM) pour créer des e-mails de phishing hautement personnalisés, recueillir des détails personnels à partir des médias sociaux et des réseaux professionnels. Pendant ce temps, les réseaux adversaires génératifs (GANS) sont utilisés pour produire un audio et une vidéo DeepFake, qui peuvent tromper les systèmes d'authentification multi-facteurs. Même les enfants du script se lancent dans l'action, en utilisant des outils automatisés comme Wormpt pour déployer des logiciels malmorphes polymorphes qui peuvent changer et esquiver les méthodes de détection traditionnelles.

Ce ne sont pas seulement des menaces hypothétiques; Ils se produisent maintenant. Les entreprises qui n'adaptent pas leurs stratégies de sécurité seront confrontées à une vague de cyber-menaces sophistiquées non seulement en 2025, mais au-delà.

Vous voulez rester en avance à l'ère IA? Vous avez deux choix: construisez l'IA dans vos opérations ou utilisez l'IA pour améliorer votre entreprise.

Pour approfondir la façon dont l'IA remodèle la sécurité des entreprises, j'ai eu une conversation avec Bradon Rogers, le chef de douane de l'île et un expert en cybersécurité chevronné. Nous avons discuté de l'évolution du paysage de la sécurité numérique, de la détection précoce des menaces et des stratégies pour préparer votre équipe aux attaques dirigés par l'IA. Mais d'abord, préparons la voie avec un certain contexte.

Pourquoi les menaces de cybersécurité de l'IA sont différentes

L'IA équipe des acteurs malveillants d'outils avancés qui rendent les cyberattaques plus ciblées, convaincantes et difficiles à repérer. Par exemple, les systèmes d'IA génératifs d'aujourd'hui peuvent passer à travers des ensembles de données massives d'informations personnelles, de communications d'entreprise et de médias sociaux pour adapter les campagnes de phishing qui semblent provenir de sources de confiance. Lorsqu'elles sont associées à des logiciels malveillants qui s'adaptent automatiquement aux mesures de sécurité, l'échelle et l'efficacité de ces attaques montent en flèche.

DeepFake Technology va plus loin en créant un contenu vidéo et audio réaliste, permettant tout, des escroqueries d'identité exécutive aux campagnes de désinformation à grande échelle. Nous avons vu des exemples du monde réel, comme un vol de 25 millions de dollars d'une entreprise de Hong Kong grâce à une conférence vidéo Deepfake, et de nombreux cas où des clips vocaux générés par l'IA ont amené les gens à transférer de l'argent à des fraudeurs.

Les cyberattaques automatisées axées sur l'AI ont également introduit des systèmes "set and-inoublig" qui recherchent constamment des vulnérabilités, s'adaptent aux contre-mesures et exploitent les faiblesses sans aucune entrée humaine. Un cas notable était la violation de l'AWS 2024, où les logiciels malveillants alimentés par AI ont cartographié le réseau, identifié des vulnérabilités et exécuté une attaque complexe qui compromet des milliers de comptes clients.

Ces incidents montrent que l'IA n'améliore pas seulement les cyber-menaces existantes; Il engendre entièrement de nouveaux types de risques de sécurité. Voici comment Bradon Rogers suggère de relever ces défis.

1. Implémentez l'architecture zéro-frust

L'ancien modèle de périmètre de sécurité ne le coupe plus contre les menaces améliorées en AI. Une architecture Zero-Trust suit une approche "Never Trust, toujours Vérifier", garantissant que chaque utilisateur, appareil et application doit être authentifié et autorisé avant d'accéder aux ressources. Cette méthode minimise le risque d'accès non autorisé, même si les attaquants parviennent à entrer dans le réseau.

"Les entreprises doivent vérifier chaque utilisateur, appareil et application, y compris l'IA - avant de toucher des données ou des fonctions critiques", souligne Rogers, appelant cela la meilleure stratégie de défense. En vérifiant constamment les identités et en appliquant des contrôles d'accès serrés, les entreprises peuvent réduire leur surface d'attaque et limiter les dommages des comptes compromis.

Bien que l'IA pose de nouveaux défis, il apporte également de puissants outils défensifs à la table. Les solutions de sécurité axées sur l'IA peuvent analyser d'énormes quantités de données en temps réel, repérant des anomalies et des menaces potentielles que les méthodes traditionnelles pourraient manquer. Ces systèmes peuvent s'adapter aux nouveaux modèles d'attaque, offrant une défense dynamique contre les cyberattaques alimentées par l'IA.

Rogers prévient que l'IA dans la cyber-défense ne devrait pas être traitée comme une autre caractéristique. "Les CISO et les dirigeants de la sécurité doivent intégrer l'IA dans leurs systèmes à partir de zéro", dit-il. En intégrant l'IA dans leur infrastructure de sécurité, les organisations peuvent renforcer leur capacité à détecter et à répondre rapidement aux incidents, rétrécissant la fenêtre d'opportunité pour les attaquants.

2. Éduquer et former les employés sur les menaces axées sur l'IA

En favorisant une culture de sensibilisation à la sécurité et en définissant des directives claires pour l'utilisation d'outils d'IA, les entreprises peuvent réduire le risque de vulnérabilités internes. Après tout, les gens sont complexes et souvent, des solutions simples fonctionnent mieux.

"Il ne s'agit pas seulement de repousser les attaques externes. Il s'agit également de fixer des limites pour les employés utilisant l'IA comme" code de triche de productivité "", explique Rogers.

L'erreur humaine est toujours un point faible majeur de la cybersécurité. Alors que les attaques de phishing et d'ingénierie sociale générées par l'AI sont plus convaincantes, il est crucial d'éduquer les employés sur ces menaces en évolution. Une formation régulière peut les aider à repérer des activités suspectes, comme des e-mails inattendus ou des demandes inhabituelles qui se détachent des procédures normales.

3. Surveiller et réglementer l'utilisation de l'IA des employés

Les technologies de l'IA sont largement adoptées entre les entreprises, mais une utilisation non autorisée ou sans surveillance - ce qui est connu sous le nom de "Shadow IA" - peut présenter de sérieux risques de sécurité. Les employés peuvent accidentellement utiliser des applications AI sans sécurité appropriée, entraînant des fuites de données ou des problèmes de conformité.

"Nous ne pouvons pas laisser les données d'entreprise se dérouler librement dans des environnements d'IA non autorisés, nous devons donc trouver un équilibre", note Rogers. Les politiques qui régissent les outils d'IA, les audits réguliers et la garantie de toutes les applications de l'IA répondent aux normes de sécurité de l'entreprise sont essentielles pour gérer ces risques.

4. Collaborer avec les experts en IA et en cybersécurité

La complexité des menaces axées sur l'IA signifie que les entreprises doivent travailler avec des experts en IA et en cybersécurité. Le partenariat avec les entreprises externes peut donner aux organisations accès aux dernières informations sur les menaces, aux technologies défensives de pointe et aux compétences spécialisées qu'ils pourraient ne pas avoir en interne.

Les attaques alimentées par l'IA nécessitent des défenses sophistiquées que les outils de sécurité traditionnels ne peuvent souvent pas fournir. Les plates-formes de détection de menaces améliorées AI, les navigateurs sécurisés et les contrôles d'accès à zéro contrepartie peuvent analyser le comportement des utilisateurs, détecter les anomalies et empêcher les acteurs malveillants d'obtenir un accès non autorisé.

Rogers souligne que des solutions innovantes pour les entreprises "sont la pièce manquante dans le puzzle de sécurité zéro-frust. Ces outils offrent des contrôles de sécurité granulaires profonds qui protègent toute application ou ressource sur les réseaux publics et privés".

Ces outils utilisent l'apprentissage automatique pour garder un œil sur l'activité du réseau, signaler les modèles suspects et automatiser la réponse des incidents, réduisant le risque d'attaques générées par l'AI, passant dans les systèmes d'entreprise.