Outils de sécurité alimentés par l'IA: votre arme secrète contre les cyberattaques futures

Dans le monde de la cybersécurité, c'est un fait bien connu que les attaquants n'ont besoin que de trouver une vulnérabilité pour faire des ravages, tandis que les défenseurs doivent protéger contre toutes les menaces possibles. Cette dynamique devient encore plus complexe avec l'intégration de l'IA dans la cybersécurité, en le transformant en une course aux armements où les attaquants et les défenseurs ont accès à de puissants outils d'IA.

Cisco, un géant dans l'industrie du réseautage, est à l'avant-garde de cette bataille, travaillant constamment à protéger ses clients à partir de cyberattaques alimentées par l'IA. Dans une interview exclusive avec ZDNET, Anand Raghavan, vice-président des produits de l'IA de Cisco, met en lumière la façon dont l'IA rehappe la cybersécurité et élargit les surfaces d'attaque potentielles pour les organisations.

ZDNET: Pouvez-vous vous présenter brièvement et décrire votre rôle chez Cisco?

Anand Raghavan: Je suis Anand Raghavan, le vice-président des produits pour l'IA dans le groupe de logiciels et de plates-formes AI de Cisco. Mon équipe collabore avec diverses équipes de produits de Cisco pour développer et livrer des produits génératifs en toute sécurité et sécurisés alimentés par l'IA à nos clients. Récemment, nous avons lancé l'assistant Cisco AI, ce qui simplifie les interactions des clients avec nos produits par le langage naturel, et la défense de l'IA Cisco, qui garantit une utilisation sûre et sécurisée pour l'IA pour les employés et les applications cloud développées pour les clients.

ZDNET: Comment l'IA transforme-t-elle la nature des menaces que les entreprises et les gouvernements sont confrontés au niveau du réseau?

AR: AI a révolutionné la sécurité du réseau, permettant aux pirates d'exécuter des attaques plus sophistiquées et efficaces. Ils utilisent l'IA pour automatiser et personnaliser des campagnes de phishing, ce qui les rend plus convaincants et augmentait la probabilité que les employés tombent amoureux d'eux. Nous constatons également des logiciels malveillants alimentés par l'IA qui peuvent s'adapter pour échapper aux mesures de sécurité traditionnelles. Au fur et à mesure que les outils IA se répandaient, ils élargissent non seulement la surface d'attaque, mais amplifient également la question de l'ombre.

Alors que les entreprises tirent parti de l'IA pour innover, les acteurs malveillants utilisent la même technologie pour élaborer de nouvelles menaces. Il est plus que jamais crucial d'utiliser les dernières progrès de l'IA pour détecter et atténuer rapidement ces menaces émergentes.

Par exemple, notre technologie de moteur de visibilité cryptée peut arrêter les connexions malveillantes en temps réel dans nos pare-feu, et notre produit de défense des menaces par e-mail utilise des détecteurs basés sur le langage pour identifier les e-mails frauduleux. Avec la montée en puissance des applications d'IA confrontées aux clients, les vulnérabilités dans les modèles d'IA sont devenues une nouvelle surface d'attaque critique. Ces modèles peuvent être ciblés avec une injection rapide ou des attaques de déni de service, potentiellement fuir des données sensibles. L'industrie de la sécurité se précipite pour intégrer l'IA dans des solutions pour détecter des modèles inhabituels et une activité de réseau suspecte.

ZDNET: Comment les outils dirigés par l'IA aident-ils les entreprises à rester en avance sur des cyber-adversaires de plus en plus sophistiqués?

AR: Dans le paysage des menaces dynamiques d'aujourd'hui, les outils de sécurité alimentés par l'IA offrent une surveillance continue et auto-optimisante à une échelle que les efforts manuels ne peuvent pas correspondre. L'IA permet aux équipes de sécurité d'analyser les données de l'écosystème d'une organisation, détectant rapidement des modèles inhabituels ou un trafic suspect qui pourraient indiquer une violation. Cette analyse rapide permet des réponses en temps réel à des menaces potentielles.

L'IA complète les professionnels de la sécurité humaine en améliorant les temps de visibilité et de réponse, créant un scénario "mieux ensemble". Dans un monde où les analystes de la sécurité de haut niveau sont rares, l'IA peut prendre en charge les analystes de niveau 1 et de niveau 2, ce qui réduit considérablement le temps nécessaire pour traiter de nouveaux incidents et menaces. L'automatisation du flux de travail pour une détection et une réponse prolongées (XDR) à l'aide de l'IA est essentielle pour rester en avance sur les cyber-adversaires.

ZDNET: Expliquez la défense AI, et quel est le principal problème qu'il vise à résoudre?

AR: L'adoption rapide des applications d'IA est indéniable, mais au sein des organisations, le rythme du développement et de l'adoption de l'IA est plus lent en raison de préoccupations concernant la sécurité et la sécurité. Selon l'indice de préparation à l'IA de Cisco 2024, seulement 29% des organisations se sentent entièrement équipées pour détecter et empêcher la falsification non autorisée d'IA. Les entreprises sont confrontées à un dilemme: se déplacer trop rapidement et risquer la sécurité, ou se déplacer trop lentement et risquer de prendre du retard sur les concurrents.

L'IA Defence aborde cela en activant et en protégeant la transformation de l'IA au sein des entreprises. Il s'attaque à deux risques principaux: l'exposition de données sensibles grâce à l'utilisation abusive d'outils tiers de l'IA et la sécurité des modèles d'IA développés et déployés par les entreprises. Notre solution d'accès AI offre une visibilité dans l'utilisation de l'IA tierce et permet de définir des politiques pour limiter le partage de données ou restreindre l'accès aux outils non autorisés. Pour les entreprises développant des applications d'IA, l'IA Defence utilise la technologie algorithmique de l'équipe rouge pour automatiser les évaluations de vulnérabilité et offre une protection en temps réel contre les menaces telles que des injections rapides et l'extraction des données.

ZDNET: Comment la défense de l'IA se différencie-t-elle des cadres de sécurité existants?

AR: AI présente des défis de sécurité uniques que les cadres traditionnels ne sont pas conçus pour gérer. La défense de l'IA est spécifiquement construite pour protéger les entreprises des risques associés à l'utilisation et au développement des applications de l'IA. Il est basé sur les modèles d'IA personnalisés de Cisco, en se concentrant sur la validation et la protection continues de l'IA à grande échelle.

Les applications traditionnelles sont sécurisées par les équipes rouges humaines, mais cette approche ne s'allonge pas pour les modèles d'IA non déterministes. L'AI Defence utilise une équipe rouge algorithmique pour surveiller en continu les vulnérabilités et recommander des garde-corps. Notre approche de plate-forme garantit que ces garde-corps sont distribués sur le réseau, offrant une visibilité totale sur l'empreinte de l'IA.

ZDNET: Quelle est la vision de Cisco pour l'intégration de la défense de l'IA avec des stratégies de sécurité d'entreprise plus larges?

AR: L'indice de préparation à l'IA de Cisco 2024 met en évidence la pression que les organisations auxquelles les organisations adoptent l'IA, mais beaucoup ne sont pas préparées et ignorées des risques de sécurité de l'IA. L'IA Defence est conçue pour aider les organisations à déverrouiller les avantages de l'IA en toute sécurité dans un environnement multi-cloud et multi-modèles. Il offre une visibilité et un contrôle sur les applications d'IA, ce qui permet aux développeurs d'innover plus facilement sans compromettre la sécurité.

Le cycle de vie de l'adoption pour l'IA comprend la visibilité, la validation et la protection d'exécution. L'AI Defense prend en charge ces étapes, avec l'application de la loi via des produits d'accès sécurisé ou de sase pour la protection des employés, et via des applications de suite de protection cloud comme la défense Cisco Multicloud pour les applications cloud.

ZDNET: Quelles stratégies les entreprises devraient-elles adopter pour atténuer les risques des attaques contradictoires contre les systèmes d'IA?

AR: Les applications d'IA présentent de nouveaux risques de sécurité en raison de leur nature imprévisible et non déterministe. Les modèles peuvent souffrir d'hallucinations ou être vulnérables aux attaques comme l'empoisonnement des données d'entraînement et une injection rapide. Dans un environnement multi-cloud, multi-modes, des normes de sécurité et de sécurité incohérentes peuvent être un problème.

Pour se protéger contre la falsification de l'IA et la fuite de données, les organisations ont besoin d'une approche de sécurité unifiée dans tous les nuages, applications et modèles. Ceci est particulièrement crucial lorsque la responsabilité est fragmentée entre les différentes parties prenantes. Un produit de sécurité AI commun qui surveille et applique des garde-corps dans toutes les catégories de sécurité et de sécurité de l'IA, comme indiqué par des normes comme Mitre Atlas, OWASP LLM10 et NIST RMF, est essentielle.

ZDNET: Pourriez-vous partager un scénario du monde réel ou une étude de cas où la défense d'IA pourrait empêcher une violation de sécurité critique?

AR: La défense de l'IA aborde deux principaux domaines du risque d'IA d'entreprise: l'utilisation d'outils tiers de l'IA et le développement de nouvelles applications d'IA. Dans un scénario, un employé peut partager des informations sur les clients avec un assistant d'IA non autorisé pour aider à une présentation. Ces données pourraient faire partie des données de recyclage de l'IA, risquant une violation de la confidentialité. La défense de l'IA peut limiter ce partage de données ou restreindre l'accès à l'outil, atténuant le risque.

Dans un autre scénario, un développeur d'IA pourrait utiliser un modèle open source pour créer un assistant de service client, affaiblissant par inadvertance ses garde-corps. L'assistant pourrait alors commencer à fournir des réponses incorrectes et devenir vulnérables aux attaques. La défense de l'IA identifierait cette faille par une surveillance continue et appliquerait automatiquement les garde-corps nécessaires.

ZDNET: Quelles tendances émergentes dans la sécurité de l'IA prévoyez-vous en train de façonner l'avenir de la cybersécurité?

AR: Une tendance significative est la diminution du temps entre la découverte de vulnérabilité et l'exploitation par les attaquants, grâce à l'IA. Les organisations doivent détecter et réparer les vulnérabilités plus rapidement que jamais. L'IA peut accélérer la détection de vulnérabilité, permettant des réponses en temps réel.

Deepfakes est une autre préoccupation majeure pour les cinq prochaines années. L'industrie de la sécurité commence à peine à se préparer à se défendre contre eux, mais ils présenteront un risque important. Tout comme les attaques et les ransomwares du déni de service ont été des menaces majeures dans le passé, Deepfakes sera une nuit blanche pour de nombreux professionnels de la sécurité.

ZDNET: Comment les gouvernements et les entreprises peuvent-ils collaborer pour établir des normes de sécurité AI robustes?

AR: La collaboration entre les gouvernements et le secteur privé peut tirer parti de diverses connaissances et perspectives pour développer les meilleures pratiques dans le paysage de sécurité en évolution rapide de l'IA. L'année dernière, Cisco a travaillé avec la Cybersecurity and Infrastructure Security Agency (CISA) Joint Cyber ​​Defense Collaborative (JCDC), qui comprenait des leaders de l'industrie et des agences gouvernementales pour améliorer la réponse collective aux incidents de sécurité liés à l'IA.

Nous avons participé à un exercice de table et avons contribué à la «Collaboration de jeu de la sécurité de l'IA», qui fournit des conseils pratiques pour répondre aux incidents de sécurité liés à l'IA et partager des informations sur les vulnérabilités du système d'IA. Cette collaboration peut sensibiliser les risques de sécurité associés à la technologie de l'IA.

ZDNET: Comment voyez-vous l'IA combler l'écart entre la prévention des cyberattaques et la réponse aux incidents?

AR: Les solutions de sécurité compatibles AI fournissent déjà une surveillance continue et évolutive, aidant les équipes de sécurité humaine à détecter les activités et les vulnérabilités suspectes. L'IA est un outil inestimable qui améliore la visibilité et fournit des recommandations pour la réponse aux incidents.

À l'avenir, l'IA pourrait automatiquement déployer et mettre en œuvre des correctifs de sécurité sous surveillance humaine. Les avantages comprennent une surveillance continue, l'évolutivité à mesure que la surface d'attaque augmente, une précision accrue dans la détection des indicateurs subtils et des temps de réponse plus rapides par rapport aux revues manuelles.

L'IA transforme la cybersécurité, mais les entreprises sont-elles vraiment préparées aux risques qu'il apporte? Avez-vous rencontré des cyber-menaces axées sur l'IA dans votre organisation? Pensez-vous que les solutions de sécurité alimentées par l'IA peuvent rester en avance sur des attaques de plus en plus sophistiquées? Comment voyez-vous l'équilibre entre l'IA comme un outil de sécurité et une vulnérabilité potentielle? Les entreprises en font-elles assez pour obtenir leurs modèles d'IA de l'exploitation? Faites-nous savoir dans les commentaires ci-dessous.

Vous pouvez suivre mes mises à jour quotidiennes de projet sur les réseaux sociaux. Assurez-vous de vous abonner à ma newsletter hebdomadaire de mise à jour et suivez-moi sur Twitter / X à @davidgewirtz, sur Facebook sur Facebook.com/davidgewirtz, sur Instagram sur Instagram.com/davidgewirtz, sur bluesky à @ davidgewirtz.com et sur YouTube sur YouTube.com/davidgewirtztv.