AI驱动的安全工具：您针对未来网络攻击的秘密武器

在网络安全的世界中，众所周知的事实是，攻击者只需要找到一种危害破坏的脆弱性，而后卫必须防止一切可能的威胁。通过将AI整合到网络安全中，这种动态变得更加复杂，将其变成了攻击者和后卫都可以使用强大的AI工具的军备竞赛。

思科是网络行业的巨人，在这场战斗中处于最前沿，不断努力保护其客户免受AI驱动的网络攻击。在对ZDNet的独家采访中，思科的AI产品副总裁Anand Raghavan阐明了AI如何重塑网络安全并扩大了组织的潜在攻击表面。

ZDNET：您能简要介绍自己并描述您在思科的角色吗？

Anand Raghavan：我是Anand Raghavan，是Cisco AI软件和平台组中AI产品的副总裁。我的团队与Cisco的各种产品团队合作开发并为客户开发并提供安全的AI驱动产品。最近，我们启动了Cisco AI助理，该助理通过自然语言简化了与我们产品的互动，以及Cisco AI Deficess，可确保为员工和为客户开发的云应用程序提供安全的AI使用。

ZDNET：AI如何改变企业和政府在网络层面上面对的威胁性质？

AR： AI彻底改变了网络安全性，使黑客能够执行更复杂和高效的攻击。他们使用AI来自动化和个性化网络钓鱼活动，使他们更具说服力并增加了员工为他们而堕落的可能性。我们还看到了AI驱动的恶意软件，可以适应逃避传统的安全措施。随着AI工具变得越来越普遍，它们不仅扩大了攻击表面，还扩大了阴影的问题。

当公司利用AI创新时，恶意演员使用相同的技术来制定新的威胁。现在，使用最新的AI进步来检测和减轻这些新兴威胁的威胁比以往任何时候都至关重要。

例如，我们加密的可见性引擎技术可以在我们的防火墙中实时停止恶意连接，并且我们的电子邮件威胁防御产品使用基于语言的检测器来识别欺诈性电子邮件。随着AI应用程序面对客户的兴起，AI模型中的漏洞已成为一种新的关键攻击表面。这些模型可以通过迅速注入或拒绝服务攻击来定位，并可能泄漏敏感数据。安全行业正在竞争将AI集成到解决方案中，以检测异常模式和可疑的网络活动。

ZDNET：AI驱动的工具如何帮助企业在越来越复杂的网络对手之前保持领先地位？

AR：在当今的动态威胁环境中，AI驱动的安全工具以手动努力无法匹配的规模提供了连续而自我优化的监视。 AI允许安全团队分析来自组织的生态系统中的数据，迅速检测出可能表明违规的异常模式或可疑流量。这种快速分析可以实时对潜在威胁的实时响应。

AI通过增强可见性和响应时间来补充人类安全专业人员，从而创建一个“更好的在一起”场景。在一个稀缺的顶级安全分析师的世界中，AI可以支持第1层和第2级分析师，从而大大减少了应对新事件和威胁所需的时间。使用AI进行扩展检测和响应（XDR）的工作流程自动化是保持网络对手领先的关键。

ZDNET：解释AI防御，其目的是解决什么主要问题？

AR：不可否认的AI应用程序的迅速采用，但是在组织中，由于对安全和保障的担忧，AI开发和采用的速度较慢。根据思科的2024年AI准备指数，只有29％的组织感到完全有能力检测和防止未经授权的AI篡改。公司面临困境：行动太快，风险安全，或者移动太慢，并有可能落后于竞争对手。

AI防御通过在企业内实现和维护AI转换来解决这一问题。它解决了两个主要风险：通过滥用第三方AI工具来暴露敏感数据，以及由企业开发和部署的AI模型的安全性。我们的AI访问解决方案提供了第三方AI使用的可见性，并允许设置策略限制数据共享或限制对未批准工具的访问。对于开发AI应用程序的企业，AI防御使用算法红色团队技术来自动化漏洞评估，并为诸如迅速注射和数据提取之类的威胁提供实时保护。

ZDNET：AI防御与现有安全框架有何区别？

AR： AI提出了传统框架不是为处理的独特安全挑战。 AI防御专门为保护企业免受与AI应用程序使用和开发相关的风险而建立的。它基于Cisco的自定义AI模型，重点是持续的AI验证和大规模保护。

传统应用是由人类红色团队确保的，但是这种方法不能扩展非确定性AI模型。 AI Defense使用算法红色团队不断监控漏洞并推荐护栏。我们的平台方法确保这些护栏分布在整个网络上，从而提供了AI足迹的全部知名度。

ZDNET：Cisco将AI防御与更广泛的企业安全策略相结合的愿景是什么？

AR：思科的2024年AI准备就绪指数强调了组织面对采用AI的压力，但许多人没有准备好，也没有意识到AI安全风险。 AI防御旨在帮助组织在多云的多模型环境中安全地解锁AI的福利。它提供了对AI应用程序的可见性和控制权，使开发人员更容易在不损害安全性的情况下进行创新。

AI的采用生命周期包括可见性，验证和运行时保护。 AI防御支持这些步骤，并通过安全访问或SASE产品进行执法，以及通过云保护套件应用程序（例如Cisco Multicloud Defersent for Cloud Applications）进行的云保护套件应用程序。

ZDNET：企业应采取哪些策略来减轻对AI系统的对抗攻击的风险？

AR： AI应用程序由于无法预测和非确定性而引入新的安全风险。模型可能会遭受幻觉的困扰，也可能容易受到训练数据中毒和迅速注射等攻击。在多云的多模型环境中，安全和安全标准不一致可能是一个问题。

为了防止AI篡改和数据泄漏，组织需要在所有云，应用程序和模型中采用统一的安全方法。当责任制在不同的利益相关者之间分散时，这尤其至关重要。由Miter Atlas，Owasp LLM10和Nist RMF等标准概述的所有AI安全和安全类别中的通用AI安全产品至关重要。

ZDNET：您能否分享AI防御能够防止严重安全漏洞的现实情况或案例研究？

AR： AI辩护涉及企业AI风险的两个主要领域：使用第三方AI工具以及新的AI应用程序的开发。在一种情况下，员工可能会与未经许可的AI助手共享客户信息，以帮助进行演讲。这些数据可能成为AI的再培训数据的一部分，冒着侵犯隐私的风险。 AI防御可以限制此数据共享或限制对工具的访问，从而减轻风险。

在另一种情况下，AI开发人员可能会使用开源模型来创建客户服务助理，无意中削弱了其护栏。然后，助手可以开始提供不正确的答复，并容易受到攻击。人工智能防御将通过连续监控来识别这一缺陷，并自动应用必要的护栏。

ZDNET：AI安全的新兴趋势您预见到网络安全的未来？

AR：一个重要的趋势是，由于AI，脆弱性发现与攻击者的剥削之间的时间减少。组织必须比以往任何时候都更快地检测和修补漏洞。 AI可以加速脆弱性检测，从而实现实时响应。

深击是未来五年的另一个主要问题。安全行业刚刚开始为防御他们的辩护做准备，但它们会带来重大风险。正如过去拒绝服务攻击和勒索软件是过去的主要威胁一样，对于许多安全专业人员来说，Deepfakes将是一个不眠之夜。

ZDNET：政府和企业如何合作建立强大的AI安全标准？

AR：政府与私营部门之间的合作可以利用各种知识和观点来发展快速发展的AI安全环境中的最佳实践。去年，思科与网络安全和基础设施安全局（CISA）联合网络国防合作（JCDC）合作，其中包括行业领导人和政府机构，以增强对与AI相关安全事件的集体响应。

我们参加了桌面练习，并为“ AI安全事件协作剧本”做出了贡献，该剧本为响应与AI相关的安全事件做出了实用的指导，并共享有关AI系统漏洞的信息。这种合作可以提高人们对与AI技术相关的安全风险的认识。

ZDNET：您如何看待AI弥合网络攻击和事件响应之间的差距？

AR：支持AI的安全解决方案已经在提供持续可扩展的监控，帮助人类安全团队发现可疑活动和脆弱性。 AI是一种可增强可见性并为事件响应提供建议的宝贵工具。

将来，AI可以在人类监督下自动部署和实施安全补丁。好处包括连续监测，随着攻击表面的增长，与手动审查相比的响应时间更快，可伸缩性提高，检测微妙指标的准确性和更快的响应时间。

AI正在改变网络安全，但是为其带来的风险做好了真正准备的企业吗？您是否在组织中遇到了AI驱动的网络威胁？您是否认为AI驱动的安全解决方案可以保持越来越复杂的攻击？您如何将AI作为安全工具和潜在漏洞之间的平衡？公司是否正在做足够的工作来保护其AI模型免于剥削？在下面的评论中让我们知道。

您可以在社交媒体上关注我的日常项目更新。请务必订阅我的每周更新新闻通讯，并在@davidgewirtz上的Twitter/x上关注我，在Facebook上的 @davidgewirtz，lackigham.com/davidgewirtz上的Facebook.com/davidgewirtz上， @davidgewirtz.com上的Instagram上，在bluesky上，在youtube.com/davidewigne.com/davidewidewignewignewigne.com/davidewiftz.com上。