关注真正的网络威胁,而不仅仅是人工智能

面对现实吧:人工智能驱动的网络攻击是一种令人生畏的可能性。但它们并不是公司面临的最大危险。
真正的危险是它们造成的分心。
15 年来,我目睹了同样的模式。高管们被最新的 "人工智能超级威胁 "所震惊,而安全团队却仍在努力回答一些基本问题,如 "我们最敏感的客户信息在哪里?"或 "谁负责为关键服务器打补丁?"我们追求最新的工具,而工程师们却被拖入紧急的合规工作中,关键漏洞被排在了优先列表的末尾。
这就是典型的 "纱门锁 "困境。企业正在匆忙实施人工智能驱动的防御措施,而攻击者却在利用人工智能的更少限制和更大灵活性来利用流程、所有权和文化中的根本弱点。特别是对于中型企业来说,忽视基本要素就有可能成为下一个警示案例。
静态防御为何在动态世界中失效
当我开始我的职业生涯时,安全就是一张清单:杀毒软件、补丁和强大的防火墙。那个时代已经过去了。如今,多态恶意软件会更改代码以躲避检测,僵尸网络发起攻击的速度比任何人都快。
加密流量已成为攻击者首选的隐藏方法。Zscaler 的 2024 ThreatLabz 报告显示,现在几乎 90% 的恶意软件都是通过加密渠道发送的。这意味着十个威胁中有九个被传统安全工具所隐藏,而传统安全工具无法检查这些流量。
然而,真正的障碍不仅仅是技术,还有组织的惰性。我曾见过才华横溢的安全团队浪费数周时间,仅仅是为了修复一个已知漏洞而寻求批准。在安排必要会议的时间内,自动攻击者就能攻破系统并窃取数据。一成不变已不再可行。安全计划必须顺应形势,关注业务中发展最快的方面。
网络犯罪的产业化
这一发展态势并不令人震惊。攻击者是经营犯罪企业的企业家。他们只是采用新技术来提高投资回报--就像合法企业一样。人工智能正在帮助他们实现业务产业化。
- 网络钓鱼--即服务,增压:网络钓鱼仍然是最主要的入侵方式,多年来,FBI 和 IBM 一直将其报告为最主要的初始访问载体。现在,借助 "FraudGPT "等人工智能生成工具,犯罪分子可以以前所未有的规模制作出完美定制、语法无误的网络钓鱼活动。
- 语音是谎言:语音网络钓鱼("vishing")正在激增。据 CrowdStrike 观察,攻击者利用人工智能克隆的声音冒充高管,欺骗员工转账,导致语音网络钓鱼的数量增加了 442%。英国一家能源公司就因此损失超过 24.3 万美元。
- 自动化对手的崛起:CrowdStrike 的威胁猎手现在会遇到端到端的自动化活动--从人工智能生成的简历与深度伪造的视频访谈,到不使用恶意软件且完全在云中运行的入侵。
防御者面临的威胁能够在几乎没有人工干预的情况下适应并持续存在。多年来,攻击者一直在实现自动化;人工智能只是将他们的工作流程加速到了超速状态。
为了跟上时代的步伐,我们必须最终放弃过时的、以清单为导向的合规和网络安全方法。在最新的市场工具中寻找神奇的解决方案也不是办法。也就是说,这一挑战为我们提供了一个回归根本的独特机会。
不要再问 "我们是否合规?开始问 "我们有复原力吗?
即使人工智能改变了威胁格局,但大多数漏洞仍是由于忽视了基本要素而造成的。没错,那位首席执行官的声音可能是克隆的,但真正的失败很可能是财务审批流程存在缺陷。人工智能不过是一连串被忽视的基本要素中的最后一步。
当人工智能可以找到一台五年前未打补丁的服务器或一个拥有一切管理权限的开发人员时,它并不需要发现零日漏洞。购买另一种人工智能驱动的安全工具并不能修复破损的安全文化。人工智能应该强化稳健的流程,而不是取而代之。
这是领导层经常犯错的地方。我曾坐在会议室里,核心问题是 "我们是否合规?更好的问题是:"我们的安全计划是否让我们的业务更具弹性?
合规变成了打格子。产品团队快速前进,工程师在没有足够资源的情况下被分配了安全职责,而领导者则认为一次无问题的审计就等同于业务安全。其实不然。解决办法不是增加工具,而是自上而下加强基础支持。安全必须与业务增长和产品完整性直接挂钩。
人工智能时代的实用指南
财富 500 强企业可以在这个问题上投入巨资。中型企业必须更具战略性。那么,你到底应该怎么做呢?
- 先夯实基础。在投资另一个工具之前,确保您拥有可靠的数据清单、无可挑剔的访问控制和功能可靠的修补程序。
- 将人工智能提上日程。开展模拟人工智能攻击的桌面演练。将此作为高管报告的常规部分,以便将其视为业务风险,而不仅仅是 IT 问题。
- 关注行为,而不仅仅是静态信号。优先使用能检测异常活动(如用户账户突然访问从未使用过的数据库)的工具,而不是只搜索已知恶意软件签名的工具。
人工智能不是敌人,自满才是
人工智能不是双刃剑,而是放大镜。它让高效的流程更加有效,让有缺陷的流程变得灾难性。
攻击者总会有新的工具可用。关键问题在于,您的安全策略是建立在坚实的弹性基础之上,还是仅仅追逐下一个趋势。一劳永逸的安全时代已经过去。培养以安全为重点的文化并掌握基本要素的组织将取得成功,即使在自主威胁时代也是如此。
相关文章
英国各政府部门就人工智能数据中心的能源需求问题发生争执
英国政府正面临一项重大挑战:在推动清洁能源发展的同时,力争成为人工智能领域的全球领导者。然而,负责实现这些目标的各部门之间却存在严重分歧。 科学、创新与技术部(DSIT)与能源安全与净零部(DESNZ)对人工智能数据中心的未来电力需求做出了截然不同的预测。DSIT预测,到2030年,人工智能数据中心将需要6吉瓦的电力,而DESNZ的估计则不到这一数字的十分之一。 这一差距引起了非营利组织Foxgl
中国网络空间管理局要求对人工智能生成和虚构的短视频进行标注
中国国家互联网信息办公室出台了一项全面计划,旨在规范短视频内容标注,要求各平台提供六项必备标签——包括“AI生成内容”——这标志着短视频治理进入了一个强制透明化的新时代。为解决内容来源不明、难以区分真伪等问题,监管部门在此前与抖音、快手、腾讯、百度等主要平台开展试点的基础上,现已将内容标注作为短视频发布流程中的强制性环节。 发布者必须从六种选项中选择其一:“虚构演绎”、“AI生成”、“含营销信息”
以文本翻译著称的DeepL,如今将目光投向了语音翻译
以文本翻译工具闻名的翻译公司DeepL今日推出了一套语音到语音翻译解决方案,通过定制应用程序,为一线工作人员在会议、移动端和网页对话以及小组讨论等场景中提供支持。 该公司还推出了一款API,允许外部开发者和企业基于DeepL的技术构建定制化解决方案,例如呼叫中心应用。“在专注于文本翻译多年后,语音翻译对我们来说是水到渠成的下一步,”DeepL首席执行官Jarek Kutylowski在接受Tech
相关专题推荐
评论 (0)
0/500

面对现实吧:人工智能驱动的网络攻击是一种令人生畏的可能性。但它们并不是公司面临的最大危险。
真正的危险是它们造成的分心。
15 年来,我目睹了同样的模式。高管们被最新的 "人工智能超级威胁 "所震惊,而安全团队却仍在努力回答一些基本问题,如 "我们最敏感的客户信息在哪里?"或 "谁负责为关键服务器打补丁?"我们追求最新的工具,而工程师们却被拖入紧急的合规工作中,关键漏洞被排在了优先列表的末尾。
这就是典型的 "纱门锁 "困境。企业正在匆忙实施人工智能驱动的防御措施,而攻击者却在利用人工智能的更少限制和更大灵活性来利用流程、所有权和文化中的根本弱点。特别是对于中型企业来说,忽视基本要素就有可能成为下一个警示案例。
静态防御为何在动态世界中失效
当我开始我的职业生涯时,安全就是一张清单:杀毒软件、补丁和强大的防火墙。那个时代已经过去了。如今,多态恶意软件会更改代码以躲避检测,僵尸网络发起攻击的速度比任何人都快。
加密流量已成为攻击者首选的隐藏方法。Zscaler 的 2024 ThreatLabz 报告显示,现在几乎 90% 的恶意软件都是通过加密渠道发送的。这意味着十个威胁中有九个被传统安全工具所隐藏,而传统安全工具无法检查这些流量。
然而,真正的障碍不仅仅是技术,还有组织的惰性。我曾见过才华横溢的安全团队浪费数周时间,仅仅是为了修复一个已知漏洞而寻求批准。在安排必要会议的时间内,自动攻击者就能攻破系统并窃取数据。一成不变已不再可行。安全计划必须顺应形势,关注业务中发展最快的方面。
网络犯罪的产业化
这一发展态势并不令人震惊。攻击者是经营犯罪企业的企业家。他们只是采用新技术来提高投资回报--就像合法企业一样。人工智能正在帮助他们实现业务产业化。
- 网络钓鱼--即服务,增压:网络钓鱼仍然是最主要的入侵方式,多年来,FBI 和 IBM 一直将其报告为最主要的初始访问载体。现在,借助 "FraudGPT "等人工智能生成工具,犯罪分子可以以前所未有的规模制作出完美定制、语法无误的网络钓鱼活动。
- 语音是谎言:语音网络钓鱼("vishing")正在激增。据 CrowdStrike 观察,攻击者利用人工智能克隆的声音冒充高管,欺骗员工转账,导致语音网络钓鱼的数量增加了 442%。英国一家能源公司就因此损失超过 24.3 万美元。
- 自动化对手的崛起:CrowdStrike 的威胁猎手现在会遇到端到端的自动化活动--从人工智能生成的简历与深度伪造的视频访谈,到不使用恶意软件且完全在云中运行的入侵。
防御者面临的威胁能够在几乎没有人工干预的情况下适应并持续存在。多年来,攻击者一直在实现自动化;人工智能只是将他们的工作流程加速到了超速状态。
为了跟上时代的步伐,我们必须最终放弃过时的、以清单为导向的合规和网络安全方法。在最新的市场工具中寻找神奇的解决方案也不是办法。也就是说,这一挑战为我们提供了一个回归根本的独特机会。
不要再问 "我们是否合规?开始问 "我们有复原力吗?
即使人工智能改变了威胁格局,但大多数漏洞仍是由于忽视了基本要素而造成的。没错,那位首席执行官的声音可能是克隆的,但真正的失败很可能是财务审批流程存在缺陷。人工智能不过是一连串被忽视的基本要素中的最后一步。
当人工智能可以找到一台五年前未打补丁的服务器或一个拥有一切管理权限的开发人员时,它并不需要发现零日漏洞。购买另一种人工智能驱动的安全工具并不能修复破损的安全文化。人工智能应该强化稳健的流程,而不是取而代之。
这是领导层经常犯错的地方。我曾坐在会议室里,核心问题是 "我们是否合规?更好的问题是:"我们的安全计划是否让我们的业务更具弹性?
合规变成了打格子。产品团队快速前进,工程师在没有足够资源的情况下被分配了安全职责,而领导者则认为一次无问题的审计就等同于业务安全。其实不然。解决办法不是增加工具,而是自上而下加强基础支持。安全必须与业务增长和产品完整性直接挂钩。
人工智能时代的实用指南
财富 500 强企业可以在这个问题上投入巨资。中型企业必须更具战略性。那么,你到底应该怎么做呢?
- 先夯实基础。在投资另一个工具之前,确保您拥有可靠的数据清单、无可挑剔的访问控制和功能可靠的修补程序。
- 将人工智能提上日程。开展模拟人工智能攻击的桌面演练。将此作为高管报告的常规部分,以便将其视为业务风险,而不仅仅是 IT 问题。
- 关注行为,而不仅仅是静态信号。优先使用能检测异常活动(如用户账户突然访问从未使用过的数据库)的工具,而不是只搜索已知恶意软件签名的工具。
人工智能不是敌人,自满才是
人工智能不是双刃剑,而是放大镜。它让高效的流程更加有效,让有缺陷的流程变得灾难性。
攻击者总会有新的工具可用。关键问题在于,您的安全策略是建立在坚实的弹性基础之上,还是仅仅追逐下一个趋势。一劳永逸的安全时代已经过去。培养以安全为重点的文化并掌握基本要素的组织将取得成功,即使在自主威胁时代也是如此。
英国各政府部门就人工智能数据中心的能源需求问题发生争执
英国政府正面临一项重大挑战:在推动清洁能源发展的同时,力争成为人工智能领域的全球领导者。然而,负责实现这些目标的各部门之间却存在严重分歧。 科学、创新与技术部(DSIT)与能源安全与净零部(DESNZ)对人工智能数据中心的未来电力需求做出了截然不同的预测。DSIT预测,到2030年,人工智能数据中心将需要6吉瓦的电力,而DESNZ的估计则不到这一数字的十分之一。 这一差距引起了非营利组织Foxgl
中国网络空间管理局要求对人工智能生成和虚构的短视频进行标注
中国国家互联网信息办公室出台了一项全面计划,旨在规范短视频内容标注,要求各平台提供六项必备标签——包括“AI生成内容”——这标志着短视频治理进入了一个强制透明化的新时代。为解决内容来源不明、难以区分真伪等问题,监管部门在此前与抖音、快手、腾讯、百度等主要平台开展试点的基础上,现已将内容标注作为短视频发布流程中的强制性环节。 发布者必须从六种选项中选择其一:“虚构演绎”、“AI生成”、“含营销信息”
以文本翻译著称的DeepL,如今将目光投向了语音翻译
以文本翻译工具闻名的翻译公司DeepL今日推出了一套语音到语音翻译解决方案,通过定制应用程序,为一线工作人员在会议、移动端和网页对话以及小组讨论等场景中提供支持。 该公司还推出了一款API,允许外部开发者和企业基于DeepL的技术构建定制化解决方案,例如呼叫中心应用。“在专注于文本翻译多年后,语音翻译对我们来说是水到渠成的下一步,”DeepL首席执行官Jarek Kutylowski在接受Tech





首页






