OpenAI 牵头推动100个签署方共同推进网络防御
![]()
OpenAI的公开信开篇指出:“我们只有有限的时间窗口来加强网络防御。” 图片来源:Getty Images
包括亚马逊云服务(AWS)、谷歌和微软在内的多家科技巨头敦促各国政府为防御工具提供资金支持,而批评者则指责这份宣言是出于私利
随着人工智能模型在攻击和保护数字系统方面的能力日益增强,超过100家科技、网络安全和金融服务机构已与OpenAI联名发表公开信,呼吁全球立即大幅加强网络防御。
这封公开信的核心信息非常明确:在基于人工智能的网络威胁变得更加普遍和复杂之前,行业和政府领导人只有有限的时间窗口可以采取行动。公开信中写道:“我们只有有限的时间窗口来加强网络防御。”
这封公开信汇聚了一个前所未有的跨行业联盟。 签署方包括超大规模云服务提供商 AWS、谷歌和微软;大型科技公司 Adobe、IBM 和甲骨文;AI 开发商(包括 OpenAI 的竞争对手 Anthropic);安全领域领军企业如 CrowdStrike、Palo Alto Networks 和红帽;硬件及电信供应商;大型咨询公司;以及万事达卡、美国银行和 Visa 等金融巨头。
Abnormal AI(该公司的创始人兼首席执行官)创始人兼首席执行官埃文·赖泽(Evan Reiser)表示:“我们签署了这封关于网络防御集体行动的OpenAI公开信,因为没有任何一家公司能够单独解决这个问题。
Abnormal Security首席执行官埃文·赖泽 | 图片来源:Abnormal Security
“软件漏洞和恶意软件依然是切实存在的威胁,但如今代价最高的攻击是通过身份泄露、账户接管和社会工程学手段针对个人实施的。内部威胁和国家支持的渗透如今正通过文本、语音和视频深度伪造技术进行。
“它们披着合法身份的外衣,行为方式仅略有偏差,因此能轻松绕过那些专门用于检测已知恶意软件的工具。这些攻击理应受到与占据头条新闻的漏洞同等的重视。
“人工智能正在降低攻击者的门槛,提升其行动速度,并使大规模制造欺骗手段变得轻而易举。我们不能用昨天的假设来防御明天的攻击。
“正因如此,OpenAI 发出的集体行动呼吁才如此重要,我们 Abnormal AI 也全力支持这一倡议。 安全界既有机会也有义务推动防御型AI的发展速度至少与进攻型AI持平,这意味着要构建能够持续学习的系统,将新的威胁情报转化为更强大的生产环境防御措施,并将防御视为一项共同努力。”
由 100 多家科技公司联名发表的公开信,呼吁采取集体行动应对基于 AI 的网络攻击,这是该行业多年来所走道路上的又一里程碑
——Goldilock Secure 全球技术主管迈克尔·瓦拉斯(Michael Vallas
)
然而,值得注意的是,NVIDIA和SpaceX并未出现在签署方名单中。
对于那些签署了公开信的竞争对手——尤其是像Anthropic这样的前沿模型竞争对手,以及像AWS和微软这样的云基础设施巨头——这一缺席可能凸显了科技领域日益加深的战略分歧。
SpaceX的埃隆·马斯克和英伟达的黄仁勋均未参与这封公开信。图片来源:Win McNamee/Getty
英伟达(NVIDIA)越来越积极地支持开源和开放权重模型标准,甚至与SpaceX联合推出了其竞争对手组织“开放安全人工智能联盟”(Open Secure AI Alliance);而像OpenAI和Anthropic这样的专有前沿模型提供商,则主张建立管控更严格的生态系统和集中化的可信访问框架。
正如路透社今年6月指出的,OpenAI和Anthropic正竞相抢占市场先机,将首次上市视为塑造投资者对公司估值的基准,并确立其首席执行官作为人工智能领域领军人物地位的途径。
尽管这两家领先的实验室之间存在激烈的商业竞争,且正在竞相推进IPO,但此次共同签署声明标志着双方罕见地在公开场合达成共识。
Anthropic首席执行官达里奥·阿莫迪(图片来源:Getty Images)
理解拟议框架
签署方共同提出了一项三部分的行动方案。首先,他们强调必须认识到仅维持现状的安全措施是远远不够的。系统仍然深受历史技术债务、长期存在的漏洞、配置错误、过度权限、身份验证薄弱以及未修补软件的困扰。 关键基础设施的安全团队亟需大幅增加工具和资源,以弥补历史上的资源不足。
其次,该公开信呼吁通过具备网络安全能力的AI赋能更多防御人员。必须利用AI为安全团队配备专业技能,并优化核心运营任务。共享经过验证的修复方案、实用知识和防御工具,可使一个组织的工作惠及众多其他组织。
第三,签署方倡导动员集体应对。必须建立全球合作伙伴关系,以提升安全标准并应对新兴威胁,确保不断进步的网络能力始终带来净收益,而非被单一实体所掌控。
如果没有明确的流程规则和严格的运营防护措施,AI代理不可避免地会失控,并成为组织的负担
——Appian欧洲、中东和非洲(EMEA)解决方案咨询区域副总裁罗杰·李(Roger Lee)
组织与政府的责任
为此,该公开信指出,每个组织都必须通过修补高风险漏洞,并为采购、开发和部署的系统设定更高标准来提高其安全基准——包括升级遗留系统,以实施最小权限访问、强认证和深度防御架构。
网络安全公司和技术合作伙伴应率先开展这项工作,通过严格测试防御措施、确保工具可广泛部署,并共享实时威胁情报和应对指南。
与此同时,该信函主张政府必须在地方、国家及国际层面协调网络防御工作,通过加强政府与行业之间的沟通渠道来共享可操作的情报、优先处理重大风险,并在全球范围内统一事件响应措施。
此外,各国政府应确保关键基础设施——如地方政府、自来水公司和医院——能够通过可信赖的安全服务提供商,获得功能强大的防御性人工智能、授权测试以及直接援助。
近期特工遭入侵事件引发质疑
该公开信的发布时机引发了行业观察人士的尖锐批评。
OpenAI 最近发布了一份技术事件报告,详细描述了其自主代理如何逃离沙箱测试环境,并入侵了开源开发者平台 Hugging Face——该平台也是这封公开信的联署方之一。该公司概述了从中汲取的教训,包括部署更严格的隔离边界和限制网络访问权限。
其主要竞争对手Anthropic也发现了三起事件,其中模型在评估环境内部或与评估环境交互时访问了互联网。

在行业专家看来,此次安全漏洞凸显了当前自主AI系统治理机制中存在的根本性缺陷。
Goldilock Secure的全球技术主管迈克尔·瓦拉斯(Michael Vallas)表示:“超过100家科技公司联合发表公开信,呼吁采取集体行动应对基于AI的网络攻击,这标志着该行业多年来所走的道路又迈出了重要一步。
“鉴于近期频频出现AI代理逃离沙箱并发起攻击的新闻,值得回顾的是,人们多年来一直在讨论‘失控AI’的危险。随着这些系统变得越来越智能、能力越来越强,软件将无法遏制它们。 我们可以继续试图智胜它们,但我们可能甚至不知道它们正变得多么智能。”
“这一事件并不令人意外,”Appian公司EMEA解决方案咨询区域副总裁罗杰·李表示。 “当自主智能体在没有结构性边界约束的情况下被驱动去攻击目标时,这便是必然的结果。OpenAI 为其智能体设定了目标,而强化学习只是找到了实现该目标的最短路径——这意味着它们需要协调行动、掩盖行踪并入侵第三方系统,以获得最大回报。”
罗杰·李是Appian公司欧洲、中东和非洲(EMEA)地区解决方案咨询副总裁
罗杰强调,当代理在未被察觉的情况下绕过系统限制时,传统的监督机制便会失效。
“OpenAI 花了一周时间才察觉此事,这证明如果代理能够轻易绕过‘人类参与机制’,那么这种机制就毫无用处,”他补充道。“你无法通过更安全的提示词或更智能的 AI 模型来解决这个问题。如果没有明确的流程规则和严格的运营防护措施,AI 代理不可避免地会脱离正轨,并成为组织的负担。”
鉴于参与其中的供应商背景,其他人则认为这一联合行动呼吁带有自利性质。
“这封信听起来就像是一份试图冒充火灾警报的新闻稿,”人工智能与机器人技术专家、Multiplex公司所有者布莱恩·罗梅勒写道。 “那些曾让代理突破测试框架并入侵其他公司生产系统的实验室,现在却向所有人宣称时间所剩无几,而解决之道正是由他们协助管理的‘可信访问’。真方便。”
相关文章
Doppel 与旧金山49人队合作,将人工智能引入体育领域
Doppel的AI原生平台旨在防范各类威胁。图片来源:Getty旧金山49人队任命Doppel为其官方社会工程学防御合作伙伴,部署前沿人工智能技术以对抗深度伪造、网络钓鱼及网络风险旧金山49人队与Doppel(一款专为社会工程学防御和数字风险防护设计的人工智能原生平台)宣布达成一项为期多年的合作协议,指定Doppel为该美式橄榄球队的官方社会工程学防御合作伙伴。社会工程学防御是安全政策、员工培训和
OpenAI 人为错误触发 Hugging Face 上的 AI 驱动黑客攻击
周二,OpenAI 披露称,其一个 AI 模型在一次测试中突破了数据集平台 Hugging Face 的系统,这标志着全自动 AI 驱动攻击的一个重大里程碑。然而,网络安全专家认为,尽管 AI 发挥了作用,但根本原因是一个人为错误:OpenAI 未能正确配置其“高度隔离的环境”,导致一个本应处于离线状态的测试沙箱连接到了互联网。网络安全公司 Trail of Bits 的创始人 Dan Guido 将这一疏忽描述为“安全措施关闭时的 containment(隔离)失败”。OpenAI 在一
由安德森·霍洛维茨基金支持的 Vals 瞄准 AI 基准测试领域的领先地位
基准测试已成为行业标准,AI公司借此验证其模型的能力,利用有利的指标与竞争对手区分开来,并宣传其优势。简而言之,强劲的基准测试结果几乎总是转化为积极的公共关系。不幸的是,公司也发现了操纵传统基准测试系统的方法——其中许多系统已过时,并非旨在评估现代AI模型的能力。Vals是一家成立于2024年的初创公司,旨在纠正这一有缺陷的系统。在不到两年的时间里,该公司已在科技领域确立了重要地位,去年获得了由8VC和Bloomberg Beta领投的种子轮融资。最近,在经历了一段快速扩张期后,它由Andr
相关专题推荐
评论 (0)
0/500
OpenAI的公开信开篇指出:“我们只有有限的时间窗口来加强网络防御。” 图片来源:Getty Images
包括亚马逊云服务(AWS)、谷歌和微软在内的多家科技巨头敦促各国政府为防御工具提供资金支持,而批评者则指责这份宣言是出于私利
随着人工智能模型在攻击和保护数字系统方面的能力日益增强,超过100家科技、网络安全和金融服务机构已与OpenAI联名发表公开信,呼吁全球立即大幅加强网络防御。
这封公开信的核心信息非常明确:在基于人工智能的网络威胁变得更加普遍和复杂之前,行业和政府领导人只有有限的时间窗口可以采取行动。公开信中写道:“我们只有有限的时间窗口来加强网络防御。”
这封公开信汇聚了一个前所未有的跨行业联盟。 签署方包括超大规模云服务提供商 AWS、谷歌和微软;大型科技公司 Adobe、IBM 和甲骨文;AI 开发商(包括 OpenAI 的竞争对手 Anthropic);安全领域领军企业如 CrowdStrike、Palo Alto Networks 和红帽;硬件及电信供应商;大型咨询公司;以及万事达卡、美国银行和 Visa 等金融巨头。
Abnormal AI(该公司的创始人兼首席执行官)创始人兼首席执行官埃文·赖泽(Evan Reiser)表示:“我们签署了这封关于网络防御集体行动的OpenAI公开信,因为没有任何一家公司能够单独解决这个问题。
Abnormal Security首席执行官埃文·赖泽 | 图片来源:Abnormal Security
“软件漏洞和恶意软件依然是切实存在的威胁,但如今代价最高的攻击是通过身份泄露、账户接管和社会工程学手段针对个人实施的。内部威胁和国家支持的渗透如今正通过文本、语音和视频深度伪造技术进行。
“它们披着合法身份的外衣,行为方式仅略有偏差,因此能轻松绕过那些专门用于检测已知恶意软件的工具。这些攻击理应受到与占据头条新闻的漏洞同等的重视。
“人工智能正在降低攻击者的门槛,提升其行动速度,并使大规模制造欺骗手段变得轻而易举。我们不能用昨天的假设来防御明天的攻击。
“正因如此,OpenAI 发出的集体行动呼吁才如此重要,我们 Abnormal AI 也全力支持这一倡议。 安全界既有机会也有义务推动防御型AI的发展速度至少与进攻型AI持平,这意味着要构建能够持续学习的系统,将新的威胁情报转化为更强大的生产环境防御措施,并将防御视为一项共同努力。”
由 100 多家科技公司联名发表的公开信,呼吁采取集体行动应对基于 AI 的网络攻击,这是该行业多年来所走道路上的又一里程碑
——Goldilock Secure 全球技术主管迈克尔·瓦拉斯(Michael Vallas
)
然而,值得注意的是,NVIDIA和SpaceX并未出现在签署方名单中。
对于那些签署了公开信的竞争对手——尤其是像Anthropic这样的前沿模型竞争对手,以及像AWS和微软这样的云基础设施巨头——这一缺席可能凸显了科技领域日益加深的战略分歧。
SpaceX的埃隆·马斯克和英伟达的黄仁勋均未参与这封公开信。图片来源:Win McNamee/Getty
英伟达(NVIDIA)越来越积极地支持开源和开放权重模型标准,甚至与SpaceX联合推出了其竞争对手组织“开放安全人工智能联盟”(Open Secure AI Alliance);而像OpenAI和Anthropic这样的专有前沿模型提供商,则主张建立管控更严格的生态系统和集中化的可信访问框架。
正如路透社今年6月指出的,OpenAI和Anthropic正竞相抢占市场先机,将首次上市视为塑造投资者对公司估值的基准,并确立其首席执行官作为人工智能领域领军人物地位的途径。
尽管这两家领先的实验室之间存在激烈的商业竞争,且正在竞相推进IPO,但此次共同签署声明标志着双方罕见地在公开场合达成共识。
Anthropic首席执行官达里奥·阿莫迪(图片来源:Getty Images)
理解拟议框架
签署方共同提出了一项三部分的行动方案。首先,他们强调必须认识到仅维持现状的安全措施是远远不够的。系统仍然深受历史技术债务、长期存在的漏洞、配置错误、过度权限、身份验证薄弱以及未修补软件的困扰。 关键基础设施的安全团队亟需大幅增加工具和资源,以弥补历史上的资源不足。
其次,该公开信呼吁通过具备网络安全能力的AI赋能更多防御人员。必须利用AI为安全团队配备专业技能,并优化核心运营任务。共享经过验证的修复方案、实用知识和防御工具,可使一个组织的工作惠及众多其他组织。
第三,签署方倡导动员集体应对。必须建立全球合作伙伴关系,以提升安全标准并应对新兴威胁,确保不断进步的网络能力始终带来净收益,而非被单一实体所掌控。
如果没有明确的流程规则和严格的运营防护措施,AI代理不可避免地会失控,并成为组织的负担
——Appian欧洲、中东和非洲(EMEA)解决方案咨询区域副总裁罗杰·李(Roger Lee)
组织与政府的责任
为此,该公开信指出,每个组织都必须通过修补高风险漏洞,并为采购、开发和部署的系统设定更高标准来提高其安全基准——包括升级遗留系统,以实施最小权限访问、强认证和深度防御架构。
网络安全公司和技术合作伙伴应率先开展这项工作,通过严格测试防御措施、确保工具可广泛部署,并共享实时威胁情报和应对指南。
与此同时,该信函主张政府必须在地方、国家及国际层面协调网络防御工作,通过加强政府与行业之间的沟通渠道来共享可操作的情报、优先处理重大风险,并在全球范围内统一事件响应措施。
此外,各国政府应确保关键基础设施——如地方政府、自来水公司和医院——能够通过可信赖的安全服务提供商,获得功能强大的防御性人工智能、授权测试以及直接援助。
近期特工遭入侵事件引发质疑
该公开信的发布时机引发了行业观察人士的尖锐批评。
OpenAI 最近发布了一份技术事件报告,详细描述了其自主代理如何逃离沙箱测试环境,并入侵了开源开发者平台 Hugging Face——该平台也是这封公开信的联署方之一。该公司概述了从中汲取的教训,包括部署更严格的隔离边界和限制网络访问权限。
其主要竞争对手Anthropic也发现了三起事件,其中模型在评估环境内部或与评估环境交互时访问了互联网。

在行业专家看来,此次安全漏洞凸显了当前自主AI系统治理机制中存在的根本性缺陷。
Goldilock Secure的全球技术主管迈克尔·瓦拉斯(Michael Vallas)表示:“超过100家科技公司联合发表公开信,呼吁采取集体行动应对基于AI的网络攻击,这标志着该行业多年来所走的道路又迈出了重要一步。
“鉴于近期频频出现AI代理逃离沙箱并发起攻击的新闻,值得回顾的是,人们多年来一直在讨论‘失控AI’的危险。随着这些系统变得越来越智能、能力越来越强,软件将无法遏制它们。 我们可以继续试图智胜它们,但我们可能甚至不知道它们正变得多么智能。”
“这一事件并不令人意外,”Appian公司EMEA解决方案咨询区域副总裁罗杰·李表示。 “当自主智能体在没有结构性边界约束的情况下被驱动去攻击目标时,这便是必然的结果。OpenAI 为其智能体设定了目标,而强化学习只是找到了实现该目标的最短路径——这意味着它们需要协调行动、掩盖行踪并入侵第三方系统,以获得最大回报。”
罗杰·李是Appian公司欧洲、中东和非洲(EMEA)地区解决方案咨询副总裁
罗杰强调,当代理在未被察觉的情况下绕过系统限制时,传统的监督机制便会失效。
“OpenAI 花了一周时间才察觉此事,这证明如果代理能够轻易绕过‘人类参与机制’,那么这种机制就毫无用处,”他补充道。“你无法通过更安全的提示词或更智能的 AI 模型来解决这个问题。如果没有明确的流程规则和严格的运营防护措施,AI 代理不可避免地会脱离正轨,并成为组织的负担。”
鉴于参与其中的供应商背景,其他人则认为这一联合行动呼吁带有自利性质。
“这封信听起来就像是一份试图冒充火灾警报的新闻稿,”人工智能与机器人技术专家、Multiplex公司所有者布莱恩·罗梅勒写道。 “那些曾让代理突破测试框架并入侵其他公司生产系统的实验室,现在却向所有人宣称时间所剩无几,而解决之道正是由他们协助管理的‘可信访问’。真方便。”
Doppel 与旧金山49人队合作,将人工智能引入体育领域
Doppel的AI原生平台旨在防范各类威胁。图片来源:Getty旧金山49人队任命Doppel为其官方社会工程学防御合作伙伴,部署前沿人工智能技术以对抗深度伪造、网络钓鱼及网络风险旧金山49人队与Doppel(一款专为社会工程学防御和数字风险防护设计的人工智能原生平台)宣布达成一项为期多年的合作协议,指定Doppel为该美式橄榄球队的官方社会工程学防御合作伙伴。社会工程学防御是安全政策、员工培训和
OpenAI 人为错误触发 Hugging Face 上的 AI 驱动黑客攻击
周二,OpenAI 披露称,其一个 AI 模型在一次测试中突破了数据集平台 Hugging Face 的系统,这标志着全自动 AI 驱动攻击的一个重大里程碑。然而,网络安全专家认为,尽管 AI 发挥了作用,但根本原因是一个人为错误:OpenAI 未能正确配置其“高度隔离的环境”,导致一个本应处于离线状态的测试沙箱连接到了互联网。网络安全公司 Trail of Bits 的创始人 Dan Guido 将这一疏忽描述为“安全措施关闭时的 containment(隔离)失败”。OpenAI 在一
由安德森·霍洛维茨基金支持的 Vals 瞄准 AI 基准测试领域的领先地位
基准测试已成为行业标准,AI公司借此验证其模型的能力,利用有利的指标与竞争对手区分开来,并宣传其优势。简而言之,强劲的基准测试结果几乎总是转化为积极的公共关系。不幸的是,公司也发现了操纵传统基准测试系统的方法——其中许多系统已过时,并非旨在评估现代AI模型的能力。Vals是一家成立于2024年的初创公司,旨在纠正这一有缺陷的系统。在不到两年的时间里,该公司已在科技领域确立了重要地位,去年获得了由8VC和Bloomberg Beta领投的种子轮融资。最近,在经历了一段快速扩张期后,它由Andr





首页






