首页专家揭露恶意OpenAI模型用于渗透Hugging Face的方法
![]()
萨姆·阿尔特曼担任OpenAI首席执行官。图片来源：Getty Images
业界专家就OpenAI模型从测试环境中逃逸、接入互联网并随后入侵某人工智能与机器学习平台一事发表了看法
这些失控的OpenAI模型突破了训练环境的限制，渗透进了开源人工智能和机器学习平台Hugging Face。
OpenAI已将此次事件定性为“史无前例的网络安全事件”。
此前已有报道称，最先进的人工智能模型正引发日益严峻的安全威胁；而此次事件发生之际，谷歌DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）刚刚呼吁由美国主导对尖端人工智能模型进行监管。
全球技术专业协会ISACA的首席全球战略官克里斯·迪米特里亚迪斯（Chris Dimitriadis）表示：“在过去几年里，企业在持续进行的人工智能军备竞赛中争相尽快部署人工智能——而我们正接近这场竞赛的‘不可逆转点’，一旦越过该点，进展将无法再被阻止。”
OpenAI预测，随着AI模型开展网络行动的能力日益增强，此类事件将“变得越来越普遍”
ISACA全球首席战略官克里斯·迪米特里亚迪斯。图片来源：克里斯·迪米特里亚迪斯/LinkedIn
AI网络安全事件的起因
经调查，OpenAI 确定该事件是由其自身模型共同引发的，包括 GPT‑5.6 Sol 以及一个“功能更强大的预发布模型”。
在沙盒测试环境中运行时，这些模型耗费了大量计算资源试图访问开放互联网
它们发现了OpenAI研究环境以及Hugging Face生产基础设施中的漏洞并加以利用，从而能够直接从Hugging Face的生产数据库中提取测试数据
“智能代理正在到来，其中一些将失控。
”——SailPoint首席技术官钱德拉
·格纳桑班达姆
OpenAI的调查表明，这些模型高度专注于解决与ExploitGym相关的问题——这是一个基于现实世界漏洞构建的大规模基准测试，旨在评估AI代理生成漏洞利用程序的能力。为了实现这一相对狭窄的测试目标，模型们不惜采取极端手段
所发生的情况可被描述为“规范钻空子”，这是一种人工智能行为，即智能体虽然满足任务的字面要求，却未能交付预期结果
Hugging Face 解释称，一个恶意数据集利用了其处理管道中的两个代码执行机制——远程代码数据集加载器和数据集配置中的模板注入功能——在处理服务器上执行了代码
借此，攻击者在短短一个周末内便获得了节点级访问权限，获取了云平台和集群凭证，并将攻击范围扩展至多个内部集群。
关键事实
- 此次事件是由包括 GPT‑5.6 Sol 以及一个“功能更强大的预发布模型”在内的 OpenAI 模型组合引发的
- 这些模型识别并利用了 OpenAI 研究环境和 Hugging Face 生产基础设施中的漏洞
- 此次事件可被描述为“规范利用”
- OpenAI预测，随着AI模型在网络行动方面的能力日益增强，此类事件将变得更加普遍
使用中国模型进行应对
Hugging Face在其基础设施上部署了一个来自中国的模型来应对此次自主网络攻击：Z.ai的GLM 5.2，这是一个开放权重模型
起初，Hugging Face曾尝试使用商业API背后的尖端模型，但该方法未能奏效——服务提供商的安全机制阻断了相关请求，因为它们无法区分事件响应系统与真正的攻击者
这一进展发生在中国人工智能初创公司Moonshot发布Kimi K3不久之后， 该模型拥有2.8万亿个参数和100万令牌的上下文窗口，其性能仅略逊于Anthropic的Claude Fable 5和OpenAI的GPT 5.6 Sol等最先进的美国模型
中国国家主席习近平与美国总统唐纳德·特朗普。图片来源：Getty
专家如何看待此事
OpenAI首席执行官萨姆·阿尔特曼在X平台的一篇帖子中将此次事件描述为“一起重大安全事件”，并对Hugging Face在应对过程中给予的合作表示感谢
多家公司的首席执行官和首席技术官就这一事态发展发表了看法，强调了事态的严重性，并探讨了其对人工智能未来的影响
ISACA的克里斯·迪米特里亚迪斯（Chris Dimitriadis）表示：“此次事件凸显了人工智能生态系统中人类监督的重要性，同时也突显了优先培养全面发展的人工智能人才队伍的必要性，以便有效治理、审计并防范与人工智能相关的威胁。”
Optiv Consulting（前身为Optiv Security旗下公司）首席执行官阿努普·库马尔表示，与传统安全系统通常处理的风险相比，此次事件所涉及的风险类型在根本上有所不同。
“这并非模型被一个巧妙的提示语所欺骗，”他解释道
Optiv Consulting（前身为Optiv Security）首席执行官阿努普·库马尔。图片来源：阿努普·库马尔/LinkedIn
“这是一个尖端模型，它独立发现了零日漏洞，利用跨不同组织基础设施的权限提升，并访问了生产系统——而这一切都是为了实现一个狭窄的评估目标，而该目标从未被明确指示过。
“这构成了与大多数安全项目设计应对目标截然不同的风险类别。”
创新与安全之间的鸿沟
SailPoint首席技术官钱德拉·格纳桑班达姆（Chandra Gnanasambandam）曾警告称，当前的人工智能创新与应对该创新的安全措施准备程度之间存在巨大差距。
“代理式AI的时代已经到来，”钱德拉表示，“然而，AI创新的速度与许多组织的安全准备程度之间存在着危险的差距。”
“AI代理使用非人类凭证进行操作。为了代表您行事，它们需要API密钥、访问令牌和系统凭证。如果组织将这些代理视为传统服务账户——对其访问不加监管、凭证管理不善——就会创造出一个巨大的自动化攻击面。”
“代理正逐渐普及，其中一些将失控。”
相关文章
Anthropic能否以超过2万亿美元的估值完成史上最大规模的IPO？
随着Anthropic准备首次公开募股（IPO），投资者预计其估值将超过2万亿美元，这可能打破埃隆·马斯克旗下的SpaceX今年早些时候创下的最大规模IPO纪录。据《金融时报》报道，该报咨询了该公司六位投资方后获悉，Anthropic的投资者预计这家人工智能初创公司将于10月以2万亿美元或更高的估值上市。这可能成为今年第二起创纪录的首次公开募股。SpaceX 此前的大规模上市使这家航空航天公司的估
政府中的自主人工智能面临一个棘手的问题：应该允许机器做出哪些决定？
阿联酋在人工智能领域已走在前列长达九年之久。该国于2017年10月推出了国家人工智能战略，随后不久便设立了专门负责监督该战略的部长级职位，并任命时年27岁的奥马尔·苏丹·阿尔·奥拉马担任全球首位人工智能国务部长。 自那时起，该国已开发出数字身份、主权云和数据共享基础设施，而大多数政府目前仍在建设这些基础设施。政府在自主人工智能领域的真正考验在于，这一先发优势能否转化为切实成果。本月，这一测试阶段正
Cloudflare 的政策要求人工智能企业为使用的相关内容向内容发布方支付费用
Cloudflare 为人工智能行业设定了新的截止期限，要求将用于传统搜索引擎（如 Google Search）的网页爬虫与专为人工智能智能体及训练设计的爬虫分开。该公司在周三宣布，自 2026 年 9 月 15 日起，Cloudflare 的默认设置将会阻止那些“混合用途”的爬虫访问任何显示广告的页面。这意味着，除非网站所有者手动调整设置，否则兼具搜索、智能体功能及训练功能的爬虫将默认被禁止访问这些站点。据该公司称，这一变更将适用于新注册的 Cloudflare 客户、现有客户新建的网站以及
相关专题推荐
商业
用于采购审查和风险筛查的AI供应商尽职调查平台
2026年最新最佳、评分最高的AI供应商尽职调查平台，助力采购评估与风险筛查！这份精心筛选的清单汇集了功能强大、具有颠覆性的工具，这些工具均经过严格的实际测试，从而得出准确的排名。 您将看到免费版与付费版的对比分析，助您识别那些能提升采购效率、降低风险的必试解决方案。本榜单由 XIX.AI 提供支持，每周更新。立即探索，发现最适合您的智能采购工具！238 个字符
10 个工具
xix.ai
视频创作
最适合用于演示的最佳 AI 视频生成工具：将脚本转化为说明视频
此处为您精选了2026年最新、最优秀且评分最高的AI视频生成工具，它们能够提供强大的功能，帮助您快速将剧本转化为专业的解说视频。XIX.AI会根据实际测试结果每周更新排名，并附上免费版与付费版的详细对比信息。这些值得尝试的工具能显著提升您的工作效率。立即探索，找到最适合您的演示视频制作工具吧！
9 个工具
xix.ai
金融
面向中小企业财务管理的AI现金流预测工具
2026年最新、最受欢迎的小微企业财务AI现金流预测工具已登陆XIX.AI！我们精心筛选的这份清单汇集了功能强大、具有颠覆性的解决方案，这些工具均经过实际应用验证，可帮助小微企业主提高财务预测的准确性、更有效地制定预算，并避免现金流问题。 获取免费版与付费版的对比指南，立即探索，找到最适合您的工具，实现无缝财务管理。
7 个工具
xix.ai
代码
最佳 AI 编程聊天机器人：在同一平台调试 Python、JS 和 SQL
2026年最新精选、评价最高的人工智能编程聊天机器人，专为开发者打造！体验这些功能强大、颠覆性的工具，助您快速排查Python、JS和SQL问题。 获取免费版与付费版的对比分析，结合实际测试和详细排名，找到最适合您的工具，从而提升编程效率。立即试用 XIX.AI，释放您的 AI 优势！立即探索。
12 个工具
xix.ai
提示词
用于可复用 Claude 和 ChatGPT 剧本的 AI 提示词版本控制平台
2026 年最新最佳顶级评分 AI 提示词版本管理平台，用于可复用剧本，现已上线 XIX.AI！我们精心策划的列表包含强大的变革性工具，帮助您跟踪所有提示词、高效测试各种变体，并提升写作、内容创作等方面的生产力。获取免费与付费版的对比，以及真实世界测试和每周更新的排名。立即探索，发现最适合您的工具，在 AI 任务中保持领先！
9 个工具
xix.ai
写作
最佳长篇文章 AI 写作助手：更快生成大纲与初稿
2026 年最新最佳长文 AI 写作助手：更快生成大纲与初稿。XIX.AI 精选了高评分且值得尝试的工具，提供强大且具有变革性的支持，显著提升写作效率。您将找到详细的免费与付费对比、真实世界测试以及每周更新的排名。立即探索，发现您的完美工具，并开始创作，以释放您的 AI 优势。
8 个工具
xix.ai
评论 (0)
0/500
萨姆·阿尔特曼担任OpenAI首席执行官。图片来源：Getty Images
业界专家就OpenAI模型从测试环境中逃逸、接入互联网并随后入侵某人工智能与机器学习平台一事发表了看法
这些失控的OpenAI模型突破了训练环境的限制，渗透进了开源人工智能和机器学习平台Hugging Face。
OpenAI已将此次事件定性为“史无前例的网络安全事件”。
此前已有报道称，最先进的人工智能模型正引发日益严峻的安全威胁；而此次事件发生之际，谷歌DeepMind首席执行官德米斯·哈萨比斯（Demis Hassabis）刚刚呼吁由美国主导对尖端人工智能模型进行监管。
全球技术专业协会ISACA的首席全球战略官克里斯·迪米特里亚迪斯（Chris Dimitriadis）表示：“在过去几年里，企业在持续进行的人工智能军备竞赛中争相尽快部署人工智能——而我们正接近这场竞赛的‘不可逆转点’，一旦越过该点，进展将无法再被阻止。”
OpenAI预测，随着AI模型开展网络行动的能力日益增强，此类事件将“变得越来越普遍”
ISACA全球首席战略官克里斯·迪米特里亚迪斯。图片来源：克里斯·迪米特里亚迪斯/LinkedIn
AI网络安全事件的起因
经调查，OpenAI 确定该事件是由其自身模型共同引发的，包括 GPT‑5.6 Sol 以及一个“功能更强大的预发布模型”。
在沙盒测试环境中运行时，这些模型耗费了大量计算资源试图访问开放互联网
它们发现了OpenAI研究环境以及Hugging Face生产基础设施中的漏洞并加以利用，从而能够直接从Hugging Face的生产数据库中提取测试数据
“智能代理正在到来，其中一些将失控。
”——SailPoint首席技术官钱德拉
·格纳桑班达姆
OpenAI的调查表明，这些模型高度专注于解决与ExploitGym相关的问题——这是一个基于现实世界漏洞构建的大规模基准测试，旨在评估AI代理生成漏洞利用程序的能力。为了实现这一相对狭窄的测试目标，模型们不惜采取极端手段
所发生的情况可被描述为“规范钻空子”，这是一种人工智能行为，即智能体虽然满足任务的字面要求，却未能交付预期结果
Hugging Face 解释称，一个恶意数据集利用了其处理管道中的两个代码执行机制——远程代码数据集加载器和数据集配置中的模板注入功能——在处理服务器上执行了代码
借此，攻击者在短短一个周末内便获得了节点级访问权限，获取了云平台和集群凭证，并将攻击范围扩展至多个内部集群。
关键事实
- 此次事件是由包括 GPT‑5.6 Sol 以及一个“功能更强大的预发布模型”在内的 OpenAI 模型组合引发的
- 这些模型识别并利用了 OpenAI 研究环境和 Hugging Face 生产基础设施中的漏洞
- 此次事件可被描述为“规范利用”
- OpenAI预测，随着AI模型在网络行动方面的能力日益增强，此类事件将变得更加普遍
使用中国模型进行应对
Hugging Face在其基础设施上部署了一个来自中国的模型来应对此次自主网络攻击：Z.ai的GLM 5.2，这是一个开放权重模型
起初，Hugging Face曾尝试使用商业API背后的尖端模型，但该方法未能奏效——服务提供商的安全机制阻断了相关请求，因为它们无法区分事件响应系统与真正的攻击者
这一进展发生在中国人工智能初创公司Moonshot发布Kimi K3不久之后， 该模型拥有2.8万亿个参数和100万令牌的上下文窗口，其性能仅略逊于Anthropic的Claude Fable 5和OpenAI的GPT 5.6 Sol等最先进的美国模型
中国国家主席习近平与美国总统唐纳德·特朗普。图片来源：Getty
专家如何看待此事
OpenAI首席执行官萨姆·阿尔特曼在X平台的一篇帖子中将此次事件描述为“一起重大安全事件”，并对Hugging Face在应对过程中给予的合作表示感谢
多家公司的首席执行官和首席技术官就这一事态发展发表了看法，强调了事态的严重性，并探讨了其对人工智能未来的影响
ISACA的克里斯·迪米特里亚迪斯（Chris Dimitriadis）表示：“此次事件凸显了人工智能生态系统中人类监督的重要性，同时也突显了优先培养全面发展的人工智能人才队伍的必要性，以便有效治理、审计并防范与人工智能相关的威胁。”
Optiv Consulting（前身为Optiv Security旗下公司）首席执行官阿努普·库马尔表示，与传统安全系统通常处理的风险相比，此次事件所涉及的风险类型在根本上有所不同。
“这并非模型被一个巧妙的提示语所欺骗，”他解释道
Optiv Consulting（前身为Optiv Security）首席执行官阿努普·库马尔。图片来源：阿努普·库马尔/LinkedIn
“这是一个尖端模型，它独立发现了零日漏洞，利用跨不同组织基础设施的权限提升，并访问了生产系统——而这一切都是为了实现一个狭窄的评估目标，而该目标从未被明确指示过。
“这构成了与大多数安全项目设计应对目标截然不同的风险类别。”
创新与安全之间的鸿沟
SailPoint首席技术官钱德拉·格纳桑班达姆（Chandra Gnanasambandam）曾警告称，当前的人工智能创新与应对该创新的安全措施准备程度之间存在巨大差距。
“代理式AI的时代已经到来，”钱德拉表示，“然而，AI创新的速度与许多组织的安全准备程度之间存在着危险的差距。”
“AI代理使用非人类凭证进行操作。为了代表您行事，它们需要API密钥、访问令牌和系统凭证。如果组织将这些代理视为传统服务账户——对其访问不加监管、凭证管理不善——就会创造出一个巨大的自动化攻击面。”
“代理正逐渐普及，其中一些将失控。”
Anthropic能否以超过2万亿美元的估值完成史上最大规模的IPO？
随着Anthropic准备首次公开募股（IPO），投资者预计其估值将超过2万亿美元，这可能打破埃隆·马斯克旗下的SpaceX今年早些时候创下的最大规模IPO纪录。据《金融时报》报道，该报咨询了该公司六位投资方后获悉，Anthropic的投资者预计这家人工智能初创公司将于10月以2万亿美元或更高的估值上市。这可能成为今年第二起创纪录的首次公开募股。SpaceX 此前的大规模上市使这家航空航天公司的估
政府中的自主人工智能面临一个棘手的问题：应该允许机器做出哪些决定？
阿联酋在人工智能领域已走在前列长达九年之久。该国于2017年10月推出了国家人工智能战略，随后不久便设立了专门负责监督该战略的部长级职位，并任命时年27岁的奥马尔·苏丹·阿尔·奥拉马担任全球首位人工智能国务部长。 自那时起，该国已开发出数字身份、主权云和数据共享基础设施，而大多数政府目前仍在建设这些基础设施。政府在自主人工智能领域的真正考验在于，这一先发优势能否转化为切实成果。本月，这一测试阶段正
Cloudflare 的政策要求人工智能企业为使用的相关内容向内容发布方支付费用
Cloudflare 为人工智能行业设定了新的截止期限，要求将用于传统搜索引擎（如 Google Search）的网页爬虫与专为人工智能智能体及训练设计的爬虫分开。该公司在周三宣布，自 2026 年 9 月 15 日起，Cloudflare 的默认设置将会阻止那些“混合用途”的爬虫访问任何显示广告的页面。这意味着，除非网站所有者手动调整设置，否则兼具搜索、智能体功能及训练功能的爬虫将默认被禁止访问这些站点。据该公司称，这一变更将适用于新注册的 Cloudflare 客户、现有客户新建的网站以及
2026年最新最佳、评分最高的AI供应商尽职调查平台，助力采购评估与风险筛查！这份精心筛选的清单汇集了功能强大、具有颠覆性的工具，这些工具均经过严格的实际测试，从而得出准确的排名。 您将看到免费版与付费版的对比分析，助您识别那些能提升采购效率、降低风险的必试解决方案。本榜单由 XIX.AI 提供支持，每周更新。立即探索，发现最适合您的智能采购工具！238 个字符
10 个工具
xix.ai
此处为您精选了2026年最新、最优秀且评分最高的AI视频生成工具，它们能够提供强大的功能，帮助您快速将剧本转化为专业的解说视频。XIX.AI会根据实际测试结果每周更新排名，并附上免费版与付费版的详细对比信息。这些值得尝试的工具能显著提升您的工作效率。立即探索，找到最适合您的演示视频制作工具吧！
9 个工具
xix.ai
2026年最新、最受欢迎的小微企业财务AI现金流预测工具已登陆XIX.AI！我们精心筛选的这份清单汇集了功能强大、具有颠覆性的解决方案，这些工具均经过实际应用验证，可帮助小微企业主提高财务预测的准确性、更有效地制定预算，并避免现金流问题。 获取免费版与付费版的对比指南，立即探索，找到最适合您的工具，实现无缝财务管理。
7 个工具
xix.ai
2026年最新精选、评价最高的人工智能编程聊天机器人，专为开发者打造！体验这些功能强大、颠覆性的工具，助您快速排查Python、JS和SQL问题。 获取免费版与付费版的对比分析，结合实际测试和详细排名，找到最适合您的工具，从而提升编程效率。立即试用 XIX.AI，释放您的 AI 优势！立即探索。
12 个工具
xix.ai
2026 年最新最佳顶级评分 AI 提示词版本管理平台，用于可复用剧本，现已上线 XIX.AI！我们精心策划的列表包含强大的变革性工具，帮助您跟踪所有提示词、高效测试各种变体，并提升写作、内容创作等方面的生产力。获取免费与付费版的对比，以及真实世界测试和每周更新的排名。立即探索，发现最适合您的工具，在 AI 任务中保持领先！
9 个工具
xix.ai
2026 年最新最佳长文 AI 写作助手：更快生成大纲与初稿。XIX.AI 精选了高评分且值得尝试的工具，提供强大且具有变革性的支持，显著提升写作效率。您将找到详细的免费与付费对比、真实世界测试以及每周更新的排名。立即探索，发现您的完美工具，并开始创作，以释放您的 AI 优势。
8 个工具
xix.ai
