Anthropic的安全警告适得其反,政府叫停了其最强大的AI
上周五,美国政府以国家安全风险为由,要求Anthropic立即停用其两款最先进的人工智能系统——Claude Fable 5和Claude Mythos 5。Anthropic通过X平台确认已遵守该要求,但表示认为政府的决定是错误的。
据Anthropic称,该指令于周五美国东部时间下午5点21分下达,要求该公司对全球所有用户屏蔽这两个模型,其范围超出了出口管制令最初针对的外国公民。Anthropic的其他模型未受影响。
此事为何重要?Mythos是Anthropic最强大的人工智能系统,于4月初预览发布,因其具备识别软件安全漏洞的卓越能力而一直受到严格限制。 Anthropic报告称,Mythos在测试的每款主流操作系统和网络浏览器中都发现了漏洞。因此,该公司并未进行广泛发布,而是启动了“Project Glasswing”项目——这是一个受控计划,仅向包括亚马逊、苹果、谷歌、微软和CrowdStrike在内的约50家经过审核的组织提供访问权限,用于防御性网络安全目的。
仅在三天前发布的“Fable 5”版本,为应对商业压力,提供了一个带有安全防护机制的Mythos版本,该机制会阻止其在网络安全和生物学等高风险领域的响应。Anthropic认为这使其能够安全地用于一般用途,而追踪AI性能的Vals AI进行的基准测试也证实,它目前是性能最强的公开AI模型。

图片来源:Vals AI /
尽管政府将此定性为限制外国访问的出口管制措施,但Anthropic在一篇详细的博客文章中指出,真正的问题在于据称有人成功“越狱”了Fable 5。 该公司表示,政府仅提供了关于“潜在的、范围有限且非普遍性的越狱”的口头证据,该越狱涉及提示模型分析特定代码库以查找软件漏洞。 Anthropic 指出,这种能力在其他公开模型(如 OpenAI 的 GPT-5.5)中早已普遍存在,且常被网络安全专业人员用于防御目的。
Anthropic的核心论点是,其最强大的安全防护措施依赖于与模型本身分离的独立分类器系统。这意味着,即使用户绕过了拒绝指令,针对危险输出的底层保护机制仍会保持激活状态。
尽管有这些安全保障措施,政府仍继续采取行动,Anthropic 也公开表达了其不满。“我们不同意,仅因发现一种狭义的潜在‘越狱’风险,就应成为召回已部署给数亿用户的商用模型的理由,”该公司写道。 “如果这一标准在整个行业中普遍适用,我们认为这将实质上阻止所有前沿模型提供商部署新模型。”
外界普遍预计,Anthropic 将于今年推进首次公开募股(IPO),并将其定位为注重安全性的竞争对手替代方案。观察人士指出,讽刺的是,Anthropic 此前在限制 Mythos 方面表现出的谨慎——将其宣传为“过于危险而无法公开发布”——如今却恰恰引发了政府审查,而这种审查可能扰乱其业务。
OpenAI的萨姆·阿尔特曼似乎对此乐见其成。今年4月,他告诉播客主持人阿什利·万斯,Anthropic对Mythos的处理是“基于恐惧的营销”。 “说‘我们制造了一枚炸弹,正准备把它扔到你头上,现在以1亿美元的价格向你出售一个防空洞’,这显然是绝妙的营销手段,”奥特曼说道。 虽然奥特曼(其公司也计划近期进行IPO)并未预测政府会叫停该项目,但他指出了Anthropic策略带来的一个后果:通过数月来不断警告其AI具有独特的危险性,该公司确保了美国政府会对此予以关注。
相关文章
图书管理员举办火爆的“避开AI”工作坊,为那些对大型科技公司感到厌烦的人们提供服务
“在我的图书馆项目中,每个人都盯着屏幕,”费城南区的一位图书管理员查理·贝利(Charlie Bailey)开玩笑说。他邀请观众拿出手机,以便指导他们禁用 Apple Intelligence 和 Gemini。贝利站在儿童图书馆教室里,脚下是一块色彩鲜艳的地毯,提醒着我们“M”代表“月亮(moon)”,“Z”代表“斑马(zebra)”。但房间里那二十多位成年人并不是来上字母课。他们正在参加一个名为“避免使用人工智能(Avoiding AI)”的工作坊,在这里,“AI”指的并不是“苹果(appl
Adobe 公布 Photoshop 的 AI 助手
Adobe 于周二宣布,其 Photoshop AI 助手将以测试版形式面向网页端及移动应用用户开放。该公司还为其媒体生成与编辑工具 Firefly 添加了新的 AI 驱动图像编辑功能。这家创意工具公司在十月的 MAX 大会上首次宣布了 Photoshop 的 AI 助手。该功能现已向用户推送,可帮助用户通过提示词从图像中移除物体或人物、更改颜色或调整光线。用户还可以使用自然语言指示 AI 助手添加柔和光晕、按特定格式裁剪、增强阴影或将背景变换以赋予图像不同的外观。Adobe 表示,付费 Pho
Higgsfield 获得 4 亿美元融资,在高盛和英特尔的投资下,估值达到 54 亿美元
据《金融时报》报道,AI 视频平台 Higgsfield 已从 DST Global、高盛、Liberty Global 和英特尔处获得 4 亿美元融资,估值达到 54 亿美元。这家成立仅两年的初创公司正在迅速扩大企业订阅规模,标志着其商业化进程加速。估值在 8 个月内翻四倍,年收入达 70 亿美元此轮融资紧随八个月前由前 Snapchat 高管 Alex Mashrabov 领投的 8000 万美元融资,当时估值为 13 亿美元。Higgsfield 于 2025 年推出,截至 8 月,其年收
相关专题推荐
评论 (0)
0/500
上周五,美国政府以国家安全风险为由,要求Anthropic立即停用其两款最先进的人工智能系统——Claude Fable 5和Claude Mythos 5。Anthropic通过X平台确认已遵守该要求,但表示认为政府的决定是错误的。
据Anthropic称,该指令于周五美国东部时间下午5点21分下达,要求该公司对全球所有用户屏蔽这两个模型,其范围超出了出口管制令最初针对的外国公民。Anthropic的其他模型未受影响。
此事为何重要?Mythos是Anthropic最强大的人工智能系统,于4月初预览发布,因其具备识别软件安全漏洞的卓越能力而一直受到严格限制。 Anthropic报告称,Mythos在测试的每款主流操作系统和网络浏览器中都发现了漏洞。因此,该公司并未进行广泛发布,而是启动了“Project Glasswing”项目——这是一个受控计划,仅向包括亚马逊、苹果、谷歌、微软和CrowdStrike在内的约50家经过审核的组织提供访问权限,用于防御性网络安全目的。
仅在三天前发布的“Fable 5”版本,为应对商业压力,提供了一个带有安全防护机制的Mythos版本,该机制会阻止其在网络安全和生物学等高风险领域的响应。Anthropic认为这使其能够安全地用于一般用途,而追踪AI性能的Vals AI进行的基准测试也证实,它目前是性能最强的公开AI模型。

图片来源:Vals AI /
尽管政府将此定性为限制外国访问的出口管制措施,但Anthropic在一篇详细的博客文章中指出,真正的问题在于据称有人成功“越狱”了Fable 5。 该公司表示,政府仅提供了关于“潜在的、范围有限且非普遍性的越狱”的口头证据,该越狱涉及提示模型分析特定代码库以查找软件漏洞。 Anthropic 指出,这种能力在其他公开模型(如 OpenAI 的 GPT-5.5)中早已普遍存在,且常被网络安全专业人员用于防御目的。
Anthropic的核心论点是,其最强大的安全防护措施依赖于与模型本身分离的独立分类器系统。这意味着,即使用户绕过了拒绝指令,针对危险输出的底层保护机制仍会保持激活状态。
尽管有这些安全保障措施,政府仍继续采取行动,Anthropic 也公开表达了其不满。“我们不同意,仅因发现一种狭义的潜在‘越狱’风险,就应成为召回已部署给数亿用户的商用模型的理由,”该公司写道。 “如果这一标准在整个行业中普遍适用,我们认为这将实质上阻止所有前沿模型提供商部署新模型。”
外界普遍预计,Anthropic 将于今年推进首次公开募股(IPO),并将其定位为注重安全性的竞争对手替代方案。观察人士指出,讽刺的是,Anthropic 此前在限制 Mythos 方面表现出的谨慎——将其宣传为“过于危险而无法公开发布”——如今却恰恰引发了政府审查,而这种审查可能扰乱其业务。
OpenAI的萨姆·阿尔特曼似乎对此乐见其成。今年4月,他告诉播客主持人阿什利·万斯,Anthropic对Mythos的处理是“基于恐惧的营销”。 “说‘我们制造了一枚炸弹,正准备把它扔到你头上,现在以1亿美元的价格向你出售一个防空洞’,这显然是绝妙的营销手段,”奥特曼说道。 虽然奥特曼(其公司也计划近期进行IPO)并未预测政府会叫停该项目,但他指出了Anthropic策略带来的一个后果:通过数月来不断警告其AI具有独特的危险性,该公司确保了美国政府会对此予以关注。
图书管理员举办火爆的“避开AI”工作坊,为那些对大型科技公司感到厌烦的人们提供服务
“在我的图书馆项目中,每个人都盯着屏幕,”费城南区的一位图书管理员查理·贝利(Charlie Bailey)开玩笑说。他邀请观众拿出手机,以便指导他们禁用 Apple Intelligence 和 Gemini。贝利站在儿童图书馆教室里,脚下是一块色彩鲜艳的地毯,提醒着我们“M”代表“月亮(moon)”,“Z”代表“斑马(zebra)”。但房间里那二十多位成年人并不是来上字母课。他们正在参加一个名为“避免使用人工智能(Avoiding AI)”的工作坊,在这里,“AI”指的并不是“苹果(appl
Adobe 公布 Photoshop 的 AI 助手
Adobe 于周二宣布,其 Photoshop AI 助手将以测试版形式面向网页端及移动应用用户开放。该公司还为其媒体生成与编辑工具 Firefly 添加了新的 AI 驱动图像编辑功能。这家创意工具公司在十月的 MAX 大会上首次宣布了 Photoshop 的 AI 助手。该功能现已向用户推送,可帮助用户通过提示词从图像中移除物体或人物、更改颜色或调整光线。用户还可以使用自然语言指示 AI 助手添加柔和光晕、按特定格式裁剪、增强阴影或将背景变换以赋予图像不同的外观。Adobe 表示,付费 Pho
Higgsfield 获得 4 亿美元融资,在高盛和英特尔的投资下,估值达到 54 亿美元
据《金融时报》报道,AI 视频平台 Higgsfield 已从 DST Global、高盛、Liberty Global 和英特尔处获得 4 亿美元融资,估值达到 54 亿美元。这家成立仅两年的初创公司正在迅速扩大企业订阅规模,标志着其商业化进程加速。估值在 8 个月内翻四倍,年收入达 70 亿美元此轮融资紧随八个月前由前 Snapchat 高管 Alex Mashrabov 领投的 8000 万美元融资,当时估值为 13 亿美元。Higgsfield 于 2025 年推出,截至 8 月,其年收





首页






