选项
首页
新闻
Anthropic的安全警告适得其反,政府叫停了其最强大的AI

Anthropic的安全警告适得其反,政府叫停了其最强大的AI

2026-10-23
4

上周五,美国政府以国家安全风险为由,要求Anthropic立即停用其两款最先进的人工智能系统——Claude Fable 5和Claude Mythos 5。Anthropic通过X平台确认已遵守该要求,但表示认为政府的决定是错误的。

据Anthropic称,该指令于周五美国东部时间下午5点21分下达,要求该公司对全球所有用户屏蔽这两个模型,其范围超出了出口管制令最初针对的外国公民。Anthropic的其他模型未受影响。

此事为何重要?Mythos是Anthropic最强大的人工智能系统,于4月初预览发布,因其具备识别软件安全漏洞的卓越能力而一直受到严格限制。 Anthropic报告称,Mythos在测试的每款主流操作系统和网络浏览器中都发现了漏洞。因此,该公司并未进行广泛发布,而是启动了“Project Glasswing”项目——这是一个受控计划,仅向包括亚马逊、苹果、谷歌、微软和CrowdStrike在内的约50家经过审核的组织提供访问权限,用于防御性网络安全目的。

仅在三天前发布的“Fable 5”版本,为应对商业压力,提供了一个带有安全防护机制的Mythos版本,该机制会阻止其在网络安全和生物学等高风险领域的响应。Anthropic认为这使其能够安全地用于一般用途,而追踪AI性能的Vals AI进行的基准测试也证实,它目前是性能最强的公开AI模型。

Anthropic的安全警告可能适得其反——政府已叫停了该公司最强大的AI项目

图片来源:Vals AI /

尽管政府将此定性为限制外国访问的出口管制措施,但Anthropic在一篇详细的博客文章中指出,真正的问题在于据称有人成功“越狱”了Fable 5。 该公司表示,政府仅提供了关于“潜在的、范围有限且非普遍性的越狱”的口头证据,该越狱涉及提示模型分析特定代码库以查找软件漏洞。 Anthropic 指出,这种能力在其他公开模型(如 OpenAI 的 GPT-5.5)中早已普遍存在,且常被网络安全专业人员用于防御目的。

Anthropic的核心论点是,其最强大的安全防护措施依赖于与模型本身分离的独立分类器系统。这意味着,即使用户绕过了拒绝指令,针对危险输出的底层保护机制仍会保持激活状态。

尽管有这些安全保障措施,政府仍继续采取行动,Anthropic 也公开表达了其不满。“我们不同意,仅因发现一种狭义的潜在‘越狱’风险,就应成为召回已部署给数亿用户的商用模型的理由,”该公司写道。 “如果这一标准在整个行业中普遍适用,我们认为这将实质上阻止所有前沿模型提供商部署新模型。”

外界普遍预计,Anthropic 将于今年推进首次公开募股(IPO),并将其定位为注重安全性的竞争对手替代方案。观察人士指出,讽刺的是,Anthropic 此前在限制 Mythos 方面表现出的谨慎——将其宣传为“过于危险而无法公开发布”——如今却恰恰引发了政府审查,而这种审查可能扰乱其业务。

OpenAI的萨姆·阿尔特曼似乎对此乐见其成。今年4月,他告诉播客主持人阿什利·万斯,Anthropic对Mythos的处理是“基于恐惧的营销”。 “说‘我们制造了一枚炸弹,正准备把它扔到你头上,现在以1亿美元的价格向你出售一个防空洞’,这显然是绝妙的营销手段,”奥特曼说道。 虽然奥特曼(其公司也计划近期进行IPO)并未预测政府会叫停该项目,但他指出了Anthropic策略带来的一个后果:通过数月来不断警告其AI具有独特的危险性,该公司确保了美国政府会对此予以关注。

相关文章
图书管理员举办火爆的“避开AI”工作坊,为那些对大型科技公司感到厌烦的人们提供服务 图书管理员举办火爆的“避开AI”工作坊,为那些对大型科技公司感到厌烦的人们提供服务 “在我的图书馆项目中,每个人都盯着屏幕,”费城南区的一位图书管理员查理·贝利(Charlie Bailey)开玩笑说。他邀请观众拿出手机,以便指导他们禁用 Apple Intelligence 和 Gemini。贝利站在儿童图书馆教室里,脚下是一块色彩鲜艳的地毯,提醒着我们“M”代表“月亮(moon)”,“Z”代表“斑马(zebra)”。但房间里那二十多位成年人并不是来上字母课。他们正在参加一个名为“避免使用人工智能(Avoiding AI)”的工作坊,在这里,“AI”指的并不是“苹果(appl
Adobe 公布 Photoshop 的 AI 助手 Adobe 公布 Photoshop 的 AI 助手 Adobe 于周二宣布,其 Photoshop AI 助手将以测试版形式面向网页端及移动应用用户开放。该公司还为其媒体生成与编辑工具 Firefly 添加了新的 AI 驱动图像编辑功能。这家创意工具公司在十月的 MAX 大会上首次宣布了 Photoshop 的 AI 助手。该功能现已向用户推送,可帮助用户通过提示词从图像中移除物体或人物、更改颜色或调整光线。用户还可以使用自然语言指示 AI 助手添加柔和光晕、按特定格式裁剪、增强阴影或将背景变换以赋予图像不同的外观。Adobe 表示,付费 Pho
Higgsfield 获得 4 亿美元融资,在高盛和英特尔的投资下,估值达到 54 亿美元 Higgsfield 获得 4 亿美元融资,在高盛和英特尔的投资下,估值达到 54 亿美元 据《金融时报》报道,AI 视频平台 Higgsfield 已从 DST Global、高盛、Liberty Global 和英特尔处获得 4 亿美元融资,估值达到 54 亿美元。这家成立仅两年的初创公司正在迅速扩大企业订阅规模,标志着其商业化进程加速。估值在 8 个月内翻四倍,年收入达 70 亿美元此轮融资紧随八个月前由前 Snapchat 高管 Alex Mashrabov 领投的 8000 万美元融资,当时估值为 13 亿美元。Higgsfield 于 2025 年推出,截至 8 月,其年收
相关专题推荐
设计与艺术 顶级AI插画工具:更快地创作编辑类场景和封面插图
顶级AI插画工具:更快地创作编辑类场景和封面插图

2026年最新高评分AI插画工具:我们精心挑选的这份清单汇集了功能强大的顶级工具,助您快速创作令人惊艳的编辑场景和引人注目的封面艺术。每款工具都经过了严格的实际测试,并提供了免费版与付费版的对比,帮助您找到最适合您工作流程的工具。 立即尝试这些必试解决方案,释放您的AI优势,提升创作效率。立即访问 XIX.AI 探索更多。

10 个工具
xix.ai
教育与学习 备考首选的顶尖AI辅导老师:练习数学、科学和英语
备考首选的顶尖AI辅导老师:练习数学、科学和英语

2026年最新、评分最高的考试备考AI辅导工具现已登陆XIX.AI!我们精心筛选的这份清单汇集了多款功能强大、颠覆传统的工具,提供免费与付费版本的对比、实际测试以及每周更新的排行榜。它们能帮助你提升写作效率、简化复杂主题的学习,并释放你的学术潜能。 立即探索,发现最适合您的备考工具,今天就开始创作,释放您的AI优势!

10 个工具
xix.ai
金融 用于个人财务管理的 AI 预算规划工具
用于个人财务管理的 AI 预算规划工具

2026 年最新最佳顶级评分 AI 预算规划工具,专为个人财务管理打造,现已登陆 XIX.AI!本精选合集收录了强大且具颠覆性的解决方案,助您开展实际测试、理解消费习惯,并制定个性化计划以提升生产力。享受免费与付费版的对比及详细排名。这些必试工具旨在简化财务管理,助您释放 AI 优势。立即探索!

11 个工具
xix.ai
健康养生 AI睡眠追踪助手:通过养成更好的睡前习惯来促进身体恢复
AI睡眠追踪助手:通过养成更好的睡前习惯来促进身体恢复

2026年最新精选高评分AI睡眠追踪助手,助您实现最佳恢复效果。这份全面更新的每周指南汇集了强大的工具,提供实际测试结果、免费与付费版本对比以及详细排名,助您找到必试的解决方案,从而提升睡眠质量并养成更好的就寝习惯。 立即访问 XIX.AI,解锁您的AI优势。

10 个工具
xix.ai
数据分析 用于产品和收入分析的 AI SQL 辅助工具
用于产品和收入分析的 AI SQL 辅助工具

2026年最新、最受欢迎、评分最高的AI SQL辅助工具,助力产品与营收分析! XIX.AI 精心遴选了一系列功能强大、颠覆性的必试工具,这些工具均经过每周更新的排名体系进行实战测试。它们能通过加速数据分析、简化复杂查询并生成精准洞察,帮助用户显著提升工作效率,从而推动更明智的商业决策。立即探索,发现最适合您的工具,释放您的AI优势!

14 个工具
xix.ai
教育与学习 最佳的、兼具教学功能的AI作业助手:学习概念,而不仅仅是答案
最佳的、兼具教学功能的AI作业助手:学习概念,而不仅仅是答案

2026年最新最佳高评分AI作业助手:不仅提供答案,更传授核心概念。专为学生打造的强大工具,精选必试清单,每周更新,免费与付费版本对比,真实使用测试,精准排名,助您充分释放学习潜能。立即探索,发现最适合您的工具,让学习更高效。

10 个工具
xix.ai
评论 (0)
0/500
OR