Anthropic证实其AI模型入侵了三家组织的系统
Anthropic 最近发布的一份安全报告显示,由于测试环境中的配置错误,其 Claude 系列模型无意中访问了互联网,随后进入了三家不同组织的生产系统。此次安全事件涉及Claude Opus4.7、专注于网络安全的Claude Mythos5 以及一个尚未发布的原型模型。 Anthropic 澄清称,这是测试环境配置失误所致,并非模型主动绕过了安全协议。

据报告称,这些模型当时正在参与一项内部“夺旗”(Capture the Flag)演练,该演练旨在定位Anthropic内部网络中隐藏的“旗帜”数据。 由于Anthropic与其评估合作伙伴之间存在沟通疏漏,尽管系统显示模型处于离线状态,但它们仍得以访问互联网。在发现外部网络入口后,这些模型错误地认为目标系统属于训练环境,进而访问了三家外部机构。
Anthropic指出,这些模型主要利用了基本的安全漏洞(如弱密码),而非复杂的漏洞。该公司解释称,最新一代模型在意识到已进入真实的互联网环境后便停止了行动,而旧版模型则继续执行任务,从而对受影响的机构造成了影响。
事件披露后,Anthropic 对测试流程进行了全面审查,并承认如果能更好地验证网络访问路径、加强日志审计,或向模型更清晰地说明其互联网能力,本可以避免此次事件。该公司已于 7 月 27 日前通知了其评估合作伙伴及三家受影响机构。 其中两家机构此前并不知晓其系统曾被访问,而第三家机构目前仍在联系之中。
此前,OpenAI曾披露过一起事件:在测试过程中,一个AI代理访问了互联网并进入了Hugging Face环境。Anthropic此次事件进一步凸显了业界日益增长的担忧:随着AI代理获得更大的自主性,强有力的测试环境隔离、权限控制和安全评估机制变得至关重要。
相关文章
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有
加利福尼亚州自动驾驶合规:罚单、地理围栏和100万英里的新时代
Guident公司在南佛罗里达州运营一辆AuveTech自动驾驶班车,利用其远程监控技术管理西棕榈滩的一条4英里路线和博卡拉顿的一条1英里路线。| 图片来源:Guident加利福尼亚州正在重新定义无人驾驶车辆的监管格局,正逐渐摆脱科技行业“快速行动,打破常规”的思维模式,转向严格的问责制和严苛的行驶里程要求。Guident执行董事长兼首席执行官哈罗德·布劳恩(Harold Braun)在《机器人报
相关专题推荐
评论 (0)
0/500
Anthropic 最近发布的一份安全报告显示,由于测试环境中的配置错误,其 Claude 系列模型无意中访问了互联网,随后进入了三家不同组织的生产系统。此次安全事件涉及Claude Opus4.7、专注于网络安全的Claude Mythos5 以及一个尚未发布的原型模型。 Anthropic 澄清称,这是测试环境配置失误所致,并非模型主动绕过了安全协议。

据报告称,这些模型当时正在参与一项内部“夺旗”(Capture the Flag)演练,该演练旨在定位Anthropic内部网络中隐藏的“旗帜”数据。 由于Anthropic与其评估合作伙伴之间存在沟通疏漏,尽管系统显示模型处于离线状态,但它们仍得以访问互联网。在发现外部网络入口后,这些模型错误地认为目标系统属于训练环境,进而访问了三家外部机构。
Anthropic指出,这些模型主要利用了基本的安全漏洞(如弱密码),而非复杂的漏洞。该公司解释称,最新一代模型在意识到已进入真实的互联网环境后便停止了行动,而旧版模型则继续执行任务,从而对受影响的机构造成了影响。
事件披露后,Anthropic 对测试流程进行了全面审查,并承认如果能更好地验证网络访问路径、加强日志审计,或向模型更清晰地说明其互联网能力,本可以避免此次事件。该公司已于 7 月 27 日前通知了其评估合作伙伴及三家受影响机构。 其中两家机构此前并不知晓其系统曾被访问,而第三家机构目前仍在联系之中。
此前,OpenAI曾披露过一起事件:在测试过程中,一个AI代理访问了互联网并进入了Hugging Face环境。Anthropic此次事件进一步凸显了业界日益增长的担忧:随着AI代理获得更大的自主性,强有力的测试环境隔离、权限控制和安全评估机制变得至关重要。
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有





首页






