越狱争议引发全球范围的审查,导致AI模型Claude Fable5被迅速下架
Anthropic最近发布了Claude Fable5,该公司称其为迄今为止最强大的“Mythos”级别大型语言模型。 该模型在编程和处理复杂任务方面的突出表现,迅速在科技界引起了广泛关注。然而,在短短72小时内,美国政府便对这款备受期待的AI产品实施了全球禁令,迫使该公司关闭了所有服务。
此次禁令尤为严厉。以国家安全为由,美国政府不仅禁止非美国个人和机构访问该模型,还禁止了身处美国境内的外国公民,包括Anthropic公司自身的外国员工。 鉴于快速准确地核实每位用户的国籍在技术上存在困难,Anthropic采取了全面封禁的措施,暂停了Claude Fable5及其相关模型Claude Mythos5的所有服务。受影响的用户现已被自动重定向至旧版本。

此次事件源于一个关键漏洞的发现。报告显示,该漏洞可能绕过模型内置的安全防护机制,从而实现某种形式的“越狱”。Anthropic坚称,该越狱方法具有局限性且无法泛化,且该模型在发布前已经过数千小时的红队测试。 尽管如此,美国政府仍采取了异常强硬的立场。官员们认为,Claude Fable5的处理能力已接近“网络武器级别”,因此任何安全措施的漏洞都可能导致不可预测的后果。他们要求Anthropic立即修复该漏洞,否则就将该产品从市场上撤下。
双方就该漏洞的严重程度陷入了激烈的对峙。Anthropic辩称,仅因一个范围狭窄且不具普遍性的漏洞就叫停一款拥有数亿用户的產品,将为整个行业树立一个危险的先例。然而,业内人士指出,政府的担忧远不止于此。 有报道称,美国当局怀疑与中国有关联的组织可能已经利用该漏洞获取了该模型的全部功能,从而增加了逆向工程或模型蒸馏的风险。
相关文章
Meta 在用户强烈反对后取消了 AI 照片编辑功能
Meta,这家社交媒体巨头,再次卷入关于人工智能与用户隐私之间微妙平衡的公开辩论。据 TechCrunch 报道,Meta 的 Superintelligence Labs 本周早些时候推出了一款新的 AI 图像生成器 Muse Image。然而,一个备受好评的关键功能——允许用户通过“@”符号标记来修改和生成来自公开 Instagram 账户的图像——由于缺乏适当的通知机制,立即引发了用户以及 CAA 等机构的强烈反对。面对强烈的批评,Meta 迅速撤销了该决定,并于周五通过博客文章宣布将
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有
相关专题推荐
评论 (0)
0/500
Anthropic最近发布了Claude Fable5,该公司称其为迄今为止最强大的“Mythos”级别大型语言模型。 该模型在编程和处理复杂任务方面的突出表现,迅速在科技界引起了广泛关注。然而,在短短72小时内,美国政府便对这款备受期待的AI产品实施了全球禁令,迫使该公司关闭了所有服务。
此次禁令尤为严厉。以国家安全为由,美国政府不仅禁止非美国个人和机构访问该模型,还禁止了身处美国境内的外国公民,包括Anthropic公司自身的外国员工。 鉴于快速准确地核实每位用户的国籍在技术上存在困难,Anthropic采取了全面封禁的措施,暂停了Claude Fable5及其相关模型Claude Mythos5的所有服务。受影响的用户现已被自动重定向至旧版本。

此次事件源于一个关键漏洞的发现。报告显示,该漏洞可能绕过模型内置的安全防护机制,从而实现某种形式的“越狱”。Anthropic坚称,该越狱方法具有局限性且无法泛化,且该模型在发布前已经过数千小时的红队测试。 尽管如此,美国政府仍采取了异常强硬的立场。官员们认为,Claude Fable5的处理能力已接近“网络武器级别”,因此任何安全措施的漏洞都可能导致不可预测的后果。他们要求Anthropic立即修复该漏洞,否则就将该产品从市场上撤下。
双方就该漏洞的严重程度陷入了激烈的对峙。Anthropic辩称,仅因一个范围狭窄且不具普遍性的漏洞就叫停一款拥有数亿用户的產品,将为整个行业树立一个危险的先例。然而,业内人士指出,政府的担忧远不止于此。 有报道称,美国当局怀疑与中国有关联的组织可能已经利用该漏洞获取了该模型的全部功能,从而增加了逆向工程或模型蒸馏的风险。
Meta 在用户强烈反对后取消了 AI 照片编辑功能
Meta,这家社交媒体巨头,再次卷入关于人工智能与用户隐私之间微妙平衡的公开辩论。据 TechCrunch 报道,Meta 的 Superintelligence Labs 本周早些时候推出了一款新的 AI 图像生成器 Muse Image。然而,一个备受好评的关键功能——允许用户通过“@”符号标记来修改和生成来自公开 Instagram 账户的图像——由于缺乏适当的通知机制,立即引发了用户以及 CAA 等机构的强烈反对。面对强烈的批评,Meta 迅速撤销了该决定,并于周五通过博客文章宣布将
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有





首页






