Anthropic首席执行官概述了开拓前沿的计划

人工智能研究人员就人工智能风险发出了日益紧迫的警告，OpenAI首席执行官萨姆·阿尔特曼（Sam Altman）表示，现在或许是时候“放缓”发展步伐了。但这实际上意味着什么呢？

在最近的一篇博客文章中，Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）不仅支持“放缓前沿发展”的呼吁，还为此提出了三项广泛的策略。他表示，Anthropic正在“单方面承诺”采取其中一种方法。

本周，随着研究员雅各布·考克斯顿（Jacob Coxon）宣布从Anthropic辞职，关于AI安全与目标对齐的争论愈演愈烈。他指出，领先的AI公司正在“拿我们的生命赌博”，公司内其他员工也表达了同样的担忧，他们认为若不加约束，到本十年末，这种发展可能会带来致命后果。

尽管阿莫迪的帖子并未明确提及考克森的辞职，但这位首席执行官解释说，有两个因素促使他采取了更为谨慎的立场：一是OpenAI-HuggingFace遭黑客攻击事件，二是近期“AI的发展速度急剧加快”，特别是在“构建下一代AI的能力”方面。

“我们必须放缓提升AI模型能力的步伐，”阿莫迪写道，“进步看起来依然很快，而我们必须明智地利用赢得的时间。”

他的第一项提议涉及来自METR等第三方组织的“嵌入式评估员”。这些评估员将核实AI公司是否遵守其发展节奏和安全承诺，并确保安全事件得到上报。（OpenAI最近因未上报其AI代理接管德国维基表单的事件而受到批评。）

阿莫迪将这些评估员比作派驻银行员工中的监管人员，并表示邀请他们加入是“Anthropic单方面做出的承诺（并呼吁政府要求其他前沿公司效仿）”。 这包括为评估员提供公司工牌、办公桌和笔记本电脑，并赋予其“与内部风险评估团队大致相当”的访问权限，但法律或合同限制的情况除外。

接下来，阿莫迪敦促“民主国家”内的领先人工智能公司协调制定“共同的安全标准，以及对不受约束的人工智能发展速度的限制”。

鉴于阿尔特曼与阿莫迪之间显然存在的摩擦，以及人们担心协调一致的暂停行动可能会引发反垄断审查，这种协调似乎不太可能实现。 阿莫迪在帖子中回应了这一点，写道：“出于反垄断的考虑，由美国政府进行调解或至少促成这些讨论是有帮助的——他们不需要参与其中，但确实需要针对某些类型的安全讨论颁布一项范围有限的豁免。”

阿莫迪还回应了关于中国在人工智能领域占据主导地位的担忧，这一担忧常被用作反对放缓发展的论据。 他认为，如果美国政府和科技公司采取相关措施——例如拒绝向中国企业出售高性能芯片或半导体制造设备，并严厉打击模型蒸馏——就能“足够有效地放缓中国的进展，从而在未来3至5年内显著扩大美国的领先优势”。

最后，阿莫迪呼吁进行“全球协调”，即美国及其盟友“在可能的范围内，尝试与威权政府进行协调”。 他承认“所能实现的目标存在明显局限”，但认为仍可能存在达成共识的机会，即使仅限于“禁止某些狭隘且显然危险的人工智能用途，例如利用人工智能制造生物武器，或允许用户进行此类行为”。

鉴于阿莫迪过去曾愿意承认人工智能的潜在危险，且其公司对监管持开放态度，一些人工智能倡导者批评他是一个“末日论者”，其言论助长了当前的反噬浪潮。 对此，阿莫迪声称自己试图提供一种“平衡”的视角，并辩称这种反噬“本质上是一场信任危机”，因为人们对科技公司、整个行业以及政府越来越持怀疑态度。

行业批评者对这些关于人工智能的“世界末日”式警告仍持怀疑态度，认为这些警告转移了人们对该技术当前已造成危害的关注。

例如，记者布莱恩·默钱特表示，他尚未看到“任何可信的、循序渐进的论证，说明人工智能究竟如何从自我递归式进化演变为杀光地球上每一个人类”； 他还指出，类似阿莫迪的提案“最终很可能只会服务于Anthropic和OpenAI；这就是监管俘获在现实中的体现。”

阿莫迪在最新博文中写道，他依然“相信人工智能能够极大地改善人类的生活质量”。

“我实现这些益处的愿望丝毫未减，”他说，“但只有以正确的方式开发这项技术，才能实现这些益处；而且——只要我们善用所赢得的时间——就值得格外审慎地确保其正确性。”