埃里克·施密特（Eric Sc​​hmidt）反对阿吉·曼哈顿（Agi Manhattan）项目

在周三发布的一份政策文件中，前谷歌首席执行官埃里克·施密特（Eric Schmidt）、Scale AI首席执行官亚历山大·王（Alexandr Wang）以及人工智能安全中心主任丹·亨德里克斯（Dan Hendrycks）建议美国不要启动类似曼哈顿计划的举措，以开发具有“超人”智能的人工智能系统，通常称为AGI。

文件题为“超智能战略”，警告称美国试图垄断超智能AI可能引发中国的强烈反应，可能以网络攻击的形式出现，这可能会扰乱全球关系。

合著者认为，“针对AGI的曼哈顿计划假设对手会默许持久的不平衡或全人类毁灭，而不是采取行动阻止它。最初为追求超级武器和全球控制的努力，可能会引发敌对对策和升级紧张局势，从而破坏该战略声称要确保的稳定性。”

这份由美国AI领域三位关键人物撰写的文件，发布于美国国会委员会建议启动“曼哈顿计划式”举措以资助AGI开发之后不久，该建议与1940年代的美国原子弹计划相提并论。美国能源部长克里斯·赖特（Chris Wright）最近宣称美国正处于“人工智能新曼哈顿计划的起点”，当时他站在超级计算机站点旁，与OpenAI联合创始人格雷格·布罗克曼（Greg Brockman）在一起。

《超智能战略》文件挑战了近期几位美国政策和行业领导人的推动，他们认为政府支持的AGI计划是跟上中国的最佳方式。

施密特、王和亨德里克斯认为美国在AGI问题上面临类似冷战对峙的局面，类似于相互确保毁灭的概念。正如各国避免垄断核武器以防止先发制人打击，作者建议美国应谨慎对待急于主导高度先进的人工智能系统。

尽管将AI与核武器相比可能显得夸张，但全球领导人已将AI视为关键的军事资产。五角大楼指出，AI正在加速军事的杀伤链。

作者提出了“相互确保AI故障”（MAIM）的概念，即政府可能会采取先发制人的行动，以禁用威胁性AI项目，而不是等待对手将AGI武器化。

施密特、王和亨德里克斯建议美国将重点从“赢得超智能竞赛”转向开发方法，以阻止其他国家创建超智能AI。他们建议政府应“扩大其网络攻击武器库，以禁用其他国家控制的威胁性AI项目”，并限制对手获取先进AI芯片和开源模型。

该文件强调了AI政策社区的分裂，一方是“末日论者”，他们认为灾难性AI结果不可避免，主张减缓AI进展；另一方是“鸵鸟派”，他们推动加速AI发展并希望获得最佳结果。

作者提出了第三条道路：对AGI开发采取谨慎态度，强调防御策略。

这一立场尤其值得注意，因为施密特此前曾强调美国在AI发展中需要与中国激烈竞争。就在几个月前，施密特撰写了一篇评论文章，称DeepSeek标志着美中AI竞赛的转折点。

尽管特朗普政府决心推进美国的AI发展，合著者提醒我们，美国在AGI上的决定具有全球影响。

随着世界关注美国在AI领域的推进，施密特及其合著者建议采取更具防御性的战略可能是更明智的选择。