埃里克·施密特(Eric Schmidt)反对阿吉·曼哈顿(Agi Manhattan)项目

在周三发布的一份政策文件中,前谷歌首席执行官埃里克·施密特(Eric Schmidt)、Scale AI首席执行官亚历山大·王(Alexandr Wang)以及人工智能安全中心主任丹·亨德里克斯(Dan Hendrycks)建议美国不要启动类似曼哈顿计划的举措,以开发具有“超人”智能的人工智能系统,通常称为AGI。
文件题为“超智能战略”,警告称美国试图垄断超智能AI可能引发中国的强烈反应,可能以网络攻击的形式出现,这可能会扰乱全球关系。
合著者认为,“针对AGI的曼哈顿计划假设对手会默许持久的不平衡或全人类毁灭,而不是采取行动阻止它。最初为追求超级武器和全球控制的努力,可能会引发敌对对策和升级紧张局势,从而破坏该战略声称要确保的稳定性。”
这份由美国AI领域三位关键人物撰写的文件,发布于美国国会委员会建议启动“曼哈顿计划式”举措以资助AGI开发之后不久,该建议与1940年代的美国原子弹计划相提并论。美国能源部长克里斯·赖特(Chris Wright)最近宣称美国正处于“人工智能新曼哈顿计划的起点”,当时他站在超级计算机站点旁,与OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)在一起。
《超智能战略》文件挑战了近期几位美国政策和行业领导人的推动,他们认为政府支持的AGI计划是跟上中国的最佳方式。
施密特、王和亨德里克斯认为美国在AGI问题上面临类似冷战对峙的局面,类似于相互确保毁灭的概念。正如各国避免垄断核武器以防止先发制人打击,作者建议美国应谨慎对待急于主导高度先进的人工智能系统。
尽管将AI与核武器相比可能显得夸张,但全球领导人已将AI视为关键的军事资产。五角大楼指出,AI正在加速军事的杀伤链。
作者提出了“相互确保AI故障”(MAIM)的概念,即政府可能会采取先发制人的行动,以禁用威胁性AI项目,而不是等待对手将AGI武器化。
施密特、王和亨德里克斯建议美国将重点从“赢得超智能竞赛”转向开发方法,以阻止其他国家创建超智能AI。他们建议政府应“扩大其网络攻击武器库,以禁用其他国家控制的威胁性AI项目”,并限制对手获取先进AI芯片和开源模型。
该文件强调了AI政策社区的分裂,一方是“末日论者”,他们认为灾难性AI结果不可避免,主张减缓AI进展;另一方是“鸵鸟派”,他们推动加速AI发展并希望获得最佳结果。
作者提出了第三条道路:对AGI开发采取谨慎态度,强调防御策略。
这一立场尤其值得注意,因为施密特此前曾强调美国在AI发展中需要与中国激烈竞争。就在几个月前,施密特撰写了一篇评论文章,称DeepSeek标志着美中AI竞赛的转折点。
尽管特朗普政府决心推进美国的AI发展,合著者提醒我们,美国在AGI上的决定具有全球影响。
随着世界关注美国在AI领域的推进,施密特及其合著者建议采取更具防御性的战略可能是更明智的选择。
相关文章
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
小鹏汽车旗下的Dogotix完成9亿美元融资
小鹏汽车旗下的Dogotix部门正在研发IRON人形机器人。来源:小鹏汽车效仿其他全球主要汽车制造商的做法,小鹏汽车正将业务拓展至类人机器人领域。 这家电动汽车制造商今日宣布,其机器人子公司Dogotix在首轮融资中筹集了超过9亿美元,此轮融资前的估值为50亿美元,交易后的估值超过63亿美元。据小鹏汽车称,这笔资金将用于推进软硬件开发、收集运营数据、训练物理AI模型、建立量产设施,并推动全球业务扩
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
相关专题推荐
评论 (33)
0/500
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

在周三发布的一份政策文件中,前谷歌首席执行官埃里克·施密特(Eric Schmidt)、Scale AI首席执行官亚历山大·王(Alexandr Wang)以及人工智能安全中心主任丹·亨德里克斯(Dan Hendrycks)建议美国不要启动类似曼哈顿计划的举措,以开发具有“超人”智能的人工智能系统,通常称为AGI。
文件题为“超智能战略”,警告称美国试图垄断超智能AI可能引发中国的强烈反应,可能以网络攻击的形式出现,这可能会扰乱全球关系。
合著者认为,“针对AGI的曼哈顿计划假设对手会默许持久的不平衡或全人类毁灭,而不是采取行动阻止它。最初为追求超级武器和全球控制的努力,可能会引发敌对对策和升级紧张局势,从而破坏该战略声称要确保的稳定性。”
这份由美国AI领域三位关键人物撰写的文件,发布于美国国会委员会建议启动“曼哈顿计划式”举措以资助AGI开发之后不久,该建议与1940年代的美国原子弹计划相提并论。美国能源部长克里斯·赖特(Chris Wright)最近宣称美国正处于“人工智能新曼哈顿计划的起点”,当时他站在超级计算机站点旁,与OpenAI联合创始人格雷格·布罗克曼(Greg Brockman)在一起。
《超智能战略》文件挑战了近期几位美国政策和行业领导人的推动,他们认为政府支持的AGI计划是跟上中国的最佳方式。
施密特、王和亨德里克斯认为美国在AGI问题上面临类似冷战对峙的局面,类似于相互确保毁灭的概念。正如各国避免垄断核武器以防止先发制人打击,作者建议美国应谨慎对待急于主导高度先进的人工智能系统。
尽管将AI与核武器相比可能显得夸张,但全球领导人已将AI视为关键的军事资产。五角大楼指出,AI正在加速军事的杀伤链。
作者提出了“相互确保AI故障”(MAIM)的概念,即政府可能会采取先发制人的行动,以禁用威胁性AI项目,而不是等待对手将AGI武器化。
施密特、王和亨德里克斯建议美国将重点从“赢得超智能竞赛”转向开发方法,以阻止其他国家创建超智能AI。他们建议政府应“扩大其网络攻击武器库,以禁用其他国家控制的威胁性AI项目”,并限制对手获取先进AI芯片和开源模型。
该文件强调了AI政策社区的分裂,一方是“末日论者”,他们认为灾难性AI结果不可避免,主张减缓AI进展;另一方是“鸵鸟派”,他们推动加速AI发展并希望获得最佳结果。
作者提出了第三条道路:对AGI开发采取谨慎态度,强调防御策略。
这一立场尤其值得注意,因为施密特此前曾强调美国在AI发展中需要与中国激烈竞争。就在几个月前,施密特撰写了一篇评论文章,称DeepSeek标志着美中AI竞赛的转折点。
尽管特朗普政府决心推进美国的AI发展,合著者提醒我们,美国在AGI上的决定具有全球影响。
随着世界关注美国在AI领域的推进,施密特及其合著者建议采取更具防御性的战略可能是更明智的选择。
在青少年开始使用ChatGPT数年后,OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后,OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能,并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看,“ChatGPT for Teens”除了推出“学习模式”外,还提供了其他旨在培养好奇心和解决问题能力的工具,鼓励用户
小鹏汽车旗下的Dogotix完成9亿美元融资
小鹏汽车旗下的Dogotix部门正在研发IRON人形机器人。来源:小鹏汽车效仿其他全球主要汽车制造商的做法,小鹏汽车正将业务拓展至类人机器人领域。 这家电动汽车制造商今日宣布,其机器人子公司Dogotix在首轮融资中筹集了超过9亿美元,此轮融资前的估值为50亿美元,交易后的估值超过63亿美元。据小鹏汽车称,这笔资金将用于推进软硬件开发、收集运营数据、训练物理AI模型、建立量产设施,并推动全球业务扩
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





首页






