埃里克·施密特（Eric Sc​​hmidt）反對阿吉·曼哈頓（Agi Manhattan）項目

在週三發布的一份政策文件中，前谷歌首席執行官埃里克·施密特（Eric Schmidt）與Scale AI首席執行官亞歷山大·王（Alexandr Wang）及AI安全中心主任丹·亨德里克斯（Dan Hendrycks）共同建議，美國不應啟動類似曼哈頓計劃的舉措，來開發具有「超人類」智能的AI系統，這類系統通常被稱為通用人工智能（AGI）。

該文件題為「超智能策略」，警告稱美國若試圖壟斷超智能AI，可能會引發中國的強烈反應，或許以網絡攻擊的形式出現，這可能會擾亂全球關係。

共同作者認為：「針對AGI的曼哈頓計劃假設競爭對手會默許長期的不平衡或毀滅性後果，而不會採取行動阻止。這種為了超級武器和全球控制的推動，可能會引發敵對對策和緊張局勢升級，從而破壞該策略聲稱要確保的穩定性。」

這份由美國AI領域三位關鍵人物撰寫的文件，發布之際正值美國國會委員會建議啟動「類似曼哈頓計劃」的舉措，以資助AGI發展，類比於1940年代美國的原子彈項目。美國能源部長克里斯·賴特（Chris Wright）最近宣稱，美國正處於「新的曼哈頓計劃的開端」，並在一個超級計算機基地與OpenAI聯合創始人格雷格·布羅克曼（Greg Brockman）共同發表講話。

「超智能策略」文件挑戰了近期多位美國政策和產業領袖的推動，他們認為政府支持的AGI計劃是與中國競爭的最佳方式。

施密特、王和亨德里克斯認為，美國在AGI問題上面臨類似於相互保證毀滅的對峙局面。正如各國避免壟斷核武器以防預先打擊，作者建議美國應謹慎對待試圖主導高度先進的AI系統。

雖然將AI與核武器相比可能顯得誇張，但全球領導人已將AI視為關鍵的軍事資產。五角大樓指出，AI正在加速軍方的殺傷鏈。

作者提出了「相互保證AI故障」（MAIM）的概念，即政府可能會採取先發制人的行動，以禁用具有威脅性的AI項目，而不是等待對手將AGI武器化。

施密特、王和亨德里克斯建議，美國應將重點從「贏得超智能競賽」轉向開發方法，以阻止其他國家創造超智能AI。他們建議政府應「擴大其網絡攻擊武器庫，以禁用其他國家控制的威脅性AI項目」，並限制對手獲得先進AI晶片和開源模型的途徑。

該文件突顯了AI政策界的分歧，一方是「末日論者」，他們認為災難性AI後果不可避免，主張放緩AI進展；另一方是「鴕鳥派」，他們推動加速AI發展並抱持樂觀態度。

作者提出了第三條路徑：對AGI發展採取謹慎態度，強調防禦策略。

施密特的立場尤其引人注目，因為他此前曾強調美國需要在AI發展中與中國積極競爭。就在幾個月前，施密特撰寫了一篇專欄文章，稱DeepSeek標誌著美中AI競賽的關鍵時刻。

儘管川普政府決心推進美國的AI發展，共同作者提醒我們，美國在AGI上的決定具有全球影響。

隨著世界觀察美國在AI領域的推進，施密特及其共同作者建議，更具防禦性的策略可能是更明智的選擇。