埃里克·施密特(Eric Schmidt)反對阿吉·曼哈頓(Agi Manhattan)項目

在週三發布的一份政策文件中,前谷歌首席執行官埃里克·施密特(Eric Schmidt)與Scale AI首席執行官亞歷山大·王(Alexandr Wang)及AI安全中心主任丹·亨德里克斯(Dan Hendrycks)共同建議,美國不應啟動類似曼哈頓計劃的舉措,來開發具有「超人類」智能的AI系統,這類系統通常被稱為通用人工智能(AGI)。
該文件題為「超智能策略」,警告稱美國若試圖壟斷超智能AI,可能會引發中國的強烈反應,或許以網絡攻擊的形式出現,這可能會擾亂全球關係。
共同作者認為:「針對AGI的曼哈頓計劃假設競爭對手會默許長期的不平衡或毀滅性後果,而不會採取行動阻止。這種為了超級武器和全球控制的推動,可能會引發敵對對策和緊張局勢升級,從而破壞該策略聲稱要確保的穩定性。」
這份由美國AI領域三位關鍵人物撰寫的文件,發布之際正值美國國會委員會建議啟動「類似曼哈頓計劃」的舉措,以資助AGI發展,類比於1940年代美國的原子彈項目。美國能源部長克里斯·賴特(Chris Wright)最近宣稱,美國正處於「新的曼哈頓計劃的開端」,並在一個超級計算機基地與OpenAI聯合創始人格雷格·布羅克曼(Greg Brockman)共同發表講話。
「超智能策略」文件挑戰了近期多位美國政策和產業領袖的推動,他們認為政府支持的AGI計劃是與中國競爭的最佳方式。
施密特、王和亨德里克斯認為,美國在AGI問題上面臨類似於相互保證毀滅的對峙局面。正如各國避免壟斷核武器以防預先打擊,作者建議美國應謹慎對待試圖主導高度先進的AI系統。
雖然將AI與核武器相比可能顯得誇張,但全球領導人已將AI視為關鍵的軍事資產。五角大樓指出,AI正在加速軍方的殺傷鏈。
作者提出了「相互保證AI故障」(MAIM)的概念,即政府可能會採取先發制人的行動,以禁用具有威脅性的AI項目,而不是等待對手將AGI武器化。
施密特、王和亨德里克斯建議,美國應將重點從「贏得超智能競賽」轉向開發方法,以阻止其他國家創造超智能AI。他們建議政府應「擴大其網絡攻擊武器庫,以禁用其他國家控制的威脅性AI項目」,並限制對手獲得先進AI晶片和開源模型的途徑。
該文件突顯了AI政策界的分歧,一方是「末日論者」,他們認為災難性AI後果不可避免,主張放緩AI進展;另一方是「鴕鳥派」,他們推動加速AI發展並抱持樂觀態度。
作者提出了第三條路徑:對AGI發展採取謹慎態度,強調防禦策略。
施密特的立場尤其引人注目,因為他此前曾強調美國需要在AI發展中與中國積極競爭。就在幾個月前,施密特撰寫了一篇專欄文章,稱DeepSeek標誌著美中AI競賽的關鍵時刻。
儘管川普政府決心推進美國的AI發展,共同作者提醒我們,美國在AGI上的決定具有全球影響。
隨著世界觀察美國在AI領域的推進,施密特及其共同作者建議,更具防禦性的策略可能是更明智的選擇。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
小鵬汽車旗下的 Dogotix 成功募得 9 億美元資金
小鵬汽車旗下的 Dogotix 部門正在研發「IRON」人形機器人。來源:小鵬汽車效法其他全球主要汽車製造商的做法,小鵬汽車正將業務拓展至人形機器人領域。 這家電動車製造商今日宣布,其機器人子公司 Dogotix 已在首輪融資中籌得逾 9 億美元,融資前估值達 50 億美元,交易後估值更超過 63 億美元。據小鵬汽車表示,這筆資金將用於推進硬體與軟體開發、蒐集營運數據、訓練物理人工智慧模型、建立量
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
相關專題推薦
評論 (33)
0/500
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

在週三發布的一份政策文件中,前谷歌首席執行官埃里克·施密特(Eric Schmidt)與Scale AI首席執行官亞歷山大·王(Alexandr Wang)及AI安全中心主任丹·亨德里克斯(Dan Hendrycks)共同建議,美國不應啟動類似曼哈頓計劃的舉措,來開發具有「超人類」智能的AI系統,這類系統通常被稱為通用人工智能(AGI)。
該文件題為「超智能策略」,警告稱美國若試圖壟斷超智能AI,可能會引發中國的強烈反應,或許以網絡攻擊的形式出現,這可能會擾亂全球關係。
共同作者認為:「針對AGI的曼哈頓計劃假設競爭對手會默許長期的不平衡或毀滅性後果,而不會採取行動阻止。這種為了超級武器和全球控制的推動,可能會引發敵對對策和緊張局勢升級,從而破壞該策略聲稱要確保的穩定性。」
這份由美國AI領域三位關鍵人物撰寫的文件,發布之際正值美國國會委員會建議啟動「類似曼哈頓計劃」的舉措,以資助AGI發展,類比於1940年代美國的原子彈項目。美國能源部長克里斯·賴特(Chris Wright)最近宣稱,美國正處於「新的曼哈頓計劃的開端」,並在一個超級計算機基地與OpenAI聯合創始人格雷格·布羅克曼(Greg Brockman)共同發表講話。
「超智能策略」文件挑戰了近期多位美國政策和產業領袖的推動,他們認為政府支持的AGI計劃是與中國競爭的最佳方式。
施密特、王和亨德里克斯認為,美國在AGI問題上面臨類似於相互保證毀滅的對峙局面。正如各國避免壟斷核武器以防預先打擊,作者建議美國應謹慎對待試圖主導高度先進的AI系統。
雖然將AI與核武器相比可能顯得誇張,但全球領導人已將AI視為關鍵的軍事資產。五角大樓指出,AI正在加速軍方的殺傷鏈。
作者提出了「相互保證AI故障」(MAIM)的概念,即政府可能會採取先發制人的行動,以禁用具有威脅性的AI項目,而不是等待對手將AGI武器化。
施密特、王和亨德里克斯建議,美國應將重點從「贏得超智能競賽」轉向開發方法,以阻止其他國家創造超智能AI。他們建議政府應「擴大其網絡攻擊武器庫,以禁用其他國家控制的威脅性AI項目」,並限制對手獲得先進AI晶片和開源模型的途徑。
該文件突顯了AI政策界的分歧,一方是「末日論者」,他們認為災難性AI後果不可避免,主張放緩AI進展;另一方是「鴕鳥派」,他們推動加速AI發展並抱持樂觀態度。
作者提出了第三條路徑:對AGI發展採取謹慎態度,強調防禦策略。
施密特的立場尤其引人注目,因為他此前曾強調美國需要在AI發展中與中國積極競爭。就在幾個月前,施密特撰寫了一篇專欄文章,稱DeepSeek標誌著美中AI競賽的關鍵時刻。
儘管川普政府決心推進美國的AI發展,共同作者提醒我們,美國在AGI上的決定具有全球影響。
隨著世界觀察美國在AI領域的推進,施密特及其共同作者建議,更具防禦性的策略可能是更明智的選擇。
OpenAI 在青少年開始使用 ChatGPT 數年後,推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後,OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能,並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看,「ChatGPT for Teens」除了推出「學習模式」外,還整合了其他旨在培養好奇心與問題解決能力的工具,鼓勵
小鵬汽車旗下的 Dogotix 成功募得 9 億美元資金
小鵬汽車旗下的 Dogotix 部門正在研發「IRON」人形機器人。來源:小鵬汽車效法其他全球主要汽車製造商的做法,小鵬汽車正將業務拓展至人形機器人領域。 這家電動車製造商今日宣布,其機器人子公司 Dogotix 已在首輪融資中籌得逾 9 億美元,融資前估值達 50 億美元,交易後估值更超過 63 億美元。據小鵬汽車表示,這筆資金將用於推進硬體與軟體開發、蒐集營運數據、訓練物理人工智慧模型、建立量
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示,極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序,具體說明應撤銷哪些存取權限,以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織,該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高,而 Anthr
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





首頁






