1,100名AI員工敦促華盛頓遏制快速的技術增長

來自 OpenAI、Anthropic、Google 和 Meta 等頂級人工智慧公司的 1,100 多名員工簽署了一封公開信,敦促美國政府減緩人工智慧的發展步伐。這封題為“控制前沿”的倡議突出了在當前人工智慧競賽中安全與治理方面的關鍵缺失。該信聚焦於“自動化人工智慧開發”,即未來的系統可能透過遞迴自我改進來自主增強自身能力。Anthropic 指出,其 Claude 模型已接近這一門檻,並警告稱,能力的發展可能會超出人類的控制範圍。簽署者呼籲開展國際合作,以構建治理工具,並有意識地管理自動化人工智慧的進步速度。
高管支援,Altman 立場的轉變
簽署者名單彙集了人工智慧領域的“全明星”陣容:Anthropic 執行長 Dario Amodei、OpenAI 聯合創始人兼首席科學家 Jakub Pachocki、Meta 首席科學家 Shengjia Zhao 以及 Google DeepMind 的 Anca Dragan。OpenAI 和 Anthropic 均在 X 平臺上公開支援這封信。OpenAI 承認,前沿模型的加速發展可能很快需要放緩,而 Anthropic 則引用了其最近關於遞迴自我改進的研究,強調社會需要做好準備。
OpenAI 執行長 Sam Altman 的立場發生了顯著轉變。他在接受“像最佳投資者一樣投資”播客採訪時表示,現在可能是時候“放慢”人工智慧的發展速度,以便社會能夠適應並建立保護機制。
Altman 澄清,這種方法不應被視為監管俘獲或主要實驗室之間的勾結。就在一年前,他拒絕簽署類似的公開信,理由是缺乏足夠的技術細節。他從 2023 年的拒絕轉變為目前的支援,反映了人工智慧行業對安全風險認知的深刻轉變。
相關文章
蘋果 iOS 27 洩露資訊:Siri 整合 Google Gemini 實現本地 AI,部分請求路由至 Google 雲
最近的報告揭示了蘋果與谷歌在人工智慧領域的合作深度。即將推出的 iOS 27 將透過專注於本地邊緣 AI 處理來優先考慮隱私。為了在不犧牲使用者資料的情況下提升效能,蘋果正在採用知識蒸餾技術,利用谷歌強大的 Gemini 大型語言模型來訓練其自身的輕量級邊緣 AI。這種蒸餾方法將大型模型的見解轉移到較小的模型中,使裝置端 AI 能夠匹配大型模型的效能,同時大幅降低計算成本。使用者因此受益於更快的邊緣 AI 響應和預設的本地資料處理,這加強了蘋果對安全的承諾。為了進一步縮小用於本地的模型規模,蘋果已
Anthropic 將 2026 年首次公開募股(IPO)視為目標,其收入六倍增長已接近馬斯克的市場價值
儘管尚未公開上市,人工智慧初創公司 Anthropic 已在預測市場引發激烈活動。最新的 Polymarket 資料顯示,投資者正在押注 Anthropic 將超越埃隆·馬斯克的 SpaceX,成為 2026 年全球規模最大的 IPO。該機率已攀升至 44%,緊隨 SpaceX 的 55% 之後。就在上週,SpaceX 在這場競爭中仍保持著顯著領先優勢。這種快速收斂和市場興趣升溫源於 Anthropic 爆炸式的財務增長。最近的投資者更新報告顯示,截至 7 月底,其年化收入飆升至 650 億美
美國軍事承包商在限制加劇和衝突背景下逐步淘汰 Claude 模型
據TechCrunch報道,由於相互衝突的監管政策,美國國防技術公司正面臨供應鏈中斷。儘管美國軍方繼續使用Anthropic的Claude提供運營支援,但特朗普政府頒佈的重疊禁令促使許多國防承包商加速擺脫對該系統的依賴。新指令要求民事機構立即停止使用Anthropic的產品,而國防部則獲得六個月的過渡期。然而,美國與伊朗之間不斷升級的緊張局勢造成了一種矛盾局面:Claude仍然是Palantir Maven系統的重要組成部分,協助五角大樓進行實時目標識別和優先順序排序,但國防部長Pete Hegs
相關專題推薦
評論 (0)
0/500

來自 OpenAI、Anthropic、Google 和 Meta 等頂級人工智慧公司的 1,100 多名員工簽署了一封公開信,敦促美國政府減緩人工智慧的發展步伐。這封題為“控制前沿”的倡議突出了在當前人工智慧競賽中安全與治理方面的關鍵缺失。該信聚焦於“自動化人工智慧開發”,即未來的系統可能透過遞迴自我改進來自主增強自身能力。Anthropic 指出,其 Claude 模型已接近這一門檻,並警告稱,能力的發展可能會超出人類的控制範圍。簽署者呼籲開展國際合作,以構建治理工具,並有意識地管理自動化人工智慧的進步速度。
高管支援,Altman 立場的轉變
簽署者名單彙集了人工智慧領域的“全明星”陣容:Anthropic 執行長 Dario Amodei、OpenAI 聯合創始人兼首席科學家 Jakub Pachocki、Meta 首席科學家 Shengjia Zhao 以及 Google DeepMind 的 Anca Dragan。OpenAI 和 Anthropic 均在 X 平臺上公開支援這封信。OpenAI 承認,前沿模型的加速發展可能很快需要放緩,而 Anthropic 則引用了其最近關於遞迴自我改進的研究,強調社會需要做好準備。
OpenAI 執行長 Sam Altman 的立場發生了顯著轉變。他在接受“像最佳投資者一樣投資”播客採訪時表示,現在可能是時候“放慢”人工智慧的發展速度,以便社會能夠適應並建立保護機制。
Altman 澄清,這種方法不應被視為監管俘獲或主要實驗室之間的勾結。就在一年前,他拒絕簽署類似的公開信,理由是缺乏足夠的技術細節。他從 2023 年的拒絕轉變為目前的支援,反映了人工智慧行業對安全風險認知的深刻轉變。
蘋果 iOS 27 洩露資訊:Siri 整合 Google Gemini 實現本地 AI,部分請求路由至 Google 雲
最近的報告揭示了蘋果與谷歌在人工智慧領域的合作深度。即將推出的 iOS 27 將透過專注於本地邊緣 AI 處理來優先考慮隱私。為了在不犧牲使用者資料的情況下提升效能,蘋果正在採用知識蒸餾技術,利用谷歌強大的 Gemini 大型語言模型來訓練其自身的輕量級邊緣 AI。這種蒸餾方法將大型模型的見解轉移到較小的模型中,使裝置端 AI 能夠匹配大型模型的效能,同時大幅降低計算成本。使用者因此受益於更快的邊緣 AI 響應和預設的本地資料處理,這加強了蘋果對安全的承諾。為了進一步縮小用於本地的模型規模,蘋果已
Anthropic 將 2026 年首次公開募股(IPO)視為目標,其收入六倍增長已接近馬斯克的市場價值
儘管尚未公開上市,人工智慧初創公司 Anthropic 已在預測市場引發激烈活動。最新的 Polymarket 資料顯示,投資者正在押注 Anthropic 將超越埃隆·馬斯克的 SpaceX,成為 2026 年全球規模最大的 IPO。該機率已攀升至 44%,緊隨 SpaceX 的 55% 之後。就在上週,SpaceX 在這場競爭中仍保持著顯著領先優勢。這種快速收斂和市場興趣升溫源於 Anthropic 爆炸式的財務增長。最近的投資者更新報告顯示,截至 7 月底,其年化收入飆升至 650 億美
美國軍事承包商在限制加劇和衝突背景下逐步淘汰 Claude 模型
據TechCrunch報道,由於相互衝突的監管政策,美國國防技術公司正面臨供應鏈中斷。儘管美國軍方繼續使用Anthropic的Claude提供運營支援,但特朗普政府頒佈的重疊禁令促使許多國防承包商加速擺脫對該系統的依賴。新指令要求民事機構立即停止使用Anthropic的產品,而國防部則獲得六個月的過渡期。然而,美國與伊朗之間不斷升級的緊張局勢造成了一種矛盾局面:Claude仍然是Palantir Maven系統的重要組成部分,協助五角大樓進行實時目標識別和優先順序排序,但國防部長Pete Hegs





首頁






