超過1100名AI員工敦促美國政府放緩進展;Altman罕見地支援這一呼籲
最近,來自 OpenAI、Anthropic、Google 和 Meta 等領先 AI 公司的 1,134 名員工聯合簽署了一封公開信,敦促美國政府支援國際合作,開發必要的技術和治理工具,以便在必要時“有意識地調控”AI 的發展步伐。OpenAI 執行長 Sam Altman 罕見地表示支援這一倡議。
該倡議名為“調控前沿”(Pacing the Frontier),簽署者包括 Anthropic 執行長 Dario Amodei、OpenAI 聯合創始人 Jack Clark、首席科學家 Yakub Peharzki 和首席研究官 Mark Chen、Meta 首席科學家 Shengjia Zhao、Google DeepMind 的 AI 安全與對齊負責人 Anca Dragan,以及 Thinking Machines 的首席科學家 John Schulman 等。

這封公開信的核心關切是“自動化 AI 開發”——即 AI 系統自主開發和改進 AI 的能力,業界稱之為“遞迴自我改進”。Anthropic 此前表示,其 Claude 系列模型正迅速接近這一門檻。信中寫道:“很難準確預測這將加速多少 AI 進展,但確實存在真實風險,即 AI 能力的發展可能會迅速超越我們理解或控制這些系統的能力。”
OpenAI 在 X 平臺上回應稱:“我們認為,在未來某個時刻,前沿模型開發的 AI 加速可能會如此迅速,以至於世界需要調控 AI 進步的速率。”Anthropic 則表示:“我們上個月釋出的關於遞迴自我改進的研究表明,我們需要某些工具來有意識地調控 AI 的發展步伐,為社會爭取準備時間。”
Altman 立場的轉變引起了特別關注。過去,他避免簽署呼籲減緩 AI 發展的倡議。他曾批評 2023 年的一封類似公開信“缺乏關於應暫停哪些具體領域的關鍵技術細節”。然而,在最近的“Invest Like the Best”播客節目中,他表示:“我們可能需要調控 AI 的發展步伐,給自己和社會足夠的時間來適應這些新的能力水平並建立保護機制。同時,我們還需要找到方法,在不讓任何人感到這是監管俘獲或領先 AI 實驗室之間勾結的情況下做到這一點。”
目前,AI 公司正在競相開發越來越強大的系統,人們日益擔憂 AI 的發展速度可能超出現有安全措施、治理體系和監管機制的能力。這封聯合信函表明,對“失控加速”的焦慮已從 AI 行業的邊緣走向主流。
相關文章
三星電子季度獲利飆升 180 倍:AI 儲存業務穩住陣腳,手機與家電業務則持續虧損
三星電子於7月30日公布了2026年第二季的財務表現。 受惠於人工智慧儲存晶片銷量與價格雙雙飆升,總營收達171.5兆韓元(約8,050億人民幣),較去年同期增長130%,創下季度新高。 營業利潤攀升至89.5兆韓元(約4,201億人民幣),較去年同期飆升1,813.8%。受全球人工智慧熱潮驅動,三星的銷售額與營業利潤已連續三個季度創下新高。半導體業務貢獻了超過99%的利潤,其中HBM是主要驅動力
如何改善「核心網站指標」以提升 SEO 排名
Cubo AI 睡眠安全套裝是項明智的投資嗎?以下是您需要了解的內容目錄:引言什麼是 Cubo AI 睡眠感測器?為何安全的睡眠習慣至關重要Cubo AI 與競爭對手比較:表現如何?如何設定 Cubo AI 睡眠感測器解讀微動與警示優點 Cubo AI 睡眠感測器的優點缺點 Cubo AI 睡眠感測器的缺點價格與套裝方案連網型與非連網型監測器:哪一種適合您?最終評測文章:確保寶寶在睡眠期間的安全與
工信部等三部門釋出人工智慧終端智慧分級國家標準
5月8日,工業和資訊化部、國家市場監督管理總局、商務部聯合釋出《人工智慧終端智慧分級》(GB/Z177-2026)系列國家標準,正式確立國內AI終端智慧能力的統一評價體系。該標準採用“2+N”架構。“2”包括“參考框架”和“通用要求”,明確了智慧終端的定義、分級邏輯及測試方法,並建立了四級能力階梯:L1響應級、L2工具級、L3輔助級和L4協作級。隨著技術發展,L4級將在後續修訂中不斷完善。“N”指標對特定硬體的專項規範。首批覆蓋智慧手機、微型計算機、電視、智慧眼鏡、汽車座艙、音箱和耳機七大類,
相關專題推薦
評論 (0)
0/500
最近,來自 OpenAI、Anthropic、Google 和 Meta 等領先 AI 公司的 1,134 名員工聯合簽署了一封公開信,敦促美國政府支援國際合作,開發必要的技術和治理工具,以便在必要時“有意識地調控”AI 的發展步伐。OpenAI 執行長 Sam Altman 罕見地表示支援這一倡議。
該倡議名為“調控前沿”(Pacing the Frontier),簽署者包括 Anthropic 執行長 Dario Amodei、OpenAI 聯合創始人 Jack Clark、首席科學家 Yakub Peharzki 和首席研究官 Mark Chen、Meta 首席科學家 Shengjia Zhao、Google DeepMind 的 AI 安全與對齊負責人 Anca Dragan,以及 Thinking Machines 的首席科學家 John Schulman 等。

這封公開信的核心關切是“自動化 AI 開發”——即 AI 系統自主開發和改進 AI 的能力,業界稱之為“遞迴自我改進”。Anthropic 此前表示,其 Claude 系列模型正迅速接近這一門檻。信中寫道:“很難準確預測這將加速多少 AI 進展,但確實存在真實風險,即 AI 能力的發展可能會迅速超越我們理解或控制這些系統的能力。”
OpenAI 在 X 平臺上回應稱:“我們認為,在未來某個時刻,前沿模型開發的 AI 加速可能會如此迅速,以至於世界需要調控 AI 進步的速率。”Anthropic 則表示:“我們上個月釋出的關於遞迴自我改進的研究表明,我們需要某些工具來有意識地調控 AI 的發展步伐,為社會爭取準備時間。”
Altman 立場的轉變引起了特別關注。過去,他避免簽署呼籲減緩 AI 發展的倡議。他曾批評 2023 年的一封類似公開信“缺乏關於應暫停哪些具體領域的關鍵技術細節”。然而,在最近的“Invest Like the Best”播客節目中,他表示:“我們可能需要調控 AI 的發展步伐,給自己和社會足夠的時間來適應這些新的能力水平並建立保護機制。同時,我們還需要找到方法,在不讓任何人感到這是監管俘獲或領先 AI 實驗室之間勾結的情況下做到這一點。”
目前,AI 公司正在競相開發越來越強大的系統,人們日益擔憂 AI 的發展速度可能超出現有安全措施、治理體系和監管機制的能力。這封聯合信函表明,對“失控加速”的焦慮已從 AI 行業的邊緣走向主流。
三星電子季度獲利飆升 180 倍:AI 儲存業務穩住陣腳,手機與家電業務則持續虧損
三星電子於7月30日公布了2026年第二季的財務表現。 受惠於人工智慧儲存晶片銷量與價格雙雙飆升,總營收達171.5兆韓元(約8,050億人民幣),較去年同期增長130%,創下季度新高。 營業利潤攀升至89.5兆韓元(約4,201億人民幣),較去年同期飆升1,813.8%。受全球人工智慧熱潮驅動,三星的銷售額與營業利潤已連續三個季度創下新高。半導體業務貢獻了超過99%的利潤,其中HBM是主要驅動力
如何改善「核心網站指標」以提升 SEO 排名
Cubo AI 睡眠安全套裝是項明智的投資嗎?以下是您需要了解的內容目錄:引言什麼是 Cubo AI 睡眠感測器?為何安全的睡眠習慣至關重要Cubo AI 與競爭對手比較:表現如何?如何設定 Cubo AI 睡眠感測器解讀微動與警示優點 Cubo AI 睡眠感測器的優點缺點 Cubo AI 睡眠感測器的缺點價格與套裝方案連網型與非連網型監測器:哪一種適合您?最終評測文章:確保寶寶在睡眠期間的安全與
工信部等三部門釋出人工智慧終端智慧分級國家標準
5月8日,工業和資訊化部、國家市場監督管理總局、商務部聯合釋出《人工智慧終端智慧分級》(GB/Z177-2026)系列國家標準,正式確立國內AI終端智慧能力的統一評價體系。該標準採用“2+N”架構。“2”包括“參考框架”和“通用要求”,明確了智慧終端的定義、分級邏輯及測試方法,並建立了四級能力階梯:L1響應級、L2工具級、L3輔助級和L4協作級。隨著技術發展,L4級將在後續修訂中不斷完善。“N”指標對特定硬體的專項規範。首批覆蓋智慧手機、微型計算機、電視、智慧眼鏡、汽車座艙、音箱和耳機七大類,





首頁






