首頁DeepMind的AGI安全紙無法解決懷疑論者
週三，Google DeepMind 發布了一份厚達145頁的論文，深入探討其對AGI安全的做法。AGI，即人工通用智能，是能執行人類任何任務的AI，在AI領域備受關注。有些人認為這只是幻想，而Anthropic等大廠則認為AGI即將到來，若安全措施不到位，可能引發嚴重問題。
DeepMind的論文由共同創辦人Shane Legg等人撰寫，預測AGI可能於2030年前出現，並可能導致所謂的「嚴重危害」。他們未明確說明，但提及「存在風險」等可怕詞語，可能「永久摧毀人類」。
作者指出：「我們預期在本十年結束前看到卓越AGI。」「卓越AGI是指在多項非物理任務上能媲美前1%成人技能的系統，包括學習新技能等棘手任務。」
論文開篇比較了DeepMind、Anthropic和OpenAI處理AGI風險的方式，稱Anthropic不夠重視「穩健訓練、監控和安全」，而OpenAI則專注於「自動化」一種稱為對齊研究的AI安全研究。
論文還對超智能AI——比任何人類更擅長工作的AI——提出質疑。（OpenAI最近表示將焦點從AGI轉向超智能。）DeepMind作者認為，除非有重大突破，超智能系統短期內，甚至永遠不會出現。
但他們認為，當前方法可能導致「遞歸AI改進」，即AI自行進行AI研究，創造更智能的系統。他們警告，這可能極其危險。
總體而言，論文建議需防止不良行為者接觸AGI、更好地理解AI系統運作，並確保AI運作環境更安全。他們承認許多想法仍處早期，存在「開放研究問題」，但敦促不要忽視即將來臨的安全問題。
作者指出：「AGI可能帶來巨大益處或嚴重危害。因此，為正確開發AGI，頂尖AI開發者需提前計劃，應對重大風險。」
然而，並非所有人都認同論文觀點。
非營利組織AI Now Institute首席AI科學家Heidy Khlaaf對TechCrunch表示，她認為AGI概念太模糊，難以「嚴謹科學評估」。另一位AI研究者、阿爾伯塔大學的Matthew Guzdial表示，他不相信遞歸AI改進目前可行。
Guzdial對TechCrunch說：「遞歸改進是智能奇點論的基礎，但我們從未見過實際運作的證據。」
牛津大學研究科技與監管的Sandra Wachter指出更迫切的擔憂：AI因「不準確輸出」自我強化。
她對TechCrunch說：「隨著線上AI生成內容增加，真實數據被取代，模型從自身充滿不準確或幻覺的輸出中學習。由於聊天機器人主要用於搜索和尋找真相，我們總有被餵送令人信服的錯誤資訊的風險。」
儘管DeepMind的論文詳盡，但可能無法終結關於AGI可能性及當前最需關注的AI安全問題的爭論。
相關文章
RSI 成為新的 AGI，同樣難以明確定義
「遞迴」一詞已成為人工智慧領域的最新熱門詞彙。 已有兩家截然不同的新創公司以此作為公司名稱，而許多其他公司現在也將「遞迴自我提升」（Recursive Self-Improvement, RSI）納入其開發計畫中。就像之前的「通用人工智慧」（AGI）一樣，RSI 已成為代表人工智慧重大突破的三字縮寫——即使其確切定義仍引發一些爭議。從本質上來說，RSI 描述的是一種能夠持續自我升級的人工智慧系統。
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
Databricks 共同創辦人榮獲 ACM 獎項後，宣稱通用人工智慧即將問世
Databricks 共同創辦人暨技術長 Matei Zaharia 差點錯過那封通知他獲得 2026 年 ACM 計算獎的電子郵件。「這確實是個驚喜，」他向 TechCrunch 透露。2009年，扎哈里亞在加州大學柏克萊分校攻讀博士期間，在著名教授伊昂·斯托伊卡（Ion Stoica）的指導下所開發的技術，被整合進 Databricks。扎哈里亞設計了一種方法，能大幅加速處理那些緩慢且繁瑣的大
相關專題推薦
聊天機器人
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
音樂創作
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
數據分析
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
音樂創作
最佳用於歌曲草稿的 AI 旋律創作工具
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
聊天機器人
最適合面試練習的 AI 對話訓練工具
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
設計與藝術
最適合進行創意實驗的 AI 風格轉移工具
2026 年最新、最佳且評價最高的 AI 風格轉移工具，助您進行創意實驗！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具經實際測試與嚴格評比，能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性，協助創作者顯著提升生產力。 立即探索，找出最適合您的工具，並從今天開始創作吧！
9 個工具
xix.ai
評論 (52)
0/500
![FrankJackson]()
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
![PaulTaylor]()
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
![JimmyGarcia]()
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
![DouglasMitchell]()
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
![DanielPerez]()
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
![CarlPerez]()
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
週三，Google DeepMind 發布了一份厚達145頁的論文，深入探討其對AGI安全的做法。AGI，即人工通用智能，是能執行人類任何任務的AI，在AI領域備受關注。有些人認為這只是幻想，而Anthropic等大廠則認為AGI即將到來，若安全措施不到位，可能引發嚴重問題。
DeepMind的論文由共同創辦人Shane Legg等人撰寫，預測AGI可能於2030年前出現，並可能導致所謂的「嚴重危害」。他們未明確說明，但提及「存在風險」等可怕詞語，可能「永久摧毀人類」。
作者指出：「我們預期在本十年結束前看到卓越AGI。」「卓越AGI是指在多項非物理任務上能媲美前1%成人技能的系統，包括學習新技能等棘手任務。」
論文開篇比較了DeepMind、Anthropic和OpenAI處理AGI風險的方式，稱Anthropic不夠重視「穩健訓練、監控和安全」，而OpenAI則專注於「自動化」一種稱為對齊研究的AI安全研究。
論文還對超智能AI——比任何人類更擅長工作的AI——提出質疑。（OpenAI最近表示將焦點從AGI轉向超智能。）DeepMind作者認為，除非有重大突破，超智能系統短期內，甚至永遠不會出現。
但他們認為，當前方法可能導致「遞歸AI改進」，即AI自行進行AI研究，創造更智能的系統。他們警告，這可能極其危險。
總體而言，論文建議需防止不良行為者接觸AGI、更好地理解AI系統運作，並確保AI運作環境更安全。他們承認許多想法仍處早期，存在「開放研究問題」，但敦促不要忽視即將來臨的安全問題。
作者指出：「AGI可能帶來巨大益處或嚴重危害。因此，為正確開發AGI，頂尖AI開發者需提前計劃，應對重大風險。」
然而，並非所有人都認同論文觀點。
非營利組織AI Now Institute首席AI科學家Heidy Khlaaf對TechCrunch表示，她認為AGI概念太模糊，難以「嚴謹科學評估」。另一位AI研究者、阿爾伯塔大學的Matthew Guzdial表示，他不相信遞歸AI改進目前可行。
Guzdial對TechCrunch說：「遞歸改進是智能奇點論的基礎，但我們從未見過實際運作的證據。」
牛津大學研究科技與監管的Sandra Wachter指出更迫切的擔憂：AI因「不準確輸出」自我強化。
她對TechCrunch說：「隨著線上AI生成內容增加，真實數據被取代，模型從自身充滿不準確或幻覺的輸出中學習。由於聊天機器人主要用於搜索和尋找真相，我們總有被餵送令人信服的錯誤資訊的風險。」
儘管DeepMind的論文詳盡，但可能無法終結關於AGI可能性及當前最需關注的AI安全問題的爭論。
RSI 成為新的 AGI，同樣難以明確定義
「遞迴」一詞已成為人工智慧領域的最新熱門詞彙。 已有兩家截然不同的新創公司以此作為公司名稱，而許多其他公司現在也將「遞迴自我提升」（Recursive Self-Improvement, RSI）納入其開發計畫中。就像之前的「通用人工智慧」（AGI）一樣，RSI 已成為代表人工智慧重大突破的三字縮寫——即使其確切定義仍引發一些爭議。從本質上來說，RSI 描述的是一種能夠持續自我升級的人工智慧系統。
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
Databricks 共同創辦人榮獲 ACM 獎項後，宣稱通用人工智慧即將問世
Databricks 共同創辦人暨技術長 Matei Zaharia 差點錯過那封通知他獲得 2026 年 ACM 計算獎的電子郵件。「這確實是個驚喜，」他向 TechCrunch 透露。2009年，扎哈里亞在加州大學柏克萊分校攻讀博士期間，在著名教授伊昂·斯托伊卡（Ion Stoica）的指導下所開發的技術，被整合進 Databricks。扎哈里亞設計了一種方法，能大幅加速處理那些緩慢且繁瑣的大
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
2026 年最新、最佳且評價最高的 AI 風格轉移工具，助您進行創意實驗！XIX.AI 精心精選了一系列強大且具革命性的必試工具，這些工具經實際測試與嚴格評比，能帶來卓越成果。這些頂尖解決方案能加速內容創作並開啟無盡的創意可能性，協助創作者顯著提升生產力。 立即探索，找出最適合您的工具，並從今天開始創作吧！
9 個工具
xix.ai
Interesting read! But honestly, a 145-page paper from DeepMind feels more like a corporate PR move than a real solution. Can we really trust the same companies racing to build AGI to also be the ones setting safety rules? 🧐 It's like letting foxes design the henhouse security. I'd love to see more independent oversight and less glossy documentation.
Este artículo me hace pensar que la seguridad de AGI es como intentar construir un paracaídas mientras ya estás cayendo del avión. DeepMind tiene buenas intenciones, pero 145 páginas no van a convencer a los escépticos si no demuestran resultados prácticos. 🤔 ¿Alguien más siente que estas discusiones se repiten cada seis meses sin avances reales?
Mais um artigo gigante sobre segurança de AGI... Será que alguém realmente lê essas 145 páginas? 🤨 Parece que o DeepMind tá mais preocupado em mostrar volume do que convencer os críticos. Cadê os resultados práticos?
Este artículo sobre seguridad en AGI es interesante, pero me pregunto si realmente podemos confiar en las grandes empresas tecnológicas para autorregularse. 🤨 DeepMind habla de seguridad, pero al final todo se reduce a ganancias y competencia. ¿Será solo otro documento para calmar a los reguladores?
This paper's a beast, but I'm not sold on DeepMind's AGI safety promises. Feels like they're hyping it up without tackling the real ethical mess. Anyone else think it's just fancy PR? 🤔
This DeepMind paper sounds like a big swing at tackling AGI safety, but 145 pages and skeptics still aren't convinced? 🤔 Maybe they’re onto something, or maybe it’s just too early to trust any AI to be 'safe' when it’s smarter than us!
