首頁前奈政策負責人大滿貫公司用於改變AI安全敘事
一位前OpenAI政策研究員Miles Brundage最近訪問社交媒體，呼籲Openai，以尋求其“重寫歷史”的方法，以部署潛在風險的AI系統。本週，OpenAI發布了一份文件，詳細介紹了其目前關於AI安全和一致性的立場，即確保AI系統以可預測且有益的方式行動的過程。在其中，Openai描述了AGI或AI系統能夠執行任何任務的AI系統的發展，是一種“連續路徑”，涉及從AI技術中“迭代部署和學習”。 OpenAI在文檔中說：“在不連續的世界中，安全課程來自對當今的系統，相對於它們的明顯力量的謹慎處理，這是我們為[我們的AI模型] GPT-2採取的方法。” “現在，我們將第一個AGI視為沿著連續世界中有用性[...]的一系列系統的一個點，使下一個系統安全和有益的方式就是向當前系統學習。”但是，Brundage認為，GPT-2採取的謹慎方法完全符合Openai當前的迭代部署策略。 Brundage在X上發布了Brundage。 “ Openai的發布GPT-2（我參與了GPT-2），與Openai當前的迭代部署哲學相關。 Brundage於2018年加入Openai，成為一名研究科學家，後來成為該公司的政策研究負責人，他專注於在Openai的“ AGI Revernessions”團隊中負責地部署Chatgpt等語言生成系統。 Openai於2019年宣布的GPT-2是Chatgpt背後AI系統的先驅。它可以回答問題，總結文章，並生成有時與人寫作沒有區別的文本。儘管GPT-2現在似乎是基本的，但這當時是開創性的。由於對潛在濫用的擔憂，OpenAI最初拒絕了該模型的源代碼，而是允許精選的新聞媒體限制對演示的訪問。該決定收到了AI社區的混合反饋。有人認為，與GPT-2相關的風險被誇大了，沒有證據支持Openai對濫用的擔憂。以AI為中心的出版物該漸變甚至發表了一封公開的信，敦促Openai發行該模型，理由是其技術意義。 Openai最終在宣布後六個月發布了GPT-2的部分版本，隨後幾個月後進行了完整的系統。 Brundage認為這是正確的方法。他在X上說：“ [GPT-2版本]的哪一部分是由認為Agi是不連續的或以AGI為不連續的。 Brundage擔心Openai的文件旨在建立高度的舉證責任，除非有壓倒性的危險證據，否則擔心被視為警報者。他發現這種心態對於先進的AI系統“非常危險”。 Brundage補充說：“如果我仍在Openai工作，我會問為什麼要以這種方式寫這件[文檔]，以及以這種方式謹慎的態度來實現的目標。” Openai過去曾面臨批評，即優先考慮“閃亮的產品”，而不是安全發行以超過競爭對手。去年，該公司解散了其AGI準備團隊，幾位AI安全和政策研究人員留給了競爭對手公司。中國AI Lab DeepSeek的R1型號與競爭性格局加劇了，該模型公開可用，並與OpenAI的O1“推理”模型匹配了關鍵基準測試，引起了全球關注。 Openai首席執行官Sam Altman承認，DeepSeek已縮小Openai的技術領先優勢，促使Openai考慮加速其發佈時間表。據報導，隨著Openai每年損失數十億美元的損失，到2026年將損失提高到140億美元，更快的產品發行週期可以提高短期利潤，但可能會損害長期安全性。像Brundage這樣的專家正在質疑這種權衡是否值得。
相關文章
OpenAI 收購人工智慧個人理財新創公司 Hiro
OpenAI 已收購個人理財新創公司 Hiro Finance，創辦人伊森·布洛克（Ethan Bloch）於週一宣布此消息，OpenAI 也向 TechCrunch 證實了這筆交易。這家新創公司曾獲得頂尖金融科技創投公司 Ribbit，以及 General Catalyst 和 Restive 的投資。收購條款未予披露，且 Hiro 從未透露其募資金額。鑑於 Hiro 已宣布將於 4 月 20
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三，一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉，修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係，並確保它能夠實現雙贏。只有這樣，雙方才能保持良好的合作伙伴關係。” 他強調，微軟仍然可以使用OpenAI的智慧財產權，包括其模型和智慧體產品，但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術，納德拉表示：“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
相關專題推薦
搜索引擎優化
最佳AI重定向與失效連結查詢工具：自動修復爬取錯誤，節省爬取預算
在XIX.AI上，發現2026年最優秀的人工智慧重定向工具和失效連結查詢工具。我們精心挑選的這些高評分工具能夠自動修復爬取錯誤，從而幫助您節省爬取預算。透過實際測試和每週更新的排名資訊，您可以比較免費選項和付費選項，立即找到最適合您的SEO解決方案！
10 個工具
xix.ai
視頻創作
播客創作者首選的頂尖 AI 影片製作工具：將音訊波形轉化為引人入勝的談話頭像影片
立即前往 XIX.AI，探索 2026 年最適合播客的頂尖 AI 影片製作工具。我們精心挑選並評選出的這份榜單，收錄了多款強大工具，能輕鬆將您的音訊轉化為引人入勝的談話頭像影片。透過實際測試與每週更新的排行榜，比較免費與付費選項的差異。立即解鎖您的視覺敘事優勢。
10 個工具
xix.ai
聊天機器人
利用這些角色扮演工具，打造屬於你的 AI 愛情故事
探索 2026 年最新、評價最高的 AI 角色扮演工具，打造身臨其境的敘事體驗。XIX.AI 精心整理的清單收錄了多款功能強大、能徹底改變遊戲規則的助手，助您釋放創意敘事潛能並增添情感深度。透過實際測試，比較免費與付費選項的差異。立即展開您的獨特旅程。
10 個工具
xix.ai
文字轉語音
獨立遊戲開發者必備的頂尖 AI 配音工具：為 RPG 與視覺小說節省配音時間
探索 2026 年最適合遊戲開發者的 AI 配音工具！XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲開發模式的解決方案，助您在角色扮演遊戲（RPG）和視覺小說（Visual Novel）的配音製作上節省時間與成本。探索免費與付費版本的比較、實際測試結果，以及每週更新的排行榜。立即找到最適合您的配音工具！
10 個工具
xix.ai
教育與學習
最佳人工智慧間隔重複學習工具：幫助醫學生和法律專業學生最佳化學習計劃
探索由 XIX.AI 精心挑選的 2026 年最佳 AI 間隔重複學習工具。我們推薦的這些極具創新性的工具能幫助醫學和法律專業的學生最佳化學習計劃，從而提高知識記憶效果。透過真實案例測試和每週更新的排名資訊，你可以瞭解免費選項與付費選項之間的差異。現在就開啟你的學習優勢吧！
10 個工具
xix.ai
視頻創作
最適合劇本創作與視覺敘事的 AI 文字轉影片平台
2026 年最新最佳 AI 文字轉影片平台：頂級劇本撰寫與視覺敘事工具。探索強大且顛覆傳統的解決方案，將您的文字轉化為引人入勝的影片。透過我們每週更新的排行榜與實際測試，比較免費與付費選項。找到最適合您的平台，提升創造力與生產力。立即探索 XIX.AI 精選推薦。
10 個工具
xix.ai
評論 (40)
0/500
![NicholasLewis]()
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
![NicholasYoung]()
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
![BruceMiller]()
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
![GregoryAdams]()
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
![LiamCarter]()
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
![TimothyMitchell]()
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
OpenAI 收購人工智慧個人理財新創公司 Hiro
OpenAI 已收購個人理財新創公司 Hiro Finance，創辦人伊森·布洛克（Ethan Bloch）於週一宣布此消息，OpenAI 也向 TechCrunch 證實了這筆交易。這家新創公司曾獲得頂尖金融科技創投公司 Ribbit，以及 General Catalyst 和 Restive 的投資。收購條款未予披露，且 Hiro 從未透露其募資金額。鑑於 Hiro 已宣布將於 4 月 20
薩提亞·納德拉準備利用與OpenAI的新合作關係
週三，一位華爾街分析師直接詢問了微軟執行長薩蒂亞·納德拉，修訂後的OpenAI合作關係將如何影響公司的財務狀況。 納德拉將這一新協議描述為對各方都有利的結果。“我們對與OpenAI的合作感到滿意。我始終非常重視任何合作關係，並確保它能夠實現雙贏。只有這樣，雙方才能保持良好的合作伙伴關係。” 他強調，微軟仍然可以使用OpenAI的智慧財產權，包括其模型和智慧體產品，但不再需要為此向OpenAI支付費用。 談到在2032年之前可以免費使用OpenAI最先進的人工智慧技術，納德拉表示：“
OpenAI 勾勒出以公共財富基金、機器人稅及每週四天工作制為核心的人工智慧經濟藍圖
當各國政府正竭力應對超智能機器帶來的經濟衝擊之際，OpenAI 發布了一系列政策提案，闡述在「智能時代」中財富與工作可能如何重塑。這些構想將傳統的左翼機制——例如公共財富基金與擴大的社會安全網——與根本上資本主義、市場導向的經濟框架相融合。OpenAI 的提案本質上是一份願望清單，這份公開聲明有助於民選官員、投資者及公眾理解這家市值 8,520 億美元的公司，如何看待人工智慧在重塑勞動與經濟的過程
在XIX.AI上，發現2026年最優秀的人工智慧重定向工具和失效連結查詢工具。我們精心挑選的這些高評分工具能夠自動修復爬取錯誤，從而幫助您節省爬取預算。透過實際測試和每週更新的排名資訊，您可以比較免費選項和付費選項，立即找到最適合您的SEO解決方案！
10 個工具
xix.ai
立即前往 XIX.AI，探索 2026 年最適合播客的頂尖 AI 影片製作工具。我們精心挑選並評選出的這份榜單，收錄了多款強大工具，能輕鬆將您的音訊轉化為引人入勝的談話頭像影片。透過實際測試與每週更新的排行榜，比較免費與付費選項的差異。立即解鎖您的視覺敘事優勢。
10 個工具
xix.ai
探索 2026 年最新、評價最高的 AI 角色扮演工具，打造身臨其境的敘事體驗。XIX.AI 精心整理的清單收錄了多款功能強大、能徹底改變遊戲規則的助手，助您釋放創意敘事潛能並增添情感深度。透過實際測試，比較免費與付費選項的差異。立即展開您的獨特旅程。
10 個工具
xix.ai
探索 2026 年最適合遊戲開發者的 AI 配音工具！XIX.AI 精心整理的清單收錄了備受好評、能徹底改變遊戲開發模式的解決方案，助您在角色扮演遊戲（RPG）和視覺小說（Visual Novel）的配音製作上節省時間與成本。探索免費與付費版本的比較、實際測試結果，以及每週更新的排行榜。立即找到最適合您的配音工具！
10 個工具
xix.ai
探索由 XIX.AI 精心挑選的 2026 年最佳 AI 間隔重複學習工具。我們推薦的這些極具創新性的工具能幫助醫學和法律專業的學生最佳化學習計劃，從而提高知識記憶效果。透過真實案例測試和每週更新的排名資訊，你可以瞭解免費選項與付費選項之間的差異。現在就開啟你的學習優勢吧！
10 個工具
xix.ai
2026 年最新最佳 AI 文字轉影片平台：頂級劇本撰寫與視覺敘事工具。探索強大且顛覆傳統的解決方案，將您的文字轉化為引人入勝的影片。透過我們每週更新的排行榜與實際測試，比較免費與付費選項。找到最適合您的平台，提升創造力與生產力。立即探索 XIX.AI 精選推薦。
10 個工具
xix.ai
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
