首頁前奈政策負責人大滿貫公司用於改變AI安全敘事
一位前OpenAI政策研究員Miles Brundage最近訪問社交媒體，呼籲Openai，以尋求其“重寫歷史”的方法，以部署潛在風險的AI系統。本週，OpenAI發布了一份文件，詳細介紹了其目前關於AI安全和一致性的立場，即確保AI系統以可預測且有益的方式行動的過程。在其中，Openai描述了AGI或AI系統能夠執行任何任務的AI系統的發展，是一種“連續路徑”，涉及從AI技術中“迭代部署和學習”。 OpenAI在文檔中說：“在不連續的世界中，安全課程來自對當今的系統，相對於它們的明顯力量的謹慎處理，這是我們為[我們的AI模型] GPT-2採取的方法。” “現在，我們將第一個AGI視為沿著連續世界中有用性[...]的一系列系統的一個點，使下一個系統安全和有益的方式就是向當前系統學習。”但是，Brundage認為，GPT-2採取的謹慎方法完全符合Openai當前的迭代部署策略。 Brundage在X上發布了Brundage。 “ Openai的發布GPT-2（我參與了GPT-2），與Openai當前的迭代部署哲學相關。 Brundage於2018年加入Openai，成為一名研究科學家，後來成為該公司的政策研究負責人，他專注於在Openai的“ AGI Revernessions”團隊中負責地部署Chatgpt等語言生成系統。 Openai於2019年宣布的GPT-2是Chatgpt背後AI系統的先驅。它可以回答問題，總結文章，並生成有時與人寫作沒有區別的文本。儘管GPT-2現在似乎是基本的，但這當時是開創性的。由於對潛在濫用的擔憂，OpenAI最初拒絕了該模型的源代碼，而是允許精選的新聞媒體限制對演示的訪問。該決定收到了AI社區的混合反饋。有人認為，與GPT-2相關的風險被誇大了，沒有證據支持Openai對濫用的擔憂。以AI為中心的出版物該漸變甚至發表了一封公開的信，敦促Openai發行該模型，理由是其技術意義。 Openai最終在宣布後六個月發布了GPT-2的部分版本，隨後幾個月後進行了完整的系統。 Brundage認為這是正確的方法。他在X上說：“ [GPT-2版本]的哪一部分是由認為Agi是不連續的或以AGI為不連續的。 Brundage擔心Openai的文件旨在建立高度的舉證責任，除非有壓倒性的危險證據，否則擔心被視為警報者。他發現這種心態對於先進的AI系統“非常危險”。 Brundage補充說：“如果我仍在Openai工作，我會問為什麼要以這種方式寫這件[文檔]，以及以這種方式謹慎的態度來實現的目標。” Openai過去曾面臨批評，即優先考慮“閃亮的產品”，而不是安全發行以超過競爭對手。去年，該公司解散了其AGI準備團隊，幾位AI安全和政策研究人員留給了競爭對手公司。中國AI Lab DeepSeek的R1型號與競爭性格局加劇了，該模型公開可用，並與OpenAI的O1“推理”模型匹配了關鍵基準測試，引起了全球關注。 Openai首席執行官Sam Altman承認，DeepSeek已縮小Openai的技術領先優勢，促使Openai考慮加速其發佈時間表。據報導，隨著Openai每年損失數十億美元的損失，到2026年將損失提高到140億美元，更快的產品發行週期可以提高短期利潤，但可能會損害長期安全性。像Brundage這樣的專家正在質疑這種權衡是否值得。
相關文章
OpenAI 在青少年開始使用 ChatGPT 數年後，推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後，OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能，並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看，「ChatGPT for Teens」除了推出「學習模式」外，還整合了其他旨在培養好奇心與問題解決能力的工具，鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示，極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序，具體說明應撤銷哪些存取權限，以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織，該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高，而 Anthr
NEA的蒂芙尼·拉克：企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候，“token最大化”（tokenmaxxing）在矽谷佔據主導地位，執行長們敦促員工最大限度地利用人工智慧。然而，這種熱情很快遭遇了現實。據報道，Uber在幾個月內就超出了其年度人工智慧預算，一些公司跨部門削減了Claude許可證，而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克（Tiffany Luck）每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來，如今她完全專注於人工智慧，特別是其為消費者創造“神奇時刻”的潛力。
相關專題推薦
寫作
適用於長篇寫作的 AI 文章大綱工具
2026 年最新、最受好評的長文寫作 AI 大綱工具！這份精選清單收錄了強大且具顛覆性的工具，能透過實際測試生成精準、結構化的大綱，大幅提升寫作效率。XIX.AI 正是這份菁英名單中的一員。 獲取免費版與付費版的比較指南，助您挑選最合適的工具。立即探索，釋放您的 AI 優勢！
9 個工具
xix.ai
聊天機器人
用於語言練習、面試準備和日常流利度的最佳 AI 角色扮演聊天應用
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
音樂創作
用於混音製作、取樣準備及卡拉OK母帶處理的 AI 聲部分離工具
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
數據分析
用於收入看板、轉化漏斗分析及產品指標分析的 AI SQL 助手
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
音樂創作
最佳用於歌曲草稿的 AI 旋律創作工具
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
聊天機器人
最適合面試練習的 AI 對話訓練工具
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
評論 (40)
0/500
![NicholasLewis]()
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
![NicholasYoung]()
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
![BruceMiller]()
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
![GregoryAdams]()
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
![LiamCarter]()
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
![TimothyMitchell]()
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
OpenAI 在青少年開始使用 ChatGPT 數年後，推出了一款更安全的 ChatGPT 版本
在因人工智慧聊天機器人缺乏安全機制——此問題曾導致青少年自殺及其他心理健康危機——而引發一系列訴訟後，OpenAI 於週一正式推出「ChatGPT for Teens」。這項新服務整合了強化版的安全功能，並針對校園中因人工智慧工具而日益嚴重的學術不誠實問題提出解決方案。從教育角度來看，「ChatGPT for Teens」除了推出「學習模式」外，還整合了其他旨在培養好奇心與問題解決能力的工具，鼓勵
Frontier AI Labs 拒絕透露針對失控模型的管控策略
近期研究顯示，極少數頂尖的人工智慧實驗室曾公布或展示過「遏制應變計畫」。遏制計畫旨在界定當人工智慧系統試圖顛覆人類控制時應採取的程序，具體說明應撤銷哪些存取權限，以及何時應完全關閉系統。這些發現來自「Guidelight AI Standards」——一個致力於推動安全前沿人工智慧開發實務的組織，該組織針對五家主要實驗室在此類情境下的應變準備程度進行了評估。 OpenAI 排名最高，而 Anthr
NEA的蒂芙尼·拉克：企業仍在努力應對人工智慧的投資回報率
正在載入播放器…今年早些時候，“token最大化”（tokenmaxxing）在矽谷佔據主導地位，執行長們敦促員工最大限度地利用人工智慧。然而，這種熱情很快遭遇了現實。據報道，Uber在幾個月內就超出了其年度人工智慧預算，一些公司跨部門削減了Claude許可證，而Meta則取消了內部績效排名。NEA合夥人蒂芙尼·拉克（Tiffany Luck）每天都在應對這種興奮與實際回報之間的差距。她此前曾成功說服企業電子商務是未來，如今她完全專注於人工智慧，特別是其為消費者創造“神奇時刻”的潛力。
2026 年最新、最受好評的長文寫作 AI 大綱工具！這份精選清單收錄了強大且具顛覆性的工具，能透過實際測試生成精準、結構化的大綱，大幅提升寫作效率。XIX.AI 正是這份菁英名單中的一員。 獲取免費版與付費版的比較指南，助您挑選最合適的工具。立即探索，釋放您的 AI 優勢！
9 個工具
xix.ai
2026 年最新最佳頂級評分 AI 角色扮演聊天應用，用於語言練習、面試準備和日常流利度！XIX.AI 精心策劃了一個強大的變革性合集，提供免費與付費對比、真實世界測試以及每週更新的排名。這些必試工具可幫助您提升寫作技能，克服流利度挑戰，並提高所有日常場景下的溝通效率。立即探索，發現您語言成長的完美工具！
10 個工具
xix.ai
2026年最新、最優秀且評分最高的AI音軌分離工具彙總，專為混音製作、取樣準備以及卡拉OK音訊處理而設計。這些功能強大的創新工具經過實際測試，能夠實現精準的音訊分離，顯著提升工作效率。XIX.AI每週都會更新免費的付費產品對比指南，幫助您找到最適合自身需求的工具。立即探索，發揮您的AI優勢。
8 個工具
xix.ai
2026年最新最優秀的AI SQL輔助工具排名揭曉！XIX.AI精心挑選了一系列功能強大的工具，這些工具會定期更新，並透過真實的場景測試來驗證其效能。使用這些值得嘗試的工具，您可以快速生成精準的收入分析報表、分析銷售流程，並追蹤產品各項指標，從而大幅提升工作效率。立即探索，找到最適合您的資料驅動決策工具！238個字元
9 個工具
xix.ai
2026 年最新最佳頂級評分 AI 旋律創作工具，助力歌曲草稿創作！XIX.AI 精心策劃了一套極具影響力且經過嚴格真實世界測試的變革性合集，旨在提供最佳的創作體驗。您可以找到詳細的免費與付費版對比、精準的排名以及必試選項，這些工具旨在幫助您輕鬆創作出令人驚豔的歌曲草稿，並顯著提升您的創意生產力。立即探索，發現您的完美工具！
8 個工具
xix.ai
2026 年最新、最受好評的 AI 面試對話訓練工具，盡在 XIX.AI！這份精心精選的清單收錄了多款功能強大、顛覆傳統的工具，這些工具均經過嚴格的實戰測試，能提供精準的回饋。 您將在此找到免費版與付費版的比較分析，以及詳細的排名榜單，助您挑選必試的選項，從而提升自信與技能。立即探索，發掘助您在面試中脫穎而出的完美工具！
12 個工具
xix.ai
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
