前奈政策負責人大滿貫公司用於改變AI安全敘事
一位前OpenAI政策研究員Miles Brundage最近訪問社交媒體，呼籲Openai，以尋求其“重寫歷史”的方法，以部署潛在風險的AI系統。本週，OpenAI發布了一份文件，詳細介紹了其目前關於AI安全和一致性的立場，即確保AI系統以可預測且有益的方式行動的過程。在其中，Openai描述了AGI或AI系統能夠執行任何任務的AI系統的發展，是一種“連續路徑”，涉及從AI技術中“迭代部署和學習”。 OpenAI在文檔中說：“在不連續的世界中，安全課程來自對當今的系統，相對於它們的明顯力量的謹慎處理，這是我們為[我們的AI模型] GPT-2採取的方法。” “現在，我們將第一個AGI視為沿著連續世界中有用性[...]的一系列系統的一個點，使下一個系統安全和有益的方式就是向當前系統學習。”但是，Brundage認為，GPT-2採取的謹慎方法完全符合Openai當前的迭代部署策略。 Brundage在X上發布了Brundage。 “ Openai的發布GPT-2（我參與了GPT-2），與Openai當前的迭代部署哲學相關。 Brundage於2018年加入Openai，成為一名研究科學家，後來成為該公司的政策研究負責人，他專注於在Openai的“ AGI Revernessions”團隊中負責地部署Chatgpt等語言生成系統。 Openai於2019年宣布的GPT-2是Chatgpt背後AI系統的先驅。它可以回答問題，總結文章，並生成有時與人寫作沒有區別的文本。儘管GPT-2現在似乎是基本的，但這當時是開創性的。由於對潛在濫用的擔憂，OpenAI最初拒絕了該模型的源代碼，而是允許精選的新聞媒體限制對演示的訪問。該決定收到了AI社區的混合反饋。有人認為，與GPT-2相關的風險被誇大了，沒有證據支持Openai對濫用的擔憂。以AI為中心的出版物該漸變甚至發表了一封公開的信，敦促Openai發行該模型，理由是其技術意義。 Openai最終在宣布後六個月發布了GPT-2的部分版本，隨後幾個月後進行了完整的系統。 Brundage認為這是正確的方法。他在X上說：“ [GPT-2版本]的哪一部分是由認為Agi是不連續的或以AGI為不連續的。 Brundage擔心Openai的文件旨在建立高度的舉證責任，除非有壓倒性的危險證據，否則擔心被視為警報者。他發現這種心態對於先進的AI系統“非常危險”。 Brundage補充說：“如果我仍在Openai工作，我會問為什麼要以這種方式寫這件[文檔]，以及以這種方式謹慎的態度來實現的目標。” Openai過去曾面臨批評，即優先考慮“閃亮的產品”，而不是安全發行以超過競爭對手。去年，該公司解散了其AGI準備團隊，幾位AI安全和政策研究人員留給了競爭對手公司。中國AI Lab DeepSeek的R1型號與競爭性格局加劇了，該模型公開可用，並與OpenAI的O1“推理”模型匹配了關鍵基準測試，引起了全球關注。 Openai首席執行官Sam Altman承認，DeepSeek已縮小Openai的技術領先優勢，促使Openai考慮加速其發佈時間表。據報導，隨著Openai每年損失數十億美元的損失，到2026年將損失提高到140億美元，更快的產品發行週期可以提高短期利潤，但可能會損害長期安全性。像Brundage這樣的專家正在質疑這種權衡是否值得。
相關文章
前OpenAI工程師分享公司文化與快速成長的見解
三週前，Calvin French-Owen，一位為OpenAI關鍵產品做出貢獻的工程師，離開了公司。他最近發表了一篇引人入勝的部落格文章，詳細描述了他在OpenAI一年的經歷，包括開發Codex的緊張努力，這是一個與Cursor和Anthropic的Claude Code競爭的編碼代理。French-Owen澄清，他的離職並非因內部衝突，而是源於他希望回歸創業生活。他之前共同創辦了Segment
蘋果用戶可申請95百萬美元Siri隱私和解金
美國的蘋果設備擁有者現可申請分得95百萬美元的和解金，以解決Siri隱私問題。專屬網站為在2014年9月17日至2024年12月31日期間，因私人對話中意外啟動Siri的用戶提供資金分配。此和解源於2019年的一項集體訴訟，指控蘋果未經同意捕獲Siri聽到的對話並與第三方承包商分享以進行品質控制，違反了用戶隱私。蘋果發出道歉，承諾停止保留用戶錄音，並否認使用Siri數據進行針對性廣告的指控。202
Google 揭曉量產級 Gemini 2.5 AI 模型以在企業市場與 OpenAI 競爭
Google 於週一強化其 AI 策略，推出先進的 Gemini 2.5 模型供企業使用，並引入成本效益高的變體，以在價格與性能上競爭。Alphabet 旗下的公司將其旗艦 AI 模型—Gemini 2.5 Pro 與 Gemini 2.5 Flash—從測試階段提升至全面可用，展示其適用於關鍵業務應用的準備度。同時，Google 推出 Gemini 2.5 Flash-Lite，定位為高量任務中
評論 (36)
0/200
![LiamCarter]()
LiamCarter
2025-08-05 15:00:59
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
0
![TimothyMitchell]()
TimothyMitchell
2025-04-21 01:18:15
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
0
![JackPerez]()
JackPerez
2025-04-17 07:40:06
A crítica de Miles Brundage à OpenAI é totalmente justa! Eles estão tentando reescrever a história da segurança do AI, mas não estamos comprando isso. É crucial mantê-los responsáveis, especialmente quando lidam com sistemas de IA arriscados. Continue pressionando por transparência, Miles! 👍
0
![StevenGonzalez]()
StevenGonzalez
2025-04-17 04:38:43
마일즈 브런데이지가 OpenAI의 새로운 AI 안전성 서사를 비판하는 것을 보고 정말 드라마를 보는 것 같아요. 그는 회사가 역사를 다시 쓰고 있다고 비난하고 있어서, 그의 강력한 태도에 감탄했어요. 큰 기술 기업의 안전성 주장을 믿기 전에 두 번 생각하게 만드네요. 마일즈, 고마워요! 👏
0
![AlbertWilson]()
AlbertWilson
2025-04-17 03:07:30
Just listened to Miles Brundage's take on OpenAI's new AI safety narrative and wow, it's like watching a soap opera unfold! He's not holding back, calling out the company for rewriting history. It's intense but also kinda refreshing to see someone stand up like this. Definitely makes you think twice about trusting big tech's safety claims. Keep it real, Miles! 👏
0
![DonaldBrown]()
DonaldBrown
2025-04-16 15:05:24
Я ценю честность Майлса Брандажа о смене нарратива OpenAI в отношении безопасности ИИ. Важно держать компании ответственными, но хотелось бы больше конструктивной критики. Тем не менее, это сигнал тревоги для отрасли! 🚨
0
前OpenAI工程師分享公司文化與快速成長的見解
三週前，Calvin French-Owen，一位為OpenAI關鍵產品做出貢獻的工程師，離開了公司。他最近發表了一篇引人入勝的部落格文章，詳細描述了他在OpenAI一年的經歷，包括開發Codex的緊張努力，這是一個與Cursor和Anthropic的Claude Code競爭的編碼代理。French-Owen澄清，他的離職並非因內部衝突，而是源於他希望回歸創業生活。他之前共同創辦了Segment
蘋果用戶可申請95百萬美元Siri隱私和解金
美國的蘋果設備擁有者現可申請分得95百萬美元的和解金，以解決Siri隱私問題。專屬網站為在2014年9月17日至2024年12月31日期間，因私人對話中意外啟動Siri的用戶提供資金分配。此和解源於2019年的一項集體訴訟，指控蘋果未經同意捕獲Siri聽到的對話並與第三方承包商分享以進行品質控制，違反了用戶隱私。蘋果發出道歉，承諾停止保留用戶錄音，並否認使用Siri數據進行針對性廣告的指控。202
Google 揭曉量產級 Gemini 2.5 AI 模型以在企業市場與 OpenAI 競爭
Google 於週一強化其 AI 策略，推出先進的 Gemini 2.5 模型供企業使用，並引入成本效益高的變體，以在價格與性能上競爭。Alphabet 旗下的公司將其旗艦 AI 模型—Gemini 2.5 Pro 與 Gemini 2.5 Flash—從測試階段提升至全面可用，展示其適用於關鍵業務應用的準備度。同時，Google 推出 Gemini 2.5 Flash-Lite，定位為高量任務中
2025-08-05 15:00:59
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
0
2025-04-21 01:18:15
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
0
2025-04-17 07:40:06
A crítica de Miles Brundage à OpenAI é totalmente justa! Eles estão tentando reescrever a história da segurança do AI, mas não estamos comprando isso. É crucial mantê-los responsáveis, especialmente quando lidam com sistemas de IA arriscados. Continue pressionando por transparência, Miles! 👍
0
2025-04-17 04:38:43
마일즈 브런데이지가 OpenAI의 새로운 AI 안전성 서사를 비판하는 것을 보고 정말 드라마를 보는 것 같아요. 그는 회사가 역사를 다시 쓰고 있다고 비난하고 있어서, 그의 강력한 태도에 감탄했어요. 큰 기술 기업의 안전성 주장을 믿기 전에 두 번 생각하게 만드네요. 마일즈, 고마워요! 👏
0
2025-04-17 03:07:30
Just listened to Miles Brundage's take on OpenAI's new AI safety narrative and wow, it's like watching a soap opera unfold! He's not holding back, calling out the company for rewriting history. It's intense but also kinda refreshing to see someone stand up like this. Definitely makes you think twice about trusting big tech's safety claims. Keep it real, Miles! 👏
0
2025-04-16 15:05:24
Я ценю честность Майлса Брандажа о смене нарратива OpenAI в отношении безопасности ИИ. Важно держать компании ответственными, но хотелось бы больше конструктивной критики. Тем не менее, это сигнал тревоги для отрасли! 🚨
0
