前奈政策負責人大滿貫公司用於改變AI安全敘事
一位前OpenAI政策研究員Miles Brundage最近訪問社交媒體，呼籲Openai，以尋求其“重寫歷史”的方法，以部署潛在風險的AI系統。本週，OpenAI發布了一份文件，詳細介紹了其目前關於AI安全和一致性的立場，即確保AI系統以可預測且有益的方式行動的過程。在其中，Openai描述了AGI或AI系統能夠執行任何任務的AI系統的發展，是一種“連續路徑”，涉及從AI技術中“迭代部署和學習”。 OpenAI在文檔中說：“在不連續的世界中，安全課程來自對當今的系統，相對於它們的明顯力量的謹慎處理，這是我們為[我們的AI模型] GPT-2採取的方法。” “現在，我們將第一個AGI視為沿著連續世界中有用性[...]的一系列系統的一個點，使下一個系統安全和有益的方式就是向當前系統學習。”但是，Brundage認為，GPT-2採取的謹慎方法完全符合Openai當前的迭代部署策略。 Brundage在X上發布了Brundage。 “ Openai的發布GPT-2（我參與了GPT-2），與Openai當前的迭代部署哲學相關。 Brundage於2018年加入Openai，成為一名研究科學家，後來成為該公司的政策研究負責人，他專注於在Openai的“ AGI Revernessions”團隊中負責地部署Chatgpt等語言生成系統。 Openai於2019年宣布的GPT-2是Chatgpt背後AI系統的先驅。它可以回答問題，總結文章，並生成有時與人寫作沒有區別的文本。儘管GPT-2現在似乎是基本的，但這當時是開創性的。由於對潛在濫用的擔憂，OpenAI最初拒絕了該模型的源代碼，而是允許精選的新聞媒體限制對演示的訪問。該決定收到了AI社區的混合反饋。有人認為，與GPT-2相關的風險被誇大了，沒有證據支持Openai對濫用的擔憂。以AI為中心的出版物該漸變甚至發表了一封公開的信，敦促Openai發行該模型，理由是其技術意義。 Openai最終在宣布後六個月發布了GPT-2的部分版本，隨後幾個月後進行了完整的系統。 Brundage認為這是正確的方法。他在X上說：“ [GPT-2版本]的哪一部分是由認為Agi是不連續的或以AGI為不連續的。 Brundage擔心Openai的文件旨在建立高度的舉證責任，除非有壓倒性的危險證據，否則擔心被視為警報者。他發現這種心態對於先進的AI系統“非常危險”。 Brundage補充說：“如果我仍在Openai工作，我會問為什麼要以這種方式寫這件[文檔]，以及以這種方式謹慎的態度來實現的目標。” Openai過去曾面臨批評，即優先考慮“閃亮的產品”，而不是安全發行以超過競爭對手。去年，該公司解散了其AGI準備團隊，幾位AI安全和政策研究人員留給了競爭對手公司。中國AI Lab DeepSeek的R1型號與競爭性格局加劇了，該模型公開可用，並與OpenAI的O1“推理”模型匹配了關鍵基準測試，引起了全球關注。 Openai首席執行官Sam Altman承認，DeepSeek已縮小Openai的技術領先優勢，促使Openai考慮加速其發佈時間表。據報導，隨著Openai每年損失數十億美元的損失，到2026年將損失提高到140億美元，更快的產品發行週期可以提高短期利潤，但可能會損害長期安全性。像Brundage這樣的專家正在質疑這種權衡是否值得。
相關文章
非營利組織利用 AI 代理提升慈善募款工作
當各大科技公司將人工智慧「代理」推廣為企業生產力的助推器時，一家非營利組織正在展示人工智慧在社會公益方面的潛力。由 Open Philanthropy 支持的慈善研究組織 Sage Future 最近進行了一項創新實驗，展示 AI 模型如何協同進行慈善募款。該非營利組織將 OpenAI 的 GPT-4o 與 o1，以及 Anthropic 的 Claude 3.6 與 3.7 Sonnet 等
頂尖 AI 實驗室警告人類正在失去理解 AI 系統的能力
來自 OpenAI、Google DeepMind、Anthropic 和 Meta 的研究人員，史無前例地展現團結，擱置競爭分歧，就負責任的 AI 開發發出集體警告。來自這些典型競爭組織的 40 多位頂尖科學家共同撰寫了一份突破性的研究論文，強調確保 AI 決策過程透明化的窗口正在快速關閉。此次合作的重點在於現代人工智能系統的一項關鍵發展 - 在產生最終輸出之前，以人類可讀的語言闡明推理過程的新
ChatGPT 新增 Google Drive 和 Dropbox 整合功能以存取檔案
ChatGPT 利用新的企業功能增強生產力OpenAI 發表了兩項強大的新功能，將 ChatGPT 轉型為全面的企業生產力工具：自動化會議記錄和無縫雲儲存整合。革命性的錄音功能新推出的 「記錄模式 」可自動轉錄和分析以下內容：重要的商務會議有創意的腦力激盪會議 個人思考過程此優質功能目前為 ChatGPT 團隊訂閱者專屬 (每位使用者每月 $25)，可提供：精確、有時
評論 (36)
0/200
![LiamCarter]()
LiamCarter
2025-08-05 15:00:59
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
0
![TimothyMitchell]()
TimothyMitchell
2025-04-21 01:18:15
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
0
![JackPerez]()
JackPerez
2025-04-17 07:40:06
A crítica de Miles Brundage à OpenAI é totalmente justa! Eles estão tentando reescrever a história da segurança do AI, mas não estamos comprando isso. É crucial mantê-los responsáveis, especialmente quando lidam com sistemas de IA arriscados. Continue pressionando por transparência, Miles! 👍
0
![StevenGonzalez]()
StevenGonzalez
2025-04-17 04:38:43
마일즈 브런데이지가 OpenAI의 새로운 AI 안전성 서사를 비판하는 것을 보고 정말 드라마를 보는 것 같아요. 그는 회사가 역사를 다시 쓰고 있다고 비난하고 있어서, 그의 강력한 태도에 감탄했어요. 큰 기술 기업의 안전성 주장을 믿기 전에 두 번 생각하게 만드네요. 마일즈, 고마워요! 👏
0
![AlbertWilson]()
AlbertWilson
2025-04-17 03:07:30
Just listened to Miles Brundage's take on OpenAI's new AI safety narrative and wow, it's like watching a soap opera unfold! He's not holding back, calling out the company for rewriting history. It's intense but also kinda refreshing to see someone stand up like this. Definitely makes you think twice about trusting big tech's safety claims. Keep it real, Miles! 👏
0
![DonaldBrown]()
DonaldBrown
2025-04-16 15:05:24
Я ценю честность Майлса Брандажа о смене нарратива OpenAI в отношении безопасности ИИ. Важно держать компании ответственными, но хотелось бы больше конструктивной критики. Тем не менее, это сигнал тревоги для отрасли! 🚨
0
非營利組織利用 AI 代理提升慈善募款工作
當各大科技公司將人工智慧「代理」推廣為企業生產力的助推器時，一家非營利組織正在展示人工智慧在社會公益方面的潛力。由 Open Philanthropy 支持的慈善研究組織 Sage Future 最近進行了一項創新實驗，展示 AI 模型如何協同進行慈善募款。該非營利組織將 OpenAI 的 GPT-4o 與 o1，以及 Anthropic 的 Claude 3.6 與 3.7 Sonnet 等
頂尖 AI 實驗室警告人類正在失去理解 AI 系統的能力
來自 OpenAI、Google DeepMind、Anthropic 和 Meta 的研究人員，史無前例地展現團結，擱置競爭分歧，就負責任的 AI 開發發出集體警告。來自這些典型競爭組織的 40 多位頂尖科學家共同撰寫了一份突破性的研究論文，強調確保 AI 決策過程透明化的窗口正在快速關閉。此次合作的重點在於現代人工智能系統的一項關鍵發展 - 在產生最終輸出之前，以人類可讀的語言闡明推理過程的新
ChatGPT 新增 Google Drive 和 Dropbox 整合功能以存取檔案
ChatGPT 利用新的企業功能增強生產力OpenAI 發表了兩項強大的新功能，將 ChatGPT 轉型為全面的企業生產力工具：自動化會議記錄和無縫雲儲存整合。革命性的錄音功能新推出的 「記錄模式 」可自動轉錄和分析以下內容：重要的商務會議有創意的腦力激盪會議 個人思考過程此優質功能目前為 ChatGPT 團隊訂閱者專屬 (每位使用者每月 $25)，可提供：精確、有時
2025-08-05 15:00:59
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
0
2025-04-21 01:18:15
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
0
2025-04-17 07:40:06
A crítica de Miles Brundage à OpenAI é totalmente justa! Eles estão tentando reescrever a história da segurança do AI, mas não estamos comprando isso. É crucial mantê-los responsáveis, especialmente quando lidam com sistemas de IA arriscados. Continue pressionando por transparência, Miles! 👍
0
2025-04-17 04:38:43
마일즈 브런데이지가 OpenAI의 새로운 AI 안전성 서사를 비판하는 것을 보고 정말 드라마를 보는 것 같아요. 그는 회사가 역사를 다시 쓰고 있다고 비난하고 있어서, 그의 강력한 태도에 감탄했어요. 큰 기술 기업의 안전성 주장을 믿기 전에 두 번 생각하게 만드네요. 마일즈, 고마워요! 👏
0
2025-04-17 03:07:30
Just listened to Miles Brundage's take on OpenAI's new AI safety narrative and wow, it's like watching a soap opera unfold! He's not holding back, calling out the company for rewriting history. It's intense but also kinda refreshing to see someone stand up like this. Definitely makes you think twice about trusting big tech's safety claims. Keep it real, Miles! 👏
0
2025-04-16 15:05:24
Я ценю честность Майлса Брандажа о смене нарратива OpenAI в отношении безопасности ИИ. Важно держать компании ответственными, но хотелось бы больше конструктивной критики. Тем не менее, это сигнал тревоги для отрасли! 🚨
0
