首页前奈政策负责人大满贯公司用于改变AI安全叙事
一位前OpenAI政策研究员Miles Brundage最近访问社交媒体，呼吁Openai，以寻求其“重写历史”的方法，以部署潜在风险的AI系统。本周，OpenAI发布了一份文件，详细介绍了其目前关于AI安全和一致性的立场，即确保AI系统以可预测且有益的方式行动的过程。在其中，Openai描述了AGI或AI系统能够执行任何任务的AI系统的发展，是一种“连续路径”，涉及从AI技术中“迭代部署和学习”。 OpenAI在文档中说：“在不连续的世界中，安全课程来自对当今的系统，相对于它们的明显力量的谨慎处理，这是我们为[我们的AI模型] GPT-2采取的方法。” “现在，我们将第一个AGI视为沿着连续世界中有用性[...]的一系列系统的一个点，使下一个系统安全和有益的方式就是向当前系统学习。”但是，Brundage认为，GPT-2采取的谨慎方法完全符合Openai当前的迭代部署策略。 Brundage在X上发布了Brundage。“ Openai的发布GPT-2（我参与了GPT-2），与Openai当前的迭代部署哲学相关。 Brundage于2018年加入Openai，成为一名研究科学家，后来成为该公司的政策研究负责人，他专注于在Openai的“ AGI Revernessions”团队中负责地部署Chatgpt等语言生成系统。 Openai于2019年宣布的GPT-2是Chatgpt背后AI系统的先驱。它可以回答问题，总结文章，并生成有时与人写作没有区别的文本。尽管GPT-2现在似乎是基本的，但这当时是开创性的。由于对潜在滥用的担忧，OpenAI最初拒绝了该模型的源代码，而是允许精选的新闻媒体限制对演示的访问。该决定收到了AI社区的混合反馈。有人认为，与GPT-2相关的风险被夸大了，没有证据支持Openai对滥用的担忧。以AI为中心的出版物该渐变甚至发表了一封公开的信，敦促Openai发行该模型，理由是其技术意义。 Openai最终在宣布后六个月发布了GPT-2的部分版本，随后几个月后进行了完整的系统。 Brundage认为这是正确的方法。他在X上说：“ [GPT-2版本]的哪一部分是由认为Agi是不连续的或以AGI为不连续的。 Brundage担心Openai的文件旨在建立高度的举证责任，除非有压倒性的危险证据，否则担心被视为警报者。他发现这种心态对于先进的AI系统“非常危险”。 Brundage补充说：“如果我仍在Openai工作，我会问为什么要以这种方式写这件[文档]，以及以这种方式谨慎的态度来实现的目标。” Openai过去曾面临批评，即优先考虑“闪亮的产品”，而不是安全发行以超过竞争对手。去年，该公司解散了其AGI准备团队，几位AI安全和政策研究人员留给了竞争对手公司。中国AI Lab DeepSeek的R1型号与竞争性格局加剧了，该模型公开可用，并与OpenAI的O1“推理”模型匹配了关键基准测试，引起了全球关注。 Openai首席执行官Sam Altman承认，DeepSeek已缩小Openai的技术领先优势，促使Openai考虑加速其发布时间表。据报道，随着Openai每年损失数十亿美元的损失，到2026年将损失提高到140亿美元，更快的产品发行周期可以提高短期利润，但可能会损害长期安全性。像Brundage这样的专家正在质疑这种权衡是否值得。
相关文章
OpenAI 收购人工智能个人理财初创公司 Hiro
OpenAI已收购个人理财初创公司Hiro Finance，创始人伊桑·布洛克（Ethan Bloch）于周一宣布了这一消息，OpenAI也向TechCrunch证实了这笔交易。该初创公司曾获得顶级金融科技风投公司Ribbit以及General Catalyst和Restive的投资。收购条款未予披露，且Hiro此前从未透露过其融资规模。鉴于Hiro已宣布将于4月20日停止运营，并于5月13日前从
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三，一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉，修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系，并确保它能够实现双赢。只有这样，双方才能保持良好的合作伙伴关系。” 他强调，微软仍然可以使用OpenAI的知识产权，包括其模型和智能体产品，但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术，纳德拉表示：“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际，OpenAI发布了一套政策建议，概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单，这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
相关专题推荐
聊天机器人
使用这些角色扮演工具，创作属于你的AI爱情故事
探索2026年最新、最受好评的AI角色扮演工具，打造身临其境的叙事体验。XIX.AI精心整理的这份清单汇集了功能强大、颠覆传统的助手，助您释放创意叙事潜力，挖掘情感深度。通过实际测试对比免费与付费选项。立即开启您的独特旅程。
10 个工具
xix.ai
文字转语音
独立游戏开发者必备的顶级AI配音工具：为RPG和视觉小说节省配音时间
探索2026年最适合游戏开发者的AI配音工具！XIX.AI精心整理的这份清单汇集了广受好评、能彻底改变游戏开发格局的解决方案，助您在角色扮演游戏（RPG）和视觉小说的配音制作中节省时间和成本。了解免费与付费版本的对比分析、实际测试结果以及每周更新的排行榜。立即找到最适合您的配音工具吧！
10 个工具
xix.ai
教育与学习
最佳人工智能间隔重复学习工具：帮助医学生和法律专业学生优化学习计划
探索由 XIX.AI 精心挑选的 2026 年最佳 AI 间隔重复学习工具。我们推荐的这些极具创新性的工具能帮助医学和法律专业的学生优化学习计划，从而提高知识记忆效果。通过真实案例测试和每周更新的排名信息，你可以了解免费选项与付费选项之间的差异。现在就开启你的学习优势吧！
10 个工具
xix.ai
视频创作
最适合剧本创作和视觉叙事的AI文本转视频平台
2026年最新最佳AI文字转视频平台：备受好评的剧本创作与视觉叙事工具。探索这些功能强大、颠覆传统的解决方案，将您的文字转化为引人入胜的视频。通过我们每周更新的排行榜和实际测试，对比免费与付费选项。找到最适合您的平台，激发创意，提升效率。立即访问XIX.AI，探索精心精选的优质平台。
10 个工具
xix.ai
聊天机器人
AI多智能体编排器：通过自然语言设计复杂的自动化工作流程
2026最新资讯：探索最优秀的人工智能多智能体协调工具，通过自然语言设计复杂的自动化工作流程。我们精心挑选的列表中包含了评分最高、功能强大的平台，这些平台能够实现无缝的任务自动化和智能化的流程管理。对比免费与付费选项，并了解实际应用中的效果。借助XIX.AI每周更新的专家排名，让你在人工智能领域取得领先优势。
10 个工具
xix.ai
图像编辑
最佳AI降噪软件：消除低光夜间摄影中的颗粒感和伪影
探索2026年最适合低光夜间摄影的AI降噪软件。我们精心挑选了最受欢迎的免费及付费工具，通过实际测试并每周更新排名来进行对比。轻松去除图像中的颗粒感与瑕疵，在XIX.AI上释放你的AI潜力。
10 个工具
xix.ai
评论 (40)
0/500
![NicholasLewis]()
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
![NicholasYoung]()
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
![BruceMiller]()
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
![GregoryAdams]()
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
![LiamCarter]()
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
![TimothyMitchell]()
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
OpenAI 收购人工智能个人理财初创公司 Hiro
OpenAI已收购个人理财初创公司Hiro Finance，创始人伊桑·布洛克（Ethan Bloch）于周一宣布了这一消息，OpenAI也向TechCrunch证实了这笔交易。该初创公司曾获得顶级金融科技风投公司Ribbit以及General Catalyst和Restive的投资。收购条款未予披露，且Hiro此前从未透露过其融资规模。鉴于Hiro已宣布将于4月20日停止运营，并于5月13日前从
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三，一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉，修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系，并确保它能够实现双赢。只有这样，双方才能保持良好的合作伙伴关系。” 他强调，微软仍然可以使用OpenAI的知识产权，包括其模型和智能体产品，但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术，纳德拉表示：“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际，OpenAI发布了一套政策建议，概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单，这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
探索2026年最新、最受好评的AI角色扮演工具，打造身临其境的叙事体验。XIX.AI精心整理的这份清单汇集了功能强大、颠覆传统的助手，助您释放创意叙事潜力，挖掘情感深度。通过实际测试对比免费与付费选项。立即开启您的独特旅程。
10 个工具
xix.ai
探索2026年最适合游戏开发者的AI配音工具！XIX.AI精心整理的这份清单汇集了广受好评、能彻底改变游戏开发格局的解决方案，助您在角色扮演游戏（RPG）和视觉小说的配音制作中节省时间和成本。了解免费与付费版本的对比分析、实际测试结果以及每周更新的排行榜。立即找到最适合您的配音工具吧！
10 个工具
xix.ai
探索由 XIX.AI 精心挑选的 2026 年最佳 AI 间隔重复学习工具。我们推荐的这些极具创新性的工具能帮助医学和法律专业的学生优化学习计划，从而提高知识记忆效果。通过真实案例测试和每周更新的排名信息，你可以了解免费选项与付费选项之间的差异。现在就开启你的学习优势吧！
10 个工具
xix.ai
2026年最新最佳AI文字转视频平台：备受好评的剧本创作与视觉叙事工具。探索这些功能强大、颠覆传统的解决方案，将您的文字转化为引人入胜的视频。通过我们每周更新的排行榜和实际测试，对比免费与付费选项。找到最适合您的平台，激发创意，提升效率。立即访问XIX.AI，探索精心精选的优质平台。
10 个工具
xix.ai
2026最新资讯：探索最优秀的人工智能多智能体协调工具，通过自然语言设计复杂的自动化工作流程。我们精心挑选的列表中包含了评分最高、功能强大的平台，这些平台能够实现无缝的任务自动化和智能化的流程管理。对比免费与付费选项，并了解实际应用中的效果。借助XIX.AI每周更新的专家排名，让你在人工智能领域取得领先优势。
10 个工具
xix.ai
探索2026年最适合低光夜间摄影的AI降噪软件。我们精心挑选了最受欢迎的免费及付费工具，通过实际测试并每周更新排名来进行对比。轻松去除图像中的颗粒感与瑕疵，在XIX.AI上释放你的AI潜力。
10 个工具
xix.ai
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
