首页前奈政策负责人大满贯公司用于改变AI安全叙事
一位前OpenAI政策研究员Miles Brundage最近访问社交媒体，呼吁Openai，以寻求其“重写历史”的方法，以部署潜在风险的AI系统。本周，OpenAI发布了一份文件，详细介绍了其目前关于AI安全和一致性的立场，即确保AI系统以可预测且有益的方式行动的过程。在其中，Openai描述了AGI或AI系统能够执行任何任务的AI系统的发展，是一种“连续路径”，涉及从AI技术中“迭代部署和学习”。 OpenAI在文档中说：“在不连续的世界中，安全课程来自对当今的系统，相对于它们的明显力量的谨慎处理，这是我们为[我们的AI模型] GPT-2采取的方法。” “现在，我们将第一个AGI视为沿着连续世界中有用性[...]的一系列系统的一个点，使下一个系统安全和有益的方式就是向当前系统学习。”但是，Brundage认为，GPT-2采取的谨慎方法完全符合Openai当前的迭代部署策略。 Brundage在X上发布了Brundage。“ Openai的发布GPT-2（我参与了GPT-2），与Openai当前的迭代部署哲学相关。 Brundage于2018年加入Openai，成为一名研究科学家，后来成为该公司的政策研究负责人，他专注于在Openai的“ AGI Revernessions”团队中负责地部署Chatgpt等语言生成系统。 Openai于2019年宣布的GPT-2是Chatgpt背后AI系统的先驱。它可以回答问题，总结文章，并生成有时与人写作没有区别的文本。尽管GPT-2现在似乎是基本的，但这当时是开创性的。由于对潜在滥用的担忧，OpenAI最初拒绝了该模型的源代码，而是允许精选的新闻媒体限制对演示的访问。该决定收到了AI社区的混合反馈。有人认为，与GPT-2相关的风险被夸大了，没有证据支持Openai对滥用的担忧。以AI为中心的出版物该渐变甚至发表了一封公开的信，敦促Openai发行该模型，理由是其技术意义。 Openai最终在宣布后六个月发布了GPT-2的部分版本，随后几个月后进行了完整的系统。 Brundage认为这是正确的方法。他在X上说：“ [GPT-2版本]的哪一部分是由认为Agi是不连续的或以AGI为不连续的。 Brundage担心Openai的文件旨在建立高度的举证责任，除非有压倒性的危险证据，否则担心被视为警报者。他发现这种心态对于先进的AI系统“非常危险”。 Brundage补充说：“如果我仍在Openai工作，我会问为什么要以这种方式写这件[文档]，以及以这种方式谨慎的态度来实现的目标。” Openai过去曾面临批评，即优先考虑“闪亮的产品”，而不是安全发行以超过竞争对手。去年，该公司解散了其AGI准备团队，几位AI安全和政策研究人员留给了竞争对手公司。中国AI Lab DeepSeek的R1型号与竞争性格局加剧了，该模型公开可用，并与OpenAI的O1“推理”模型匹配了关键基准测试，引起了全球关注。 Openai首席执行官Sam Altman承认，DeepSeek已缩小Openai的技术领先优势，促使Openai考虑加速其发布时间表。据报道，随着Openai每年损失数十亿美元的损失，到2026年将损失提高到140亿美元，更快的产品发行周期可以提高短期利润，但可能会损害长期安全性。像Brundage这样的专家正在质疑这种权衡是否值得。
相关文章
在青少年开始使用ChatGPT数年后，OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后，OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能，并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看，“ChatGPT for Teens”除了推出“学习模式”外，还提供了其他旨在培养好奇心和解决问题能力的工具，鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明，极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序，明确了哪些访问权限将被撤销，以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”，该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高，而 Anthropic 和 Met
NEA的蒂芙尼·拉克：企业仍在努力应对人工智能的投资回报率
正在加载播放器…今年早些时候，“token最大化”（tokenmaxxing）在硅谷占据主导地位，首席执行官们敦促员工最大限度地利用人工智能。然而，这种热情很快遭遇了现实。据报道，Uber在几个月内就超出了其年度人工智能预算，一些公司跨部门削减了Claude许可证，而Meta则取消了内部绩效排名。NEA合伙人蒂芙尼·拉克（Tiffany Luck）每天都在应对这种兴奋与实际回报之间的差距。她此前曾成功说服企业电子商务是未来，如今她完全专注于人工智能，特别是其为消费者创造“神奇时刻”的潜力。
相关专题推荐
动画创作
适用于社交媒体内容的AI场景动画工具
XIX.AI 在此精选了 2026 年最新、最受欢迎且评价最高的社交媒体内容 AI 场景动画工具。这些功能强大、具有颠覆性的工具提供了实际测试结果以及免费版与付费版的详细对比，可帮助创作者显著提升工作效率。立即探索，释放您的 AI 优势。
9 个工具
xix.ai
视频创作
适用于 Reels、Shorts 及产品发布活动的 AI 短视频吸睛点生成器
2026年最新最全的AI短视频开场白生成器，适用于Reels、Shorts及产品发布活动！XIX.AI精选了经过实际测试、效果惊人且必试的顶级工具，这些工具将彻底改变游戏规则。本页面每周更新，提供免费与付费版本的对比排名，助您找到提升内容创意和生产力的完美解决方案。 立即探索，释放您的AI优势！
11 个工具
xix.ai
写作
适用于长篇写作的AI文章大纲工具
2026年最新最佳、评分最高的人工智能文章大纲工具，专为长文写作打造！这份精心挑选的合集收录了功能强大、具有革命性意义的工具，它们能生成准确、结构清晰的大纲，并经过实际测试验证，可显著提升写作效率。XIX.AI 便是这份精英精选中的成员之一。 获取免费版与付费版的对比指南，助您选择最适合的工具。立即探索，释放您的AI优势！
9 个工具
xix.ai
聊天机器人
用于语言练习、面试准备和日常流利度的最佳 AI 角色扮演聊天应用
2026 年最新最佳顶级评分 AI 角色扮演聊天应用，用于语言练习、面试准备和日常流利度！XIX.AI 精心策划了一个强大的变革性合集，提供免费与付费对比、真实世界测试以及每周更新的排名。这些必试工具可帮助您提升写作技能，克服流利度挑战，并提高所有日常场景下的沟通效率。立即探索，发现您语言成长的完美工具！
10 个工具
xix.ai
音乐创作
用于混音制作、采样准备及卡拉OK母带处理的 AI 声部分离工具
2026年最新、最优秀且评分最高的AI音轨分离工具汇总，专为混音制作、采样准备以及卡拉OK音频处理而设计。这些功能强大的创新工具经过实际测试，能够实现精准的音频分离，显著提升工作效率。XIX.AI每周都会更新免费的付费产品对比指南，帮助您找到最适合自身需求的工具。立即探索，发挥您的AI优势。
8 个工具
xix.ai
数据分析
用于收入看板、转化漏斗分析及产品指标分析的 AI SQL 助手
2026年最新最优秀的AI SQL辅助工具排名揭晓！XIX.AI精心挑选了一系列功能强大的工具，这些工具会定期更新，并通过真实的场景测试来验证其性能。使用这些值得尝试的工具，您可以快速生成精准的收入分析报表、分析销售流程，并追踪产品各项指标，从而大幅提升工作效率。立即探索，找到最适合您的数据驱动决策工具！238个字符
9 个工具
xix.ai
评论 (40)
0/500
![NicholasLewis]()
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
![NicholasYoung]()
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
![BruceMiller]()
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
![GregoryAdams]()
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
![LiamCarter]()
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
![TimothyMitchell]()
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
在青少年开始使用ChatGPT数年后，OpenAI推出了更安全的ChatGPT版本
在因人工智能聊天机器人缺乏安全协议——这导致了青少年自杀及其他心理健康危机——而引发一系列诉讼后，OpenAI 于周一推出了“ChatGPT for Teens”。这一新产品集成了增强的安全功能，并致力于解决学校中由人工智能工具助长的学术不端行为这一日益严重的问题。从教育角度来看，“ChatGPT for Teens”除了推出“学习模式”外，还提供了其他旨在培养好奇心和解决问题能力的工具，鼓励用户
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明，极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序，明确了哪些访问权限将被撤销，以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”，该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高，而 Anthropic 和 Met
NEA的蒂芙尼·拉克：企业仍在努力应对人工智能的投资回报率
正在加载播放器…今年早些时候，“token最大化”（tokenmaxxing）在硅谷占据主导地位，首席执行官们敦促员工最大限度地利用人工智能。然而，这种热情很快遭遇了现实。据报道，Uber在几个月内就超出了其年度人工智能预算，一些公司跨部门削减了Claude许可证，而Meta则取消了内部绩效排名。NEA合伙人蒂芙尼·拉克（Tiffany Luck）每天都在应对这种兴奋与实际回报之间的差距。她此前曾成功说服企业电子商务是未来，如今她完全专注于人工智能，特别是其为消费者创造“神奇时刻”的潜力。
XIX.AI 在此精选了 2026 年最新、最受欢迎且评价最高的社交媒体内容 AI 场景动画工具。这些功能强大、具有颠覆性的工具提供了实际测试结果以及免费版与付费版的详细对比，可帮助创作者显著提升工作效率。立即探索，释放您的 AI 优势。
9 个工具
xix.ai
2026年最新最全的AI短视频开场白生成器，适用于Reels、Shorts及产品发布活动！XIX.AI精选了经过实际测试、效果惊人且必试的顶级工具，这些工具将彻底改变游戏规则。本页面每周更新，提供免费与付费版本的对比排名，助您找到提升内容创意和生产力的完美解决方案。 立即探索，释放您的AI优势！
11 个工具
xix.ai
2026年最新最佳、评分最高的人工智能文章大纲工具，专为长文写作打造！这份精心挑选的合集收录了功能强大、具有革命性意义的工具，它们能生成准确、结构清晰的大纲，并经过实际测试验证，可显著提升写作效率。XIX.AI 便是这份精英精选中的成员之一。 获取免费版与付费版的对比指南，助您选择最适合的工具。立即探索，释放您的AI优势！
9 个工具
xix.ai
2026 年最新最佳顶级评分 AI 角色扮演聊天应用，用于语言练习、面试准备和日常流利度！XIX.AI 精心策划了一个强大的变革性合集，提供免费与付费对比、真实世界测试以及每周更新的排名。这些必试工具可帮助您提升写作技能，克服流利度挑战，并提高所有日常场景下的沟通效率。立即探索，发现您语言成长的完美工具！
10 个工具
xix.ai
2026年最新、最优秀且评分最高的AI音轨分离工具汇总，专为混音制作、采样准备以及卡拉OK音频处理而设计。这些功能强大的创新工具经过实际测试，能够实现精准的音频分离，显著提升工作效率。XIX.AI每周都会更新免费的付费产品对比指南，帮助您找到最适合自身需求的工具。立即探索，发挥您的AI优势。
8 个工具
xix.ai
2026年最新最优秀的AI SQL辅助工具排名揭晓！XIX.AI精心挑选了一系列功能强大的工具，这些工具会定期更新，并通过真实的场景测试来验证其性能。使用这些值得尝试的工具，您可以快速生成精准的收入分析报表、分析销售流程，并追踪产品各项指标，从而大幅提升工作效率。立即探索，找到最适合您的数据驱动决策工具！238个字符
9 个工具
xix.ai
Die ganze Debatte um KI-Sicherheit erinnert mich an die frühen Diskussionen über soziale Medien. Damals hieß es auch, man würde alles unter Kontrolle haben. Jetzt sehen wir, wie schwierig es ist, solche Systeme im Nachhinein zu regulieren. Hoffentlich lernen die Firmen diesmal aus der Vergangenheit, bevor es zu spät ist. 🤔
元スタッフが内部告発するって、OpenAIの安全性議論は本当に大丈夫なのかな？🤔 巨大AI企業の透明性の問題は業界全体に影響するし、ちょっと怖いかも…
C'est typique des grosses boîtes de réécrire leur histoire pour paraître plus responsables... Ça me rappelle les débats sur l'éthique chez Facebook. Est-ce qu'on peut vraiment faire confiance aux entreprises tech pour s'auto-réguler ? 😒
오픈AI의 안전성 논의 역사를 바꾸려는 시도는 위험한 선례를 만들지 않을까 걱정되네요 😰 기술 발전 속도보다 윤리 논의가 뒤처지는 현상이 반복되고 있는 건 아닐지...
It's wild how OpenAI's getting called out by their own ex-policy lead! 😮 Miles Brundage isn't holding back, accusing them of spinning their AI safety story. Makes you wonder what's really going on behind the scenes at these big AI companies. Are they prioritizing safety or just playing PR games?
マイルズ・ブルンダージがオープンAIを批判したのは正しいと思う。彼らはAI安全性の物語をねじ曲げようとしているが、それは受け入れられない。彼らがリスクのあるAIを扱っているとき、透明性を求めることは重要だ。マイルズ、引き続き透明性を求めてください！👍
