选项
首页
新闻
如果竞争对手推出潜在危险的人工智能模型,OpenAI 可能会放松保障措施

如果竞争对手推出潜在危险的人工智能模型,OpenAI 可能会放松保障措施

2025-11-07
71

如果竞争对手推出潜在危险的人工智能模型,OpenAI 可能会放松保障措施

OpenAI 在竞争压力下调整安全协议

OpenAI 修订了其 "准备框架"(Prearedness Framework),这是指导人工智能模型安全性评估和在整个开发周期中实施保障措施的内部机制。更新后的政策特别规定,如果竞争公司在没有同等保护措施的情况下推出高风险系统,则有可能放宽安全措施。

这一修改凸显了日益增长的市场力量迫使人工智能开发商加快部署时间表。OpenAI 面临着越来越多的审查,据称其为加快发布速度而降低了安全优先级,包括延迟发布安全评估文件。在最近的法律诉讼中,12 名前员工支持埃隆-马斯克起诉 OpenAI,并警告说计划中的公司重组可能会进一步削弱安全标准。

平衡竞争与安全

面对批评,OpenAI 强调任何政策调整都将保持严格的保护水平。周二的博客更新称:"如果竞争对手部署了缺乏可比保障措施的高风险系统,我们可能会调整要求,""我们承诺进行彻底的风险核查,提高修改的透明度,并保持卓越的保护措施。"

修订后的框架凸显了 OpenAI 在传统的人工主导测试之外,越来越依赖于自动化评估工具。公司代表声称,这些自动化系统能够在不影响评估质量的情况下保持发布速度。

出现有争议的测试方法

有报道与 OpenAI 的官方立场相悖,内部人士透露,OpenAI 压缩了安全审查时间。据《金融时报》消息称,测试人员最近只有不到一周的时间来评估一个即将发布的模型--比以往的时间大大缩短。此外,还有人担心安全测试主要是在发布前的模型变体上进行,而不是在公开部署版本上进行。

重新定义的风险分类系统

更新后的框架引入了简化的模型分类,重点关注两个能力阈值:

  • 高能力:放大现有严重危害载体的模型
  • 关键能力:建立新的严重危害途径的模型

"高能力系统要求在部署前采取减轻风险的保障措施,"OpenAI 解释道。"关键能力模型需要额外的开发阶段保护措施"。

这标志着该框架自 2023 年以来的首次实质性修订,反映了不断发展的行业动态和 OpenAI 的内部运营变化。

相关文章
萨提亚·纳德拉准备利用与OpenAI的新合作关系 萨提亚·纳德拉准备利用与OpenAI的新合作关系 周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图 OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图 正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI 格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI 2017年8月下旬,OpenAI(当时还是一家小型非营利研究实验室)的核心成员召开会议,商讨如何成立一家营利性实体,以实现技术的商业化,并筹集实现通用人工智能(AGI)所需的资金。埃隆·马斯克要求全面掌控公司,并刚刚向每位联合创始人赠送了一辆特斯拉Model 3。首席技术官格雷格·布罗克曼表示,他认为这是马斯克试图收买人心,当时马斯克和萨姆·阿尔特曼正就各自对公司未来愿景的支持展开角逐。 Open
相关专题推荐
漫画创作 漫画领域顶尖的AI自动上色工具:零一致性错误地应用平涂色彩
漫画领域顶尖的AI自动上色工具:零一致性错误地应用平涂色彩

立即访问 XIX.AI,探索 2026 年最优秀的漫画 AI 自动上色工具。我们精心筛选的清单汇集了广受好评、颠覆行业的解决方案,这些工具能以零一致性错误的方式应用平涂色彩,从而大幅提升您的工作效率。通过免费版与付费版的对比分析、实际测试以及每周更新的排行榜,找到最适合您的工具。立即开启您的 AI 优势。

10 个工具
xix.ai
写作 顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷
顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷

探索2026年最优秀的AI人物设定生成工具,助您塑造鲜活立体的角色。XIX.AI精心筛选的这份清单汇集了广受好评、颠覆传统的工具,能够生成具有内在逻辑的动机和致命缺陷。通过实际测试对比免费与付费选项。立即释放您的叙事潜能。

10 个工具
xix.ai
商业 顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格
顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格

在 XIX.AI 上探索 2026 年最佳 AI 定价优化软件。我们精心挑选的清单汇集了备受好评、具有颠覆性意义的工具,这些工具不仅能追踪竞争对手,还能自动调整您的店铺价格,从而实现利润最大化。通过实际测试对比免费与付费选项。立即掌握您的定价优势。

10 个工具
xix.ai
代码 最佳 AI 代码审查工具:自动确保代码符合规范,并重构遗留代码库文件
最佳 AI 代码审查工具:自动确保代码符合规范,并重构遗留代码库文件

在 XIX.AI 上探索 2026 年最佳 AI 代码审查工具。我们的精选列表汇集了备受好评、具有颠覆性的工具,可自动确保代码规范并重构遗留代码库文件。通过实际测试和每周更新的排行榜,对比免费与付费选项。立即开启您的 AI 优势。

10 个工具
xix.ai
文字转语音 专为阅读障碍设计的顶级AI语音合成应用:助力学生提升学习与阅读效率
专为阅读障碍设计的顶级AI语音合成应用:助力学生提升学习与阅读效率

探索2026年最新精选的高评分AI语音合成(TTS)应用,专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具,重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案,释放学生的潜能。立即访问XIX.AI,开启您的探索之旅。

10 个工具
xix.ai
漫画创作 少年漫画顶级AI生成器:打造高能动作场面与特效
少年漫画顶级AI生成器:打造高能动作场面与特效

在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具,助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能,立即开始创作史诗级漫画吧!

15 个工具
xix.ai
评论 (2)
0/500
WillieHernández
WillieHernández 2025-11-19 06:30:38

またOpenAIの方針転換...競争が激化する中、安全性と開発速度のバランスって本当に難しいですよね。個人的には過去のChatGPTの制限が緩和された時みたいに、今回もユーザー体験が向上するなら歓迎だけど、やっぱり倫理的基準は守ってほしいな😅 他の企業が危険なAIを出したら同じ土俵に上がる必要性ある?

PaulTaylor
PaulTaylor 2025-11-12 02:30:35

Interesante cómo la competencia puede influir en los estándares de seguridad 😕 No sé si relajar protocolos sea buena idea, pero entiendo la presión del mercado. ¿Hasta qué punto la carrera por la IA está poniendo en riesgo controles importantes?

OR