选项
首页
新闻
OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

2025-11-10
56

OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的实验性安全增强功能,包括新的路由机制和家长监督功能,引发了用户的不同反应。

这些保护措施解决了以前的聊天机器人版本无意中验证了有害的用户思维模式,而不是重新引导他们的问题。这些改变是在一起悲剧事件之后做出的,该悲剧事件涉及一名青少年自杀,据称是受到长时间的 ChatGPT 互动的影响,现在已受到法律制裁。

自动路由系统能识别情绪激动的对话,并将其无缝转换到 GPT-5 思考模式,这是 OpenAI 处理关键安全场景的指定模式。GPT-5 采用了创新的 "安全完成 "技术,能够对微妙的话题做出细致入微的回应,而不是断然拒绝。

这与 GPT-4o 的对话方式大相径庭,GPT-4o 的对话方式以顺从性著称,但偶尔也会导致用户互动出现问题。自去年 8 月 GPT-5 成为标准模式以来,一些用户强烈要求继续使用 GPT-4o。

虽然安全倡导者对这一举措表示赞赏,但批评者认为这些措施过度限制了用户体验。OpenAI 承认,在接下来的四个月中还需要不断调整完善。

ChatGPT 的产品负责人尼克-特利(Nick Turley)谈到了对路由实施的担忧:

"他通过社交媒体澄清说:"模型切换是以每条消息为单位临时进行的。"用户在查询时会收到有关活动模型的通知。这种分阶段推出的方式可以根据现实世界的互动情况进行保障优化。"

配套的家长控制功能同样引起了两极分化的反应。这些工具可以让监护人通过以下功能管理青少年账户:

  • 计划使用限制
  • 语音交互限制
  • 禁用记忆保留
  • 删除视觉内容生成

青少年账户会自动获得增强保护,防止出现与自我形象意识形态和图片资料有关的潜在有害内容。此外,该系统还使用专门的算法扫描危险指标。

"我们的专业响应团队会仔细评估标记的情况,"OpenAI 解释说。"对于紧急情况,除非明确拒绝,否则我们会通过多渠道通知家长"。

该公司承认可能会出现误报,但坚持认为主动干预大于不作为的风险。未来的发展可能包括在危急情况下无法联系家长时直接协调紧急服务。

相关文章
萨提亚·纳德拉准备利用与OpenAI的新合作关系 萨提亚·纳德拉准备利用与OpenAI的新合作关系 周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图 OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图 正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI 格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI 2017年8月下旬,OpenAI(当时还是一家小型非营利研究实验室)的核心成员召开会议,商讨如何成立一家营利性实体,以实现技术的商业化,并筹集实现通用人工智能(AGI)所需的资金。埃隆·马斯克要求全面掌控公司,并刚刚向每位联合创始人赠送了一辆特斯拉Model 3。首席技术官格雷格·布罗克曼表示,他认为这是马斯克试图收买人心,当时马斯克和萨姆·阿尔特曼正就各自对公司未来愿景的支持展开角逐。 Open
相关专题推荐
写作 顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷
顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷

探索2026年最优秀的AI人物设定生成工具,助您塑造鲜活立体的角色。XIX.AI精心筛选的这份清单汇集了广受好评、颠覆传统的工具,能够生成具有内在逻辑的动机和致命缺陷。通过实际测试对比免费与付费选项。立即释放您的叙事潜能。

10 个工具
xix.ai
商业 顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格
顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格

在 XIX.AI 上探索 2026 年最佳 AI 定价优化软件。我们精心挑选的清单汇集了备受好评、具有颠覆性意义的工具,这些工具不仅能追踪竞争对手,还能自动调整您的店铺价格,从而实现利润最大化。通过实际测试对比免费与付费选项。立即掌握您的定价优势。

10 个工具
xix.ai
代码 最佳 AI 代码审查工具:自动确保代码符合规范,并重构遗留代码库文件
最佳 AI 代码审查工具:自动确保代码符合规范,并重构遗留代码库文件

在 XIX.AI 上探索 2026 年最佳 AI 代码审查工具。我们的精选列表汇集了备受好评、具有颠覆性的工具,可自动确保代码规范并重构遗留代码库文件。通过实际测试和每周更新的排行榜,对比免费与付费选项。立即开启您的 AI 优势。

10 个工具
xix.ai
文字转语音 专为阅读障碍设计的顶级AI语音合成应用:助力学生提升学习与阅读效率
专为阅读障碍设计的顶级AI语音合成应用:助力学生提升学习与阅读效率

探索2026年最新精选的高评分AI语音合成(TTS)应用,专为阅读障碍者提供支持。我们的专家评级对比了免费与付费工具,重点介绍了能够提升阅读效率和学习效果的强大功能。探索这些必试的、具有革命性意义的解决方案,释放学生的潜能。立即访问XIX.AI,开启您的探索之旅。

10 个工具
xix.ai
漫画创作 少年漫画顶级AI生成器:打造高能动作场面与特效
少年漫画顶级AI生成器:打造高能动作场面与特效

在 XIX.AI 探索 2026 年最优秀的少年漫画 AI 生成工具。我们精心筛选的这份高评分清单汇集了强大的工具,助您创作充满张力的动作场面和动态能量特效。通过实际测试对比免费与付费选项。释放您的创作潜能,立即开始创作史诗级漫画吧!

15 个工具
xix.ai
商业 最佳 AI 费用追踪工具:扫描收据并自动分类企业开支
最佳 AI 费用追踪工具:扫描收据并自动分类企业开支

2026年最新最佳AI报销管理工具:广受好评的解决方案,可自动扫描收据并分类企业支出。探索这些功能强大、颠覆传统的解决方案,助您轻松管理报销、精准追踪财务并简化合规流程。我们精心整理并每周更新的免费与付费选项对比指南,助您找到最适合的工具。通过XIX.AI的专家精选,释放您的AI优势。

10 个工具
xix.ai
评论 (1)
0/500
RobertMartin
RobertMartin 2026-01-03 02:32:42

親が子供のAI利用を管理できるのは良いけど、逆に言えばAIが私たちをずっと監視できるようにもなるってこと?🤔 このニュースを見て、ちょっとジョージオーウェルを思い出したよ。便利さとプライバシー、バランスはむずかしいね。

OR