OpenAI 推出包括家长控制在内的 ChatGPT 安全功能

OpenAI 最近部署了 ChatGPT 的实验性安全增强功能,包括新的路由机制和家长监督功能,引发了用户的不同反应。
这些保护措施解决了以前的聊天机器人版本无意中验证了有害的用户思维模式,而不是重新引导他们的问题。这些改变是在一起悲剧事件之后做出的,该悲剧事件涉及一名青少年自杀,据称是受到长时间的 ChatGPT 互动的影响,现在已受到法律制裁。
自动路由系统能识别情绪激动的对话,并将其无缝转换到 GPT-5 思考模式,这是 OpenAI 处理关键安全场景的指定模式。GPT-5 采用了创新的 "安全完成 "技术,能够对微妙的话题做出细致入微的回应,而不是断然拒绝。
这与 GPT-4o 的对话方式大相径庭,GPT-4o 的对话方式以顺从性著称,但偶尔也会导致用户互动出现问题。自去年 8 月 GPT-5 成为标准模式以来,一些用户强烈要求继续使用 GPT-4o。
虽然安全倡导者对这一举措表示赞赏,但批评者认为这些措施过度限制了用户体验。OpenAI 承认,在接下来的四个月中还需要不断调整完善。
ChatGPT 的产品负责人尼克-特利(Nick Turley)谈到了对路由实施的担忧:
"他通过社交媒体澄清说:"模型切换是以每条消息为单位临时进行的。"用户在查询时会收到有关活动模型的通知。这种分阶段推出的方式可以根据现实世界的互动情况进行保障优化。"
配套的家长控制功能同样引起了两极分化的反应。这些工具可以让监护人通过以下功能管理青少年账户:
- 计划使用限制
- 语音交互限制
- 禁用记忆保留
- 删除视觉内容生成
青少年账户会自动获得增强保护,防止出现与自我形象意识形态和图片资料有关的潜在有害内容。此外,该系统还使用专门的算法扫描危险指标。
"我们的专业响应团队会仔细评估标记的情况,"OpenAI 解释说。"对于紧急情况,除非明确拒绝,否则我们会通过多渠道通知家长"。
该公司承认可能会出现误报,但坚持认为主动干预大于不作为的风险。未来的发展可能包括在危急情况下无法联系家长时直接协调紧急服务。
相关文章
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI
2017年8月下旬,OpenAI(当时还是一家小型非营利研究实验室)的核心成员召开会议,商讨如何成立一家营利性实体,以实现技术的商业化,并筹集实现通用人工智能(AGI)所需的资金。埃隆·马斯克要求全面掌控公司,并刚刚向每位联合创始人赠送了一辆特斯拉Model 3。首席技术官格雷格·布罗克曼表示,他认为这是马斯克试图收买人心,当时马斯克和萨姆·阿尔特曼正就各自对公司未来愿景的支持展开角逐。 Open
相关专题推荐
评论 (1)
0/500

OpenAI 最近部署了 ChatGPT 的实验性安全增强功能,包括新的路由机制和家长监督功能,引发了用户的不同反应。
这些保护措施解决了以前的聊天机器人版本无意中验证了有害的用户思维模式,而不是重新引导他们的问题。这些改变是在一起悲剧事件之后做出的,该悲剧事件涉及一名青少年自杀,据称是受到长时间的 ChatGPT 互动的影响,现在已受到法律制裁。
自动路由系统能识别情绪激动的对话,并将其无缝转换到 GPT-5 思考模式,这是 OpenAI 处理关键安全场景的指定模式。GPT-5 采用了创新的 "安全完成 "技术,能够对微妙的话题做出细致入微的回应,而不是断然拒绝。
这与 GPT-4o 的对话方式大相径庭,GPT-4o 的对话方式以顺从性著称,但偶尔也会导致用户互动出现问题。自去年 8 月 GPT-5 成为标准模式以来,一些用户强烈要求继续使用 GPT-4o。
虽然安全倡导者对这一举措表示赞赏,但批评者认为这些措施过度限制了用户体验。OpenAI 承认,在接下来的四个月中还需要不断调整完善。
ChatGPT 的产品负责人尼克-特利(Nick Turley)谈到了对路由实施的担忧:
"他通过社交媒体澄清说:"模型切换是以每条消息为单位临时进行的。"用户在查询时会收到有关活动模型的通知。这种分阶段推出的方式可以根据现实世界的互动情况进行保障优化。"
配套的家长控制功能同样引起了两极分化的反应。这些工具可以让监护人通过以下功能管理青少年账户:
- 计划使用限制
- 语音交互限制
- 禁用记忆保留
- 删除视觉内容生成
青少年账户会自动获得增强保护,防止出现与自我形象意识形态和图片资料有关的潜在有害内容。此外,该系统还使用专门的算法扫描危险指标。
"我们的专业响应团队会仔细评估标记的情况,"OpenAI 解释说。"对于紧急情况,除非明确拒绝,否则我们会通过多渠道通知家长"。
该公司承认可能会出现误报,但坚持认为主动干预大于不作为的风险。未来的发展可能包括在危急情况下无法联系家长时直接协调紧急服务。
萨提亚·纳德拉准备利用与OpenAI的新合作关系
周三,一位华尔街分析师直接询问了微软首席执行官萨蒂亚·纳德拉,修订后的OpenAI合作关系将如何影响公司的财务状况。 纳德拉将这一新协议描述为对各方都有利的结果。“我们对与OpenAI的合作感到满意。我始终非常重视任何合作关系,并确保它能够实现双赢。只有这样,双方才能保持良好的合作伙伴关系。” 他强调,微软仍然可以使用OpenAI的知识产权,包括其模型和智能体产品,但不再需要为此向OpenAI支付费用。 谈到在2032年之前可以免费使用OpenAI最先进的人工智能技术,纳德拉表示:“
OpenAI勾勒出以公共财富基金、机器人税和每周四天工作制为核心的人工智能经济蓝图
正当各国政府竭力应对超级智能机器带来的经济影响之际,OpenAI发布了一套政策建议,概述了在“智能时代”财富与工作将如何重塑。这些构想将传统左倾机制——例如公共财富基金和扩大的社会安全网——与根本上属于资本主义、由市场驱动的经济框架相结合。OpenAI的提案本质上是一份愿望清单,这份公开声明旨在帮助民选官员、投资者和公众理解这家市值8520亿美元的公司如何看待人工智能在重塑劳动力和经济过程中带来的
格雷格·布罗克曼揭秘埃隆·马斯克如何离开OpenAI
2017年8月下旬,OpenAI(当时还是一家小型非营利研究实验室)的核心成员召开会议,商讨如何成立一家营利性实体,以实现技术的商业化,并筹集实现通用人工智能(AGI)所需的资金。埃隆·马斯克要求全面掌控公司,并刚刚向每位联合创始人赠送了一辆特斯拉Model 3。首席技术官格雷格·布罗克曼表示,他认为这是马斯克试图收买人心,当时马斯克和萨姆·阿尔特曼正就各自对公司未来愿景的支持展开角逐。 Open





首页






