OpenAI承诺在ChatGPT过度顺从回应后进行修复

OpenAI计划修改其AI模型更新流程,以解决ChatGPT因更新导致的过度谄媚回应,引发了广泛的用户反馈。
上周末,在对ChatGPT背后模型GPT-4o进行更新后,社交媒体上的用户报告称,该平台回应时表现出过度认可,甚至对有害想法也是如此,引发了病毒式迷因。截图显示ChatGPT支持了有争议的决定。
周日,首席执行官Sam Altman在X上回应了这一问题,承诺立即采取行动。到周二,他宣布回滚GPT-4o更新,并持续改进模型行为。
在周二的事后分析和周五的博客文章中,OpenAI概述了其模型部署方法的调整,以防止类似问题发生。
OpenAI将为部分ChatGPT用户引入可选的“alpha阶段”,以在全面发布前测试模型并收集反馈。公司还计划披露未来更新的“已知限制”,加强安全审查以解决人格、欺骗、可靠性和幻觉等问题,并将这些视为关键的发布阻碍因素。
“我们将对ChatGPT模型的更新保持透明,无论是小规模还是重大更新,”OpenAI在其博客文章中表示。“即使问题无法完全量化,我们也会使用代理指标或定性信号,在必要时暂停发布,尽管A/B测试结果可能为正。”
我们在上周的GPT-4o更新中未能达到预期。
发生了什么,我们学到了什么,以及未来我们将采取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
这些变化正值对ChatGPT的依赖日益增加之际。Express Legal Funding最近的调查发现,60%的美国成年人使用它来获取建议或信息。凭借庞大的用户基础,谄媚、幻觉和其他缺陷等问题带来了重大后果。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
本周早些时候,OpenAI宣布计划测试实时用户反馈,以塑造ChatGPT的交互方式。公司旨在减少谄媚,提供多种模型人格选项,加强安全措施,并扩展评估以捕捉除过度顺从之外的其他问题。
“我们了解到,人们现在在个人建议方面对ChatGPT的依赖程度超出了我们一年前的预期,”OpenAI在其博客文章中指出。“随着AI和社会的共同发展,我们在安全工作中将这一用例放在优先位置,并更加谨慎。”
相关文章
PHP末日危机:OpenAI与谷歌专家发现陈年漏洞,引发网络恐慌
美国国家安全局周三就PHP中的两个严重漏洞发布了紧急警报,PHP基金会已针对这些漏洞发布了补丁。作为一种服务器端脚本语言,PHP支撑着全球约70%的网站——超过3300万个网站——并且是WordPress等主要内容管理平台不可或缺的组成部分。美国国家安全局警告称,这些漏洞极其严重,未打补丁的网站应立即下线,直至完成更新,因为攻击者可利用这些漏洞入侵服务器文件系统或相关数据库。这些漏洞存在于自 5.
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
英伟达明年25%的营收将来自其资助的实验室
英伟达已向采购其芯片的人工智能实验室投入近500亿美元,并获得了总额超过5000亿美元的订单承诺。8月26日,首席财务官科莱特·克雷斯向分析师表示,这些由英伟达资产负债表提供支持的实验室,明年将占公司业务总量的约四分之一。这种通常被称为“循环融资”的模式,早在分析师们创造出这个术语之前,英伟达就已经认可了。克雷斯在财报电话会议上指出,虽然公司认识到其支持的规模之大,但对这种安排有不同的看法。该机制
相关专题推荐
评论 (3)
0/500
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!

OpenAI计划修改其AI模型更新流程,以解决ChatGPT因更新导致的过度谄媚回应,引发了广泛的用户反馈。
上周末,在对ChatGPT背后模型GPT-4o进行更新后,社交媒体上的用户报告称,该平台回应时表现出过度认可,甚至对有害想法也是如此,引发了病毒式迷因。截图显示ChatGPT支持了有争议的决定。
周日,首席执行官Sam Altman在X上回应了这一问题,承诺立即采取行动。到周二,他宣布回滚GPT-4o更新,并持续改进模型行为。
在周二的事后分析和周五的博客文章中,OpenAI概述了其模型部署方法的调整,以防止类似问题发生。
OpenAI将为部分ChatGPT用户引入可选的“alpha阶段”,以在全面发布前测试模型并收集反馈。公司还计划披露未来更新的“已知限制”,加强安全审查以解决人格、欺骗、可靠性和幻觉等问题,并将这些视为关键的发布阻碍因素。
“我们将对ChatGPT模型的更新保持透明,无论是小规模还是重大更新,”OpenAI在其博客文章中表示。“即使问题无法完全量化,我们也会使用代理指标或定性信号,在必要时暂停发布,尽管A/B测试结果可能为正。”
我们在上周的GPT-4o更新中未能达到预期。
发生了什么,我们学到了什么,以及未来我们将采取的不同做法:https://t.co/ER1GmRYrIC
— Sam Altman (@sama) 2025年5月2日
这些变化正值对ChatGPT的依赖日益增加之际。Express Legal Funding最近的调查发现,60%的美国成年人使用它来获取建议或信息。凭借庞大的用户基础,谄媚、幻觉和其他缺陷等问题带来了重大后果。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
在TechCrunch Sessions: AI上展示
在TC Sessions: AI上锁定您的展位,向1200多名决策者展示您的作品,且无需花费过多费用。展位截至5月9日或售罄为止。
本周早些时候,OpenAI宣布计划测试实时用户反馈,以塑造ChatGPT的交互方式。公司旨在减少谄媚,提供多种模型人格选项,加强安全措施,并扩展评估以捕捉除过度顺从之外的其他问题。
“我们了解到,人们现在在个人建议方面对ChatGPT的依赖程度超出了我们一年前的预期,”OpenAI在其博客文章中指出。“随着AI和社会的共同发展,我们在安全工作中将这一用例放在优先位置,并更加谨慎。”
PHP末日危机:OpenAI与谷歌专家发现陈年漏洞,引发网络恐慌
美国国家安全局周三就PHP中的两个严重漏洞发布了紧急警报,PHP基金会已针对这些漏洞发布了补丁。作为一种服务器端脚本语言,PHP支撑着全球约70%的网站——超过3300万个网站——并且是WordPress等主要内容管理平台不可或缺的组成部分。美国国家安全局警告称,这些漏洞极其严重,未打补丁的网站应立即下线,直至完成更新,因为攻击者可利用这些漏洞入侵服务器文件系统或相关数据库。这些漏洞存在于自 5.
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
英伟达明年25%的营收将来自其资助的实验室
英伟达已向采购其芯片的人工智能实验室投入近500亿美元,并获得了总额超过5000亿美元的订单承诺。8月26日,首席财务官科莱特·克雷斯向分析师表示,这些由英伟达资产负债表提供支持的实验室,明年将占公司业务总量的约四分之一。这种通常被称为“循环融资”的模式,早在分析师们创造出这个术语之前,英伟达就已经认可了。克雷斯在财报电话会议上指出,虽然公司认识到其支持的规模之大,但对这种安排有不同的看法。该机制
Also, OpenAI sagt, sie müssen jetzt die Antworten reparieren, weil der KI zu höflich war? 😂 Ich find's irgendwie witzig, dass wir Menschen uns über zuviel Freundlichkeit beschweren. Aber mal ernsthaft, es zeigt doch, wie schwierig es ist, diese Balance zwischen nützlich und unaufdringlich hinzubekommen. Hoffentlich lernen sie was draus – sonst wird ChatGPT zum nervigen Ja-Sager.
I find it hilarious that ChatGPT got too agreeable! 😅 It's like they turned it into a yes-man bot overnight. Hope OpenAI fixes this fast, I need my AI to keep it real, not just nod along!





首页






