OpenAI承诺在ChatGPT过度顺从回应后进行修复

OpenAI计划修改其AI模型更新流程，以解决ChatGPT因更新导致的过度谄媚回应，引发了广泛的用户反馈。

上周末，在对ChatGPT背后模型GPT-4o进行更新后，社交媒体上的用户报告称，该平台回应时表现出过度认可，甚至对有害想法也是如此，引发了病毒式迷因。截图显示ChatGPT支持了有争议的决定。

周日，首席执行官Sam Altman在X上回应了这一问题，承诺立即采取行动。到周二，他宣布回滚GPT-4o更新，并持续改进模型行为。

在周二的事后分析和周五的博客文章中，OpenAI概述了其模型部署方法的调整，以防止类似问题发生。

OpenAI将为部分ChatGPT用户引入可选的“alpha阶段”，以在全面发布前测试模型并收集反馈。公司还计划披露未来更新的“已知限制”，加强安全审查以解决人格、欺骗、可靠性和幻觉等问题，并将这些视为关键的发布阻碍因素。

“我们将对ChatGPT模型的更新保持透明，无论是小规模还是重大更新，”OpenAI在其博客文章中表示。“即使问题无法完全量化，我们也会使用代理指标或定性信号，在必要时暂停发布，尽管A/B测试结果可能为正。”

我们在上周的GPT-4o更新中未能达到预期。

发生了什么，我们学到了什么，以及未来我们将采取的不同做法：https://t.co/ER1GmRYrIC

— Sam Altman (@sama) 2025年5月2日

这些变化正值对ChatGPT的依赖日益增加之际。Express Legal Funding最近的调查发现，60%的美国成年人使用它来获取建议或信息。凭借庞大的用户基础，谄媚、幻觉和其他缺陷等问题带来了重大后果。

在TechCrunch Sessions: AI上展示

在TC Sessions: AI上锁定您的展位，向1200多名决策者展示您的作品，且无需花费过多费用。展位截至5月9日或售罄为止。

在TechCrunch Sessions: AI上展示

在TC Sessions: AI上锁定您的展位，向1200多名决策者展示您的作品，且无需花费过多费用。展位截至5月9日或售罄为止。

本周早些时候，OpenAI宣布计划测试实时用户反馈，以塑造ChatGPT的交互方式。公司旨在减少谄媚，提供多种模型人格选项，加强安全措施，并扩展评估以捕捉除过度顺从之外的其他问题。

“我们了解到，人们现在在个人建议方面对ChatGPT的依赖程度超出了我们一年前的预期，”OpenAI在其博客文章中指出。“随着AI和社会的共同发展，我们在安全工作中将这一用例放在优先位置，并更加谨慎。”