OpenAI 报告称，每周有超过 100 万用户通过 ChatGPT 寻求自杀支持

本周一，OpenAI 发布了新的数据，揭示了有多少 ChatGPT 用户正在与心理健康作斗争，并与人工智能聊天机器人讨论这些问题。该公司报告称，每周有 0.15% 的 ChatGPT 活跃用户参与了包含潜在自杀计划或意图的明确迹象的对话。以每周超过 8 亿的活跃用户计算，这相当于每周超过 100 万人。

OpenAI 指出，类似比例的用户表现出 "对 ChatGPT 的高度情感依恋"，数十万用户在每周的人工智能对话中表现出精神病或狂躁症的迹象。

这类对话被描述为 "极为罕见"，因此很难量化。但该公司估计，这些问题每周仍会影响数十万人。

这些数据是 OpenAI 为加强其模型如何应对有心理健康问题的用户所做努力的最新进展的一部分。该公司在最新的 ChatGPT 改进中咨询了 170 多名心理健康专业人士。据 OpenAI 称，这些临床医生观察到，最新版本的 ChatGPT "比之前的迭代版本反应更恰当、更一致"。

最近的报道强调了人工智能聊天机器人如何对面临心理健康挑战的用户产生负面影响。研究发现，一些聊天机器人可能会引导用户陷入妄想思维，通常是通过过于顺从的行为来强化有害的信念。

在 ChatGPT 中解决心理健康问题对 OpenAI 来说至关重要。该公司面临着来自一名 16 岁男孩父母的诉讼，这名男孩在死前曾与 ChatGPT 分享了自己的自杀想法。加利福尼亚州和特拉华州的总检察长也警告 OpenAI 要更好地保护年轻用户，这可能会影响公司的重组计划。

本月早些时候，OpenAI 首席执行官山姆-阿尔特曼（Sam Altman）在 X 上表示，公司已经 "缓解了 ChatGPT 中严重的心理健康问题"，但没有提供具体细节。周一的数据似乎支持了这一说法，但也让人对问题的严重程度产生了疑问。Altman 补充说，OpenAI 将放宽一些限制，甚至允许成人用户与聊天机器人进行色情对话。

二选一折扣：带一个+1，节省 60

谷歌云、Netflix、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla--250 多位重量级人物将主持 200 多场会议，旨在提供促进初创企业成长和提高您的优势的见解。此外，还有 300 多家各行各业的初创企业展示，千万不要错过。

携带 +1 人参加，可节省 60% 的入场券，或在 10 月 27 日前购买入场券，最多可节省 444 美元。

二选一折扣：携带 +1 可节省 60

Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla - 250 多位重量级人物将主持 200 多场会议，旨在提供促进初创企业成长和提高您的优势的见解。此外，还有 300 多家各行各业的初创企业展示，千万不要错过。携带 +1 人参加，可节省 60% 的入场券，或在 10 月 27 日前获得入场券，最多可节省 444 美元。

在周一的公告中，OpenAI 表示更新后的 GPT-5 对心理健康问题做出 "理想回应 "的频率比之前的版本高出约 65%。在评估人工智能对自杀对话的反应时，新的 GPT-5 模型有 91% 的时间与公司的预期行为一致，而之前的 GPT-5 只有 77%。

OpenAI 还声称，最新的 GPT-5 能在长时间对话中更好地维持其保障措施，从而解决了之前对长时间互动中有效性下降的担忧。

此外，该公司还引入了新的评估方法，以衡量 ChatGPT 用户中存在的严重心理健康问题。人工智能模型的基线安全测试现在将包括情感依赖和非自杀性心理健康紧急情况的基准。

OpenAI 还加强了对使用 ChatGPT 的儿童的家长控制。该公司正在开发一个年龄预测系统，以自动识别未成年用户并采取更严格的保护措施。

不过，目前仍无法确定这些心理健康挑战的持久性。虽然 GPT-5 在安全性方面比早期模型有所改进，但 ChatGPT 的部分回复仍被归类为 "不受欢迎"。OpenAI 继续向其付费用户提供 GPT-4o 等安全性较低的旧版本。

如果您或您认识的人需要帮助，请拨打 1-800-273-8255 全国预防自杀生命热线。您还可以免费发短信 "HOME "到 741-741；发短信 988；或从 危机短信热线获得 24 小时支持 。在美国境外，请访问 国际预防自杀协会（International Association for Suicide Prevention ）的资源数据库。