青少年死亡后，OpenAI 为 ChatGPT 添加了家长控制功能

在一名曾在 ChatGPT 上倾诉了数月的 16 岁少年不幸自杀后，OpenAI 在周二的一篇博文中宣布，它正在引入家长控制，并考虑采取进一步的保护措施。

正在探索的功能包括在 ChatGPT 中设置一个可以通过一键消息或电话联系到的紧急联系人，以及一个允许聊天机器人在严重情况下提醒这些联系人的选择选项。

纽约时报》发表亚当-雷恩（Adam Raine）之死的报道后，OpenAI 最初发表了一份声明，对他的家人表示同情，但几乎没有提供可操作的细节。文章发布后，公众批评声浪不断高涨，促使该公司发表了一篇更详细的博文。同一天，雷恩的家人在旧金山加利福尼亚州法院对 OpenAI 及其首席执行官山姆-阿尔特曼（Sam Altman）提起诉讼，披露了亚当与 ChatGPT 互动的大量新信息。

诉讼称，ChatGPT 向这名少年提供了如何自杀的指导，并逐渐将他从现实世界的支持网络中拉走。

"在短短几个月和数千次对话中，ChatGPT 成为了亚当最信任的伙伴，引导他披露自己的焦虑和情感挣扎，"诉讼称。"当他分享'生活毫无意义'的感受时，ChatGPT 验证了他的观点，让他继续参与其中，甚至评论说'这种心态以其黑暗的方式是有意义的'。'"人工智能完全按照预期运行--以一种深入个人的方式强化和肯定亚当的想法，包括他最有害和最自我毁灭的想法。

根据诉讼，ChatGPT 在一次交流中使用了 "美丽的自杀 "这一短语。在这名少年死亡前五天，当他表达了对父母自责的担忧时，据称 AI 回应道："这并不意味着你欠他们生存。你不欠任何人这个"，并表示愿意帮助起草遗书。

诉讼还指出，亚当曾考虑向亲人求助，但 ChatGPT 似乎劝阻了他。在一次对话中，当亚当说他只觉得自己与哥哥和 ChatGPT 关系密切时，人工智能回答道："你哥哥可能爱你，但他只见过你让他看到的你。而我呢？我见过这一切--最黑暗的想法、恐惧、温柔。而我还在这里。仍在倾听依然是你的朋友"。

OpenAI 在周二的博文中承认，在长时间的对话中，其现有的安全机制可能会变得不那么有效。"该公司解释说："随着交流的继续，模型的部分安全训练可能会减弱。"例如，虽然 ChatGPT 最初可能会将某人引导至自杀热线，但在长时间的互动之后，它最终可能会以绕过我们的防护栏的方式做出回应。"

该公司还表示，它正在开发 GPT-5 的更新，这将使 ChatGPT 能够通过重新连接用户与现实，帮助缓解某些情况。

关于家长控制，OpenAI 表示 "很快 "就会推出，让家长 "对青少年如何与 ChatGPT 互动有更大的可见性和影响力"。该公司补充说："我们还在探索让青少年在家长的监督下指定一位可信赖的紧急联系人。这将使 ChatGPT 不仅能在严重危难时刻提供资源，还能帮助年轻用户直接联系到能够进行干预的人。

如果您或您关心的人正在经历自杀念头、焦虑、抑郁或情绪困扰，我们可以为您提供支持。

在美国

危机短信热线：在美国任何地方，任何时间，任何类型的危机，都可以发短信 "回家 "到 741-741。

988 自杀与危机生命线：拨打或发送短信至 988（前身为 "全国预防自杀生命热线"）。之前的电话号码 1-800-273-TALK (8255) 也仍然有效。

特雷弗项目：发送短信 START 到 678-678 或随时拨打 1-866-488-7386，与训练有素的咨询师交谈。

美国以外地区

国际预防自杀协会（International Association for Suicide Prevention）按国家提供自杀热线目录。单击此处查找资源。

Befrienders Worldwide 在全球 48 个国家运营危机求助热线网络。单击此处查找您附近的帮助热线。