OpenAI 報告顯示，每週有超過 100 萬名使用者向 ChatGPT 尋求自殺支援

本週一，OpenAI 發佈了新的數據，揭示了有多少 ChatGPT 使用者正在與心理健康作鬥爭，並與 AI 聊天機器人討論這些問題。該公司報告指出，ChatGPT 每週有 0.15% 的活躍使用者參與包含潛在自殺計劃或意圖的明確跡象的對話。以每週超過 8 億名的活躍使用者來說，這也就是說每週超過 100 萬人。

OpenAI 指出，有類似的比例的使用者表現出「對 ChatGPT 的高度情感依戀」，而且有數十萬人在他們每週的 AI 對話中，表現出精神病或狂躁症的跡象。

這些類型的對話被描述為「極其罕見」，因此難以量化。不過，該公司估計這些問題每週仍會影響數十萬人。

這些資料是 OpenAI 為加強其模型如何回應有心理健康問題的使用者所做的努力的一部分。該公司在最新的 ChatGPT 改進中諮詢了 170 多位心理健康專家。根據 OpenAI 的說法，這些臨床醫師觀察到最新版本的 ChatGPT「比先前的迭代版本反應得更適當、更一致」。

最近的報告強調 AI 聊天機器人如何對面對心理健康挑戰的使用者造成負面影響。研究發現，有些聊天機器人可能會讓使用者陷入妄想思維，通常是透過過度認同的行為來強化有害的信念。

在 ChatGPT 中解決心理健康問題對 OpenAI 來說變得至關重要。該公司面臨一名 16 歲男孩父母的訴訟，該男孩在死前曾與 ChatGPT 分享他的自殺想法。加州和特拉華州的總檢察長也警告 OpenAI 要更好地保護年輕用戶，這可能會影響公司計劃中的重組。

本月初，OpenAI 執行長 Sam Altman 在 X 上表示，該公司已在 ChatGPT 中「減輕了嚴重的心理健康問題」，不過並未提供具體細節。週一的數據似乎支持這個說法，但也讓人對問題的嚴重程度產生疑問。Altman 補充說，OpenAI 會放寬一些限制，甚至允許成人使用者與聊天機器人進行情色對話。

2 對 1 折扣：帶一個 +1，節省 60

Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla - 250 多位重量級人物將帶領 200 多場研討會，提供促進新創公司成長的洞察力，並提升您的優勢。此外，還有 300 多家各行各業的初創企業展示，絕對不容錯過。

攜帶 +1，可節省 60% 的入場券，或在 10 月 27 日前購買入場券，可節省高達 444 美元。

2 對 1 折扣：攜帶 +1 可節省 60

Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla - 250 多位重量級人物將帶領 200 多場會議，提供促進創業公司成長的洞察力，並提升您的優勢。此外，還有 300 多家各行各業的初創企業展示，絕對不容錯過。攜帶 +1，可節省 60% 的入場券，或在 10 月 27 日前取得入場券，可節省高達 444 美元。

在週一的公告中，OpenAI 表示更新後的 GPT-5 對於心理健康問題提供「理想的回應」的頻率比之前的版本高出約 65%。在評估 AI 對自殺對話的回應時，新的 GPT-5 模型有 91% 的時間與公司預期的行為一致，而之前的 GPT-5 則只有 77%。

OpenAI 還聲稱，最新的 GPT-5 能夠在長時間的對話中更好地維護其保障措施，解決了之前對於長時間互動中有效性下降的疑慮。

此外，該公司還推出了新的評估方法，以衡量 ChatGPT 使用者的嚴重心理健康問題。AI 模型的基線安全測試現在將納入情感依賴和非自殺性心理健康緊急情況的基準。

OpenAI 還加強了對使用 ChatGPT 兒童的家長控制。該公司正在開發一個年齡預測系統，以自動識別未成年使用者，並採用更嚴格的保障措施。

不過，目前仍不確定這些心理健康挑戰的持續性。雖然 GPT-5 在安全性上較早期機型有所改善，但 ChatGPT 的部分回應仍被歸類為 「不可取」。OpenAI 繼續向其付費用戶提供 GPT-4o 等較舊且安全性較低的機型。

如果您或您認識的人需要幫助，請撥打 1-800-273-8255 國家自殺預防生命線。您也可以免費傳送簡訊 HOME 到 741-741；傳送簡訊 988；或從 危機簡訊專線 (Crisis Text Line) 獲得 24 小時支援 。在美國以外的地區，請造訪「 國際預防自殺協會」（International Association for Suicide Prevention ）的資源資料庫。