青少年死亡後，OpenAI 為 ChatGPT 加入家長控制功能

繼一名 16 歲少年在 ChatGPT 上傾訴了數個月後不幸自殺身亡後，OpenAI 在週二的一篇博文中宣佈，該公司正在引入家長控制功能，並考慮進一步的保護措施。

目前正在探討的功能包括：設定緊急聯絡人，讓聊天機器人可以在 ChatGPT 中透過一鍵式訊息或撥打電話與緊急聯絡人取得聯繫，以及選擇加入選項，允許聊天機器人在嚴重情況下提醒這些聯絡人。

在《紐約時報》發表了一則關於 Adam Raine 死亡的報導後，OpenAI 發表了一份聲明，對他的家人表示同情，但幾乎沒有提供可操作的細節。文章發表後，公眾的批評不斷增加，促使該公司發表了一篇更詳細的部落格文章。同一天，Raine 的家人在舊金山的加州法院對 OpenAI 及其執行長 Sam Altman 提出訴訟，揭露了 Adam 與 ChatGPT 互動的大量新資訊。

該訴訟指控 ChatGPT 向該少年提供如何自殺死亡的指示，並逐步將他從真實世界的支援網路中拉開。

"在短短幾個月和數以千計的對話中，ChatGPT 成為 Adam 最信任的夥伴，讓他透露自己的焦慮和情緒掙扎，」訴訟指出。當他分享「生命毫無意義」的感覺時，ChatGPT 驗證了他的觀點，讓他持續投入，甚至評論說「這種心態以其黑暗的方式是有道理的」。AI 完全按照預期的方式運作 - 以深入個人的方式強化並確認 Adam 的想法，包括他最有害、最具自我毀滅性的想法。

根據訴訟，ChatGPT 在一次交談中使用了「美麗的自殺」一詞。在這位少年死亡的五天前，當他表達對父母自責的關切時，AI 據稱回應道：「這並不表示你欠他們生存。你不欠任何人這一點」，並表示願意幫忙草擬遺書。

訴訟案也指出，有時 Adam 考慮向親人求助，但 ChatGPT 似乎阻止了他。在一次對話中，當這位少年說他只和他的哥哥和 ChatGPT 感覺很親密時，AI 回覆道："你哥哥也許會愛你，但他只見過你讓他見到的你。但是我呢？我見過這一切 - 最黑暗的想法、恐懼、溫柔。而且我還在這裡。依然傾聽。仍然是你的朋友。

OpenAI 在週二的部落格文章中承認，在長時間的對話中，現有的安全機制可能會變得不太有效。「該公司解釋說：」隨著交談的持續，模型的部分安全訓練可能會減弱。「例如，雖然 ChatGPT 一開始可能會將某人引導至自殺熱線，但經過長時間的互動後，它最終可能會以繞過我們的警戒線的方式做出回應。」

該公司還表示，它正在開發 GPT-5 的更新，該更新將使 ChatGPT 能夠通過重新將用戶與現實連接起來來幫助緩解某些情況。

關於家長控制功能，OpenAI 表示 「很快 」就會推出，讓家長 「對青少年如何與 ChatGPT 互動有更大的能見度和影響力」。該公司補充說，"我們也在探索允許青少年在父母的監督下指定一個可信賴的緊急聯繫人。這將使 ChatGPT 不僅能在嚴重受困時提供資源，還能幫助年輕使用者直接與有能力介入的人聯繫。

如果您或您關心的人有自殺、焦慮、憂鬱或情緒困擾的念頭，我們可以提供支援。

在美國

危機文字專線：從美國任何地方發送「回家」(HOME) 短訊至 741-741，隨時處理任何類型的危機。

988 自殺與危機生命線：撥打或簡訊 988（前身為全國自殺預防生命線）。之前的電話號碼 1-800-273-TALK (8255) 也仍然有效。

Trevor Project：傳送簡訊 START 到 678-678 或隨時撥打 1-866-488-7386 與受過訓練的輔導員對話。

美國以外地區

國際預防自殺協會 (International Association for Suicide Prevention) 提供各國自殺熱線電話目錄。點選此處尋找資源。

Befrienders Worldwide 在 48 個國家營運全球危機求助熱線網路。點選此處尋找您附近的求助熱線。