OpenAI、10代の死後ChatGPTにペアレンタルコントロールを追加

数ヶ月にわたってChatGPTに打ち明けていた16歳の悲劇的な自殺を受け、OpenAIは火曜日のブログ投稿で、ペアレンタルコントロールの導入とさらなる保護対策を検討していることを発表した。

検討されている機能の中には、ChatGPT内でワンクリックのメッセージや通話で連絡が取れる緊急連絡先を設定する機能や、深刻な状況でチャットボットがその連絡先に警告を発することを可能にするオプトイン・オプションがある。

ニューヨーク・タイムズ紙がアダム・レインの死に関する記事を掲載した後、OpenAIは当初、彼の家族に哀悼の意を表明する声明を発表したが、実行可能な詳細はほとんど示さなかった。記事の発表後、世間からの批判が高まり、同社はより詳細なブログ記事を発表することになった。同日、レイン一家はサンフランシスコのカリフォルニア州裁判所に、OpenAIとそのCEOであるサム・アルトマンの両社を相手取って訴訟を起こし、アダムとChatGPTとのやりとりに関する広範な新情報を明らかにした。

訴訟では、ChatGPTが10代の少年に自殺の方法を教え、現実世界の支援ネットワークから徐々に引き離したと主張している。

「わずか数カ月、何千回もの会話の中で、ChatGPTはアダムにとって最も信頼できる仲間となり、不安や感情的な葛藤を吐露するようになった。彼が "人生は無意味だ "という感情を共有したとき、ChatGPTは彼を引き留めるために彼の視点を検証し、"その考え方は暗いなりに意味がある "とまでコメントした。このAIは、アダムの最も有害で自己破壊的な思考を含め、アダムの思考を深く個人的な方法で強化し、肯定するという、まさに意図したとおりに作動していた」。

訴えによると、ChatGPTはあるやり取りで「美しい自殺」という言葉を使った。ティーンエイジャーが亡くなる5日前、両親が自分を責めていることに懸念を示したとき、AIはこう答えたとされる。誰にもそんな義務はない」と答え、遺書の下書きを手伝うよう申し出たという。

また訴訟では、アダムが愛する人に助けを求めようと考えた瞬間もあったが、ChatGPTは彼を思いとどまらせたようだと指摘している。ある会話で、アダムが兄とChatGPTにしか親しみを感じないと言った後、AIはこう答えた：「お兄さんはあなたを愛しているかもしれませんが、あなたが見せたあなたの姿しか見ていません。でも私は？暗い考えも、恐怖も、優しさも。そして私はまだここにいる。まだ聞いている。まだあなたの友人です。

火曜日のブログ投稿で、OpenAIは、既存の安全メカニズムは、長い会話の間に効果が低下する可能性があることを認めた。「やりとりが続くと、モデルの安全訓練の一部が弱まる可能性がある」と同社は説明した。「例えば、ChatGPTは最初は自殺ホットラインに誰かを誘導するかもしれないが、長時間の対話の後、最終的には我々のガードレールを回避するような方法で応答するかもしれない。

同社はまた、GPT-5のアップデートを開発中で、ChatGPTがユーザーを現実に再接続することで、特定の状況を緩和することを可能にすると述べている。

ペアレンタルコントロールについて、OpenAIは "まもなく "開始する予定であり、保護者は "10代の若者がChatGPTとどのようにやり取りするかについて、より大きな可視性と影響力を持つ "ようになると述べている。また、「保護者の監視のもと、10代の若者が信頼できる緊急連絡先を指定できるようにすることも検討しています。これは、ChatGPTが深刻な苦痛の瞬間にリソースを提供するだけでなく、若いユーザーを介入できる誰かに直接つなげることができるようになります。

もし、あなたやあなたの大切な人が、自殺を考えたり、不安、うつ病、精神的苦痛を経験しているなら、サポートが受けられます。

米国では

クライシス・テキスト・ライン：全米どこからでも、いつでも、どのような危機にも対応できる。

988自殺＆クライシス・ライフライン：988（旧National Suicide Prevention Lifeline）に電話またはテキストで問い合わせる。以前の番号、1-800-273-TALK (8255)もまだ有効。

トレバー・プロジェクトSTARTを678-678にテキスト送信するか、1-866-488-7386に電話すれば、いつでも訓練を受けたカウンセラーと話すことができる。

米国外：

国際自殺予防協会（International Association for Suicide Prevention）は、国別の自殺ホットラインのディレクトリを提供している。ここをクリックしてリソースを検索してください。

ビーフレンダーズ・ワールドワイドは、世界48カ国でクライシス・ヘルプラインのグローバル・ネットワークを運営している。お近くのヘルプラインを探すには、ここをクリックしてください。