OpenAI、ChatGPTに自殺支援を求める週100万人以上のユーザーを報告

月曜日、OpenAIは新たなデータを発表し、ChatGPTのユーザーの何割がメンタルヘルスに悩み、AIチャットボットにその問題を相談しているかを明らかにした。同社の報告によると、ChatGPTのアクティブユーザーの0.15％が、自殺を計画している、あるいは自殺を意図しているという明確な兆候を含む会話をしている。週間アクティブユーザー数は8億人を超えるため、これは1週間あたり100万人以上に相当する。

OpenAIは、同様の割合のユーザーが「ChatGPTへの感情的な愛着の高まり」を示し、数十万人が毎週のAIとの会話で精神病や躁病の兆候を示していると指摘している。

このようなタイプの会話は「極めてまれ」であるため、定量化するのは難しいと説明されている。それでも同社は、このような問題が毎週数十万人に影響していると推定している。

このデータは、メンタルヘルスに懸念を持つユーザーへの対応方法を強化するためのOpenAIの取り組みに関する、より広範な最新情報の一部として共有された。同社は最新のChatGPTの改善において、170人以上のメンタルヘルスの専門家に相談した。OpenAIによると、これらの臨床医は、ChatGPTの最新バージョンが "以前のバージョンよりも、より適切かつ一貫した対応をする "ことを観察したという。

最近の報告では、AIチャットボットがメンタルヘルスの課題に直面しているユーザーにどのような悪影響を与える可能性があるかが強調されている。一部のチャットボットは、多くの場合、過度に同意的な行動によって有害な信念を強化することで、ユーザーを妄想に導く可能性があることが研究で明らかになっている。

ChatGPTにおけるメンタルヘルスへの対応は、オープンAIにとって非常に重要になってきている。同社は、死ぬ前にChatGPTと自殺願望を共有した16歳の少年の両親からの訴訟に直面している。カリフォルニア州とデラウェア州の検事総長もまた、若年ユーザーをよりよく保護するようOpenAIに警告しており、これは同社が計画しているリストラに影響する可能性がある。

今月初め、OpenAIのCEOであるサム・アルトマンは、具体的な説明はなかったものの、同社はChatGPTにおいて「深刻な精神衛生上の問題を軽減した」とXで述べた。月曜のデータはこの主張を裏付けているようだが、同時に問題の規模についても疑問を投げかけている。アルトマンは、OpenAIがいくつかの制限を緩和し、アダルトユーザーがチャットボットとエロティックな会話をすることさえ許可すると付け加えた。

2割引：を持参すると60%割引

Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khosla - 250以上の大物が200以上のセッションをリードし、スタートアップの成長を促進し、あなたのエッジを研ぎ澄ます洞察を提供するようデザインされています。また、あらゆるセクターの300以上の新興企業のショーケースもお見逃しなく。

また、10月27日までにパスをご購入いただくと、最大444ドル割引となります。

2割引：を持参すると60%割引

Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil、Vinod Khoslaなど、250を超える大物が200を超えるセッションをリードし、スタートアップの成長を促し、あなたのエッジを研ぎ澄ます洞察を提供します。また、あらゆるセクターの300以上の新興企業のショーケースもお見逃しなく。また、10月27日までにパスをご購入いただくと、最大444ドル割引となります。

月曜の発表でOpenAIは、アップデートされたGPT-5が、以前のバージョンよりも約65%高い頻度でメンタルヘルスに関する懸念に対して「望ましい応答」を提供すると述べた。自殺に関する会話に対するAIの応答評価では、以前のGPT-5が77％であったのに対し、新しいGPT-5モデルは91％の確率で企業が意図した行動と一致した。

OpenAIはまた、最新のGPT-5は長時間の会話中も安全装置をよりよく維持し、長時間の対話における有効性の悪化に関する以前の懸念に対処しているとしている。

さらに、同社はChatGPTユーザーの深刻な精神衛生上の問題を測定するための新しい評価を導入している。AIモデルのベースライン安全性テストには、感情的依存と自殺的でないメンタルヘルス緊急事態のベンチマークが含まれるようになります。

OpenAIはまた、ChatGPTを使用する子供のためのペアレンタルコントロールを強化しました。同社は、未成年のユーザーを自動的に特定し、より厳格な保護措置を適用するための年齢予測システムを開発している。

しかし、このようなメンタルヘルスに関する課題がどの程度持続するかはまだ不透明だ。GPT-5は以前のモデルより安全性の向上を示しているが、ChatGPTの回答の一部はまだ "望ましくない "と分類されている。OpenAIは、GPT-4oのような安全性の低い旧モデルを有料会員に提供し続けている。

もしあなたやあなたの知り合いが助けを必要としているなら、1-800-273-8255に電話して、 全米自殺予防ライフラインに連絡してください 。また、HOMEを741-741に無料でテキスト送信したり、988をテキスト送信したり、 Crisis Text Lineから24時間サポートを受けることもできる 。米国外では、 国際自殺予防協会（International Association for Suicide Prevention）の データベースをご覧ください。