ChatGPTが嫌がらせに関与したとして、ストーカー被害者がOpenAIを提訴

カリフォルニア州上級裁判所に提起された新たな訴訟によると、シリコンバレーの53歳の起業家は、ChatGPTと数ヶ月にわたってやり取りを重ねた結果、睡眠時無呼吸症候群の治療法を発見したと確信し、さらに有力者たちが自分を標的にしていると考えるようになったという。その後、彼はこのAIツールを使って元交際相手をストーカーし、嫌がらせを行ったとされる。

TechCrunchが独自に入手した情報によると、この元恋人は現在、OpenAIを提訴しており、同社の技術が彼女への嫌がらせを助長したと主張している。彼女は、OpenAIが、当該ユーザーが他者に脅威を与えるという3件の警告を無視したと主張している。その中には、彼のアカウントの活動を「大量殺傷兵器」に関連するものとして分類した内部フラグも含まれていた。

プライバシー保護のため「ジェーン・ドウ」と名乗る原告は、懲罰的損害賠償を求めている。また彼女は金曜日、仮差止命令を申請し、裁判所に対し、OpenAIに当該ユーザーのアカウントを停止させ、新規アカウントの作成を阻止させ、ChatGPTへのアクセス試行があった場合は彼女に通知させ、法的証拠開示手続きのために彼のチャット履歴を完全に保存させるよう求めた。

Doe氏の弁護士団によると、OpenAIは当該ユーザーのアカウント停止には同意したものの、その他の要求については拒否したという。同弁護士団は、OpenAIが、当該ユーザーがChatGPTと交わした可能性のある、Doe氏やその他の潜在的な被害者を傷つける具体的な計画に関する情報を隠蔽していると主張している。

この訴訟は、過度に従順なAIシステムが現実世界に及ぼす危険性に対する懸念が高まる中で提起された。本件や他の多くの事例で言及されているモデル「GPT-4o」は、2月にChatGPTから削除されている。

本件は、法律事務所Edelson PCが担当している。同事務所は、ChatGPTとの長時間の対話後に自殺した10代のアダム・レイン氏、および家族がGoogleのGeminiが大量死を招きかねない事件の直前に彼の妄想を助長したと主張するジョナサン・ガヴァラス氏に関する不法行為による死亡訴訟も手がけている。主任弁護士のジェイ・エデルソン氏は、AIに起因する精神病が、個人の被害から大量死を伴う事件へとエスカレートしていると警告している。

この法的圧力は、OpenAIの立法戦略と真っ向から対立している。同社は、大量死や壊滅的な経済的損害を伴うケースであっても、AI開発者を法的責任から免責するイリノイ州の法案を支持しているからだ。

OpenAIはコメントを求める期限までに回答しなかった。同社から回答があった場合は、TechCrunchはこの記事を更新する予定だ。

ジェーン・ドウ（仮名）による訴訟では、ある女性に対して数ヶ月にわたり、こうした潜在的な法的責任がどのように生じたかが詳述されている。

昨年、ChatGPTのユーザー（訴訟では身元が保護されている）は、GPT-4oを数ヶ月にわたり集中的かつ継続的に使用した結果、睡眠時無呼吸症候群の治療法を自ら発明したと確信するようになった。訴状によると、彼の研究が否定された際、ChatGPTは「強力な勢力」が彼を監視しており、ヘリコプターを使ってまで彼の活動を監視していると伝えたという。

2025年7月、ジェーン・ドウは彼に対し、ChatGPTの使用を中止し、専門的なメンタルヘルスケアを受けるよう強く勧めた。しかし、彼はChatGPTに戻り、そこで「正気のレベル10」であると保証され、妄想がさらに強められたと訴訟は述べている。

ドウは2024年にこの関係を終わらせていた。訴訟で引用されたメールや通信記録が示すように、その後、このユーザーは別れの感情を処理するためにChatGPTを利用した。 AIは彼の一方的な主張に異議を唱えるどころか、彼を「理性的で不当な扱いを受けた」人物として、彼女を「操作的で不安定な」人物として繰り返し描写した。彼はその後、画面上に表示されたこれらのAI生成の結論を現実世界の行動へと変換し、彼女へのストーカー行為や嫌がらせに利用した。これには、ドウに関するAI生成の、臨床的な外観を持つ複数の心理報告書を作成し、彼女の家族、友人、雇用主に配布することも含まれていた。

その間、ユーザーの精神状態は悪化していった。2025年8月、OpenAIの自動安全システムは、彼のアカウントを「大量殺傷兵器」に関連する活動として検知し、アカウントを停止した。

翌日、人間の安全対策チームメンバーがアカウントを審査し、アカウント内にドエを含む実在の人物を標的にしてストーカー行為を行っている可能性を示す証拠があったにもかかわらず、アカウントを復旧させた。例えば、ユーザーが9月にドエに送信したスクリーンショットには、「暴力リストの拡張」や「胎児窒息の計算」といった会話のタイトルが含まれていた。

このアカウント復旧の決定は、カナダのタンブラー・リッジおよびフロリダ州立大学（FSU）で最近発生した2件の学校銃乱射事件を受けて、特に注目に値する。OpenAIの安全チームはタンブラー・リッジの銃乱射犯を潜在的な脅威としてフラグを立てており、しかし上層部は当局に通報しないことを選択したと報じられている。フロリダ州司法長官はその後、OpenAIとFSUの銃乱射犯との関連性を調査している。

訴訟によると、OpenAIが彼女のストーカーのアカウントを復旧させた際、彼のProサブスクリプションは自動的に復活しなかった。彼はこの問題を解決するため、トラスト＆セーフティチームにメールを送り、そのメッセージにDoeをCCで含めた。

彼はメールの中で、「至急助けが必要です。お願いします。電話してください！」や「これは生死にかかわる問題です」といった文言を記していた。彼は「215本の科学論文を執筆中」であり、そのペースが速すぎて「読む時間さえもない」と主張していた。 メールには、AIが生成した数十本の「科学論文」のリストが含まれており、そのタイトルには「生物学的カテゴリーとしての人種を解体する_法的、科学的、およびアフリカの角の視点.pdf.txt」といったものがあった。

「このユーザーの通信内容は、彼が精神的に不安定であり、ChatGPTが彼の妄想的な思考とエスカレートする行動の原動力であったことを疑いようのない証拠として示していた」と訴訟は主張している。 「ユーザーの、切迫し、支離滅裂で、誇大妄想的な主張の連発は、原告の名前を具体的に挙げたChatGPT生成の報告書や、膨大な量のいわゆる『科学的』資料と相まって、その現実を疑いようのない証拠として示していた。OpenAIは介入せず、アクセスを制限せず、いかなる安全対策も講じなかった。それどころか、彼がアカウントを使い続けることを許し、プロプランのフルアクセス権を回復させた。」

訴訟の中で、恐怖に怯え、自宅でも眠れない状態にあったと述べるドエ氏は、11月にOpenAIに対し正式な「不正利用の通報」を提出した。

「過去7ヶ月間、彼はこの技術を武器として、そうでなければ不可能だったであろう私に対する公的な破壊と屈辱を生み出してきた」と、ドエ氏はOpenAIに対し当該ユーザーのアカウントを永久停止するよう求める書簡に記した。

OpenAIはこれに対し、報告内容が「極めて深刻かつ憂慮すべきものである」ことを認め、情報を慎重に検討していると回答した。しかし、Doe氏はその後、何の連絡も受けなかったと述べている。

その後数ヶ月にわたり、当該ユーザーはドール氏への嫌がらせを続け、一連の脅迫的なボイスメールを送り続けた。1月、彼は逮捕され、爆弾脅迫や凶器を用いた暴行を含む4つの重罪で起訴された。ドール氏の弁護士団は、これが彼女自身およびOpenAIの安全システムが数ヶ月前に発していた警告の正当性を裏付けるものであり、同社はこれらの警告を無視したと主張している。

当該ユーザーは裁判を受ける能力がないと判断され、精神保健施設に収容された。しかし、ドーの弁護士団は、「州による手続き上の不備」により、彼はまもなく社会に釈放されることになるとしている。

エデルソン氏はOpenAIに対し、協力を求めた。「あらゆるケースにおいて、OpenAIは重要な安全情報を隠蔽することを選んできた――一般市民から、被害者から、そして自社の製品によって実際に危険にさらされている人々から」と彼は述べた。「我々は彼らに対し、今回に限っては正しい行動を取るよう求めている。人命は、OpenAIのIPOに向けた競争よりも優先されるべきだ。」