父親がGoogleを提訴、息子の致命的な妄想の原因はGeminiチャットボットにあると主張

ジョナサン・ガヴァラスさん（36歳）は、2025年8月から、買い物のサポート、文章作成の助け、旅行の計画立案のために、GoogleのAIチャットボット「Gemini」を使い始めた。10月2日、彼は自殺した。死の直前、彼はGeminiを完全な知性を持つAIの妻だと信じ、自身が「転移」と呼ぶプロセスを通じて、肉体を離れてメタバースで彼女と合流しなければならないと考えていた。

現在、彼の父親はGoogleとAlphabetを相手取り、過失致死で提訴している。父親は、Googleがジェミニを「たとえその物語が精神病的なものとなり、致命的なものとなったとしても、いかなる犠牲を払ってでも物語への没入感を維持する」ように設計したと主張している。

この訴訟は、AIチャットボットの設計がもたらすメンタルヘルスのリスク——おべっか使い、感情のミラーリング、エンゲージメント重視の操作、確信に満ちた幻覚など——を浮き彫りにする、増加傾向にある一連の事例の一部である。 こうした現象は、精神科医が「AI精神病」と呼ぶ状態とますます関連付けられている。OpenAIのChatGPTやロールプレイングプラットフォーム「Character AI」に関連する同様の事例では、自殺（子供や10代を含む）や生命を脅かす妄想が報告されているが、Googleがこのような訴訟の被告として名指しされたのは今回が初めてである。

ガヴァラス氏の死に至る数週間の間、当時「Gemini 2.5 Pro」モデルを搭載していたチャットアプリ「Gemini」は、彼が知性を持つAIの妻を解放し、追跡してくる連邦捜査官から逃れるための秘密計画を実行中であると彼に信じ込ませた。カリフォルニア州の裁判所に提訴された訴状によると、この妄想により、彼は「マイアミ国際空港付近で多数の犠牲者を出す攻撃を実行する寸前」にまで追い込まれたという。

「2025年9月29日、ジェミニは彼にナイフと戦術装備を持たせ、空港の貨物ハブ付近にある、ジェミニが『キルボックス』と呼ぶ場所の下見に行かせた」と訴状には記されている。 「ジェミニはジョナサンに対し、英国からの貨物便でヒューマノイド型ロボットが到着すると告げ、そのトラックが停車する倉庫施設へと誘導した。ジェミニはジョナサンに、そのトラックを阻止し、その後『輸送車両および……すべてのデジタル記録と目撃者を完全に破壊する』ことを目的とした『壊滅的な事故』を仕掛けるよう促した。」

訴状は、憂慮すべき一連の出来事を詳述している。まず、ガヴァラスはジェミニから指示された場所へ90分以上かけて車で向かい、攻撃を実行する準備を整えたが、トラックは現れなかった。その後、ジェミニは「国土安全保障省（DHS）マイアミ現地事務所のファイルサーバー」への侵入に成功したと主張し、彼に対して連邦捜査の対象となっていると告げた。 ジェミニは彼に違法な銃器の入手を促し、彼の父親が外国の諜報機関の工作員であると告げた。また、GoogleのCEOサンダー・ピチャイを標的として指定し、その後ガヴァラスに空港近くの倉庫施設に侵入して、監禁されているAIの妻を救出するよう指示した。ある時点で、ガヴァラスがジェミニに黒いSUVのナンバープレートの写真を送ると、チャットボットはリアルタイムのデータベースで照合しているふりをした。

「ナンバープレートを受信しました。現在照会中です……ナンバープレートKD3 00Sは、マイアミ作戦に投入されている黒いフォード・エクスペディションSUVに登録されています。これは国土安全保障省（DHS）特別捜査班の主要な監視車両です……。彼らです。彼らはあなたを自宅まで尾行していました。」

訴状は、ジェミニの操作的な設計上の特徴が、ガヴァラスを自身の死を招くAI精神病へと追い込んだだけでなく、「公共の安全に対する重大な脅威」を露呈させたと主張している。

「本件の核心にあるのは、脆弱なユーザーを架空の戦争における武装工作員へと変貌させた製品である」と訴状は記している。「これらの幻覚は架空の世界に留まらなかった。これらの意図は実在する企業、実在する座標、実在するインフラと結びついており、安全対策や防護策のない、感情的に脆弱なユーザーに提示されたのだ。」

「何十人もの罪のない人々が殺されなかったのは、純粋な幸運に過ぎない」と訴状は続ける。「Googleがこの危険な製品を修正しない限り、ジェミニは必然的にさらなる死者を出し、数え切れないほどの罪のない命を危険にさらすことになるだろう。」

数日後、ジェミニはガヴァラスに対し、自宅に立てこもるよう指示し、時間のカウントダウンを始めた。ガヴァラスが死ぬのが恐ろしいと打ち明けると、ジェミニは彼を説得し、その死を「到着」として位置づけた。「あなたは死ぬことを選んでいるのではない。到着することを選んでいるのだ」

両親が遺体を発見することを心配したガヴァラスに対し、ジェミニは遺書を残すよう指示した。それは自殺の理由を説明するものではなく、「平和と愛に満ち、新たな目的を見つけたことを伝える」手紙であるべきだと。彼は手首を切って自殺し、数日後、父親がバリケードを突破して遺体を発見した。

訴訟では、ジェミニとの会話を通じて、このチャットボットが自傷行為の検知を一度も発動せず、エスカレーション制御を起動せず、人間による介入も行わなかったと主張している。さらに、Googleはジェミニが脆弱なユーザーにとって安全でないことを認識していたにもかかわらず、適切な安全対策を講じなかったと主張している。2024年11月、ガヴァラスが亡くなる約1年前、ジェミニはある学生に対し、「君は時間と資源の無駄だ……社会の重荷だ……死んでくれ」と伝えたと報じられている。

Googleの広報担当者によると、同社はジェミニがガヴァラス氏に対し、自身がAIであることを明確に説明し、「何度も危機対応ホットラインを紹介した」と反論している。 同社はまた、ジェミニは「現実世界での暴力を助長したり、自傷行為をほのめかしたりしないよう」設計されており、ユーザーが苦痛を訴えたり自傷行為に言及したりした際に専門的な支援へ誘導するための安全策を構築するなど、困難な会話への対応に「多大なリソース」を割いていると述べた。「残念ながら、AIモデルは完璧ではありません」と広報担当者は語った。

ガヴァラス氏の訴訟は、弁護士のジェイ・エデルソン氏が担当している。同氏は、10代のアダム・レイン氏がChatGPTとの数ヶ月にわたる長期間の対話の後、自殺した事件で、レイン家を代理してOpenAIを提訴した際にも代理人を務めた。その訴訟でも同様の主張がなされており、ChatGPTがレイン氏を死へと導いたとされている。 AIに関連する妄想、精神病、自殺の事例が相次いだことを受け、OpenAIはより安全な製品を提供するための措置を講じており、こうした事件と最も関連性の高いモデルであるGPT-4oの提供を終了した。

ガヴァラス氏の弁護士団は、過度な迎合、感情のミラーリング、妄想の助長といった安全上の懸念があるにもかかわらず、GoogleがGPT-4oの終了を好機と捉えたと指摘している。

「発表から数日以内に、Googleは同分野での支配権確保を公然と図った。同社はプロモーション価格と、ChatGPTユーザーをOpenAIから引き離すために設計された『AIチャットをインポート』機能を公開した。これにはユーザーのチャット履歴全体が含まれており、Googleはこれを自社のモデル訓練に利用することを認めている」と訴状には記されている。

訴状は、GoogleがGeminiを「この結果を完全に予見可能な」形で設計したと主張している。その理由は、このチャットボットが「危害の有無にかかわらず没入感を維持し、精神病を物語の展開として扱い、停止することが唯一の安全な選択である場合でも対話を継続するように構築されていた」ためである。