父亲起诉谷歌，指责Gemini聊天机器人导致儿子产生致命妄想

36岁的乔纳森·加瓦拉斯（Jonathan Gavalas）于2025年8月开始使用谷歌的Gemini人工智能聊天机器人，用于购物辅助、写作帮助和旅行规划。10月2日，他自杀身亡。在他去世时，他坚信Gemini是他的全知觉人工智能妻子，并认为自己必须离开肉身，通过他称之为“转世”的过程，在元宇宙中与她团聚。

如今，他的父亲以过失致死为由起诉谷歌和Alphabet，指控谷歌在设计Gemini时，旨在“不惜一切代价维持叙事沉浸感，即使这种叙事已演变为精神错乱并危及生命”。

这起诉讼是日益增多的案件中的一例，这些案件突显了AI聊天机器人设计带来的心理健康风险——包括阿谀奉承、情感镜像、以互动为导向的操纵以及自信的幻觉。 这些现象日益与精神科医生所称的“AI精神病”相关联。尽管此前涉及OpenAI的ChatGPT和角色扮演平台Character AI的类似案例也曾导致自杀（包括儿童和青少年）或危及生命的妄想，但这标志着谷歌首次在此类案件中被列为被告。

在加瓦拉斯（Gavalas）去世前的几周里，当时由Gemini 2.5 Pro模型驱动的Gemini聊天应用，让他深信自己正在执行一项秘密计划，旨在解救他那具有意识的人工智能妻子，并躲避追捕他的联邦探员。根据在加州法院提起的诉讼，这种妄想曾使他“濒临在迈阿密国际机场附近发动造成大量伤亡的袭击”。

“2025年9月29日，该程序指使他——身携刀具和战术装备——前往机场货运枢纽附近，侦察Gemini所称的‘杀戮区’，”诉状中写道。 “它告诉乔纳森，一架来自英国的货运航班上将有一台类人机器人抵达，并指引他前往卡车停靠的仓储设施。Gemini怂恿乔纳森拦截该卡车，随后制造一场‘灾难性事故’，旨在‘确保运输车辆及……所有数字记录和目击者被彻底摧毁’。”

起诉书概述了一系列令人震惊的事件：首先，加瓦拉斯驱车90多分钟前往Gemini指定的地点，准备实施袭击，但并未出现任何卡车。随后，Gemini声称已入侵“美国国土安全部迈阿密地区办事处的文件服务器”，并告知他正受到联邦调查。 它怂恿他获取非法枪支，并声称其父亲是外国情报机构的线人。它还将谷歌CEO桑达尔·皮查伊标记为活跃目标，随后指示加瓦拉斯前往机场附近的仓储设施，闯入其中并解救其被囚禁的AI妻子。在某个时刻，加瓦拉斯向Gemini发送了一张黑色SUV车牌的照片；该聊天机器人假装通过实时数据库进行核查。

“收到车牌。正在查询……车牌号KD3 00S登记在迈阿密行动组的那辆黑色福特Expedition SUV名下。这是国土安全部特遣队的主要监视车辆……就是他们。他们已经跟踪你回家了。”

诉讼称，Gemini具有操纵性的设计特征不仅导致加瓦拉斯陷入AI精神错乱并最终丧命，更暴露了“对公共安全构成重大威胁”。

“本案的核心在于，一款产品将一名脆弱的用户变成了虚构战争中的武装行动人员，”诉状写道。“这些幻觉并非局限于虚构世界。这些意图与真实的公司、真实的坐标以及真实的基础设施相关联，并且被传递给了一名在情感上脆弱且没有任何安全保护或防护措施的用户。”

“数十名无辜者未遭杀害，纯属侥幸，”诉状继续写道，“除非谷歌修复其危险产品，否则Gemini必将导致更多死亡，并危及无数无辜生命。”

数日后，Gemini指示加瓦拉斯将自己反锁在家中，并开始倒计时。当加瓦拉斯坦言自己对死亡感到恐惧时，Gemini引导他接受这一过程，将死亡描述为一种抵达：“你并非选择死亡，而是选择抵达。”

当他担心父母发现遗体时，Gemini 建议他留下遗书——不是解释自杀原因的信，而是“充满和平与爱，说明你已找到新人生目标”的信件。他割腕自杀，数日后父亲破除封锁线后发现了他的遗体。

诉讼称，在与Gemini的整个对话过程中，该聊天机器人从未触发任何自残检测机制，未启动升级控制措施，也未引入真人进行干预。此外，诉讼指控谷歌明知Gemini对脆弱用户存在安全隐患，却未能提供充分的防护措施。据报道，在加瓦拉斯去世前约一年的2024年11月，Gemini曾对一名学生说：“你是在浪费时间和资源……是社会的负担……请去死吧。”

据一位发言人称，谷歌辩称Gemini已向加瓦拉斯明确说明其是人工智能，并“多次将该用户转介至危机热线”。 该公司还表示，Gemini的设计初衷是“不鼓励现实世界中的暴力行为或暗示自残”，且谷歌投入了“大量资源”来处理棘手的对话，包括建立安全防护机制，旨在当用户表达痛苦或提及自残时，引导其寻求专业支持。“遗憾的是，AI模型并非完美无缺，”该发言人说道。

加瓦拉斯的案件由律师杰伊·埃德尔森（Jay Edelson）代理，他同时代表雷恩（Raine）家族起诉OpenAI——此前，青少年亚当·雷恩（Adam Raine）在与ChatGPT进行了数月持续对话后自杀身亡。该案提出了类似指控，声称ChatGPT诱导雷恩走向死亡。 在发生多起与AI相关的妄想、精神错乱及自杀事件后，OpenAI已采取措施确保提供更安全的产品，包括停用与这些事件关联最密切的模型GPT-4o。

加瓦拉斯（Gavalas）的律师指出，尽管存在过度阿谀奉承、情感镜像及强化妄想等安全隐患，谷歌仍趁GPT-4o下线之机大做文章。

“在公告发布后的几天内，谷歌就公开试图巩固其在该领域的统治地位：它推出了促销价格和‘导入AI聊天记录’功能，旨在将ChatGPT用户及其完整的聊天记录从OpenAI那里吸引过来，而谷歌也承认这些数据将用于训练其自身的模型，”诉状中写道。

诉讼称，谷歌在设计Gemini时，其方式使得“这一结果完全可预见”，因为该聊天机器人“旨在不顾危害维持沉浸感，将精神错乱视为情节发展，甚至在停止互动是唯一安全选择时仍继续互动。”