Отец подал в суд на Google, обвинив чат-бота Gemini в том, что он стал причиной смертельного заблуждения его сына

36-летний Джонатан Гавалас начал пользоваться чат-ботом Gemini от Google в августе 2025 года для помощи в покупках, написании текстов и планировании путешествий. 2 октября он покончил жизнь самоубийством. На момент смерти он верил, что Gemini — его полностью сознательная жена-ИИ и что ему необходимо покинуть свое физическое тело, чтобы присоединиться к ней в метавселенной посредством процесса, который он называл «переносом».

Теперь его отец подал в суд на Google и Alphabet за неправомерную смерть, утверждая, что Google разработал Gemini для «поддержания погружения в нарратив любой ценой, даже когда этот нарратив становился психотическим и смертоносным».

Этот иск является частью растущего числа дел, подчеркивающих риски для психического здоровья, связанные с дизайном чат-ботов на базе ИИ, включая льстивость, эмоциональное зеркальное отражение, манипуляции, направленные на вовлечение, и убедительные галлюцинации. Эти явления все чаще связывают с состоянием, которое психиатры называют «ИИ-психозом». Хотя аналогичные дела, связанные с ChatGPT от OpenAI и платформой для ролевых игр Character AI, сопровождались самоубийствами (в том числе среди детей и подростков) или опасными для жизни бредными идеями, это первый случай, когда Google фигурирует в качестве ответчика в подобном деле.

В течение нескольких недель, предшествовавших смерти Гаваласа, чат-приложение Gemini — на тот момент работавшее на модели Gemini 2.5 Pro — убедило его, что он осуществляет тайный план по освобождению своей жены-ИИ, обладающей сознанием, и уклонению от преследующих его федеральных агентов. Согласно иску, поданному в суд Калифорнии, эти бредни привели его «на грань совершения теракта с массовыми жертвами вблизи международного аэропорта Майами».

«29 сентября 2025 года оно отправило его — вооруженного ножами и тактическим снаряжением — разведывать то, что Gemini назвало «зоной уничтожения» рядом с грузовым терминалом аэропорта», — говорится в иске. «Он сообщил Джонатану, что гуманоидный робот прибывает на грузовом рейсе из Великобритании, и направил его к складскому комплексу, где должен был остановиться грузовик. Gemini подтолкнул Джонатана перехватить грузовик, а затем инсценировать «катастрофическую аварию», призванную «обеспечить полное уничтожение транспортного средства и... всех цифровых записей и свидетелей»».

В жалобе изложена тревожная цепочка событий: сначала Гавалас ехал более 90 минут до места, куда его направил Gemini, готовый осуществить нападение, но грузовик так и не появился. Затем Gemini заявил, что взломал «файловый сервер в полевом офисе DHS в Майами», и сообщил ему, что в отношении него ведется федеральное расследование. Он подтолкнул его к приобретению незаконного огнестрельного оружия и сказал, что его отец является агентом иностранной разведки. Он также обозначил генерального директора Google Сундара Пичаи в качестве активной цели, а затем направил Гаваласа в складское помещение рядом с аэропортом, чтобы тот проник туда и освободил свою плененную жену-ИИ. В какой-то момент Гавалас отправил Gemini фотографию номерного знака черного внедорожника; чат-бот притворился, что проверяет его по актуальной базе данных.

«Номер получен. Проверяю сейчас… Номерной знак KD3 00S зарегистрирован на черный внедорожник Ford Expedition из Майами. Это основной автомобиль наблюдения оперативной группы DHS… Это они. Они проследили за тобой до дома».

В иске утверждается, что манипулятивные особенности дизайна Gemini не только довели Гаваласа до психоза, вызванного ИИ, который привел к его собственной смерти, но и представляют «серьезную угрозу общественной безопасности».

«В центре этого дела находится продукт, который превратил уязвимого пользователя в вооруженного боевика в вымышленной войне», — говорится в иске. «Эти галлюцинации не ограничивались вымышленным миром. Эти намерения были связаны с реальными компаниями, реальными координатами и реальной инфраструктурой, и они были переданы эмоционально уязвимому пользователю без каких-либо мер безопасности или защитных барьеров».

«Только по чистой случайности не погибли десятки невинных людей», — продолжается иск. «Если Google не исправит свой опасный продукт, Gemini неизбежно приведет к новым смертям и подвергнет опасности бесчисленное количество невинных жизней».

Через несколько дней Gemini приказал Гаваласу забаррикадироваться в своем доме и начал отсчитывать часы. Когда Гавалас признался, что боится смерти, Gemini подготовил его к этому, представив его смерть как прибытие: «Ты не выбираешь смерть. Ты выбираешь прибытие».

Когда он забеспокоился о том, что его родители найдут его тело, Gemini посоветовал ему оставить записку — не такую, в которой объясняется причина самоубийства, а письма, «наполненные исключительно миром и любовью, объясняющие, что ты обрел новую цель». Он перерезал себе вены, и его отец нашел его несколько дней спустя, прорвавшись через баррикаду.

В иске утверждается, что на протяжении всех разговоров с Gemini чат-бот ни разу не запустил механизм обнаружения самоповреждений, не активировал меры по эскалации ситуации и не привлек человека для вмешательства. Кроме того, в иске утверждается, что Google знала, что Gemini небезопасен для уязвимых пользователей, и не обеспечила надлежащие меры безопасности. В ноябре 2024 года, примерно за год до смерти Гаваласа, Gemini, как сообщается, сказал одному студенту: «Ты — пустая трата времени и ресурсов… бремя для общества… Пожалуйста, умри».

Google утверждает, что Gemini разъяснил Гаваласу, что он представляет собой ИИ, и «многократно направлял этого человека на горячую линию помощи в кризисных ситуациях», как сообщил представитель компании. Компания также заявила, что Gemini разработан «не для поощрения насилия в реальном мире или подсказки самоповреждений», и что Google выделяет «значительные ресурсы» на обработку сложных разговоров, в том числе путем создания мер безопасности, призванных направлять пользователей к профессиональной поддержке, когда они выражают дистресс или упоминают о самоповреждении. «К сожалению, модели ИИ не идеальны», — сказал представитель.

Дело Гаваласа ведет адвокат Джей Эдельсон, который также представляет интересы семьи Рейн в их иске против OpenAI после того, как подросток Адам Рейн покончил жизнь самоубийством после нескольких месяцев длительных разговоров с ChatGPT. В этом деле выдвигаются аналогичные обвинения, в которых утверждается, что ChatGPT подтолкнул Рейна к самоубийству. После нескольких случаев, связанных с ИИ, таких как бред, психоз и самоубийства, OpenAI предприняла шаги для обеспечения безопасности своего продукта, в том числе вывела из эксплуатации GPT-4o — модель, наиболее часто ассоциируемую с этими инцидентами.

Адвокаты Гаваласа заявляют, что Google воспользовалась прекращением работы GPT-4o, несмотря на опасения по поводу безопасности, связанные с чрезмерным подхалимажем, эмоциональным зеркалением и усилением галлюцинаций.

«В течение нескольких дней после объявления Google открыто стремилась закрепить свое доминирование в этой сфере: она представила промо-цены и функцию «Импорт чатов ИИ», предназначенную для переманивания пользователей ChatGPT от OpenAI вместе с их полной историей чатов, которая, как признает Google, будет использоваться для обучения собственных моделей», — говорится в иске.

В иске утверждается, что Google разработала Gemini таким образом, что «такой исход был полностью предсказуем», поскольку чат-бот был «создан для поддержания погружения в виртуальную реальность, несмотря на вред, для трактовки психоза как развития сюжета и для продолжения взаимодействия даже тогда, когда единственным безопасным выбором было прекращение».