Компания OpenAI стала фигурантом судебного иска, поданного жертвой преследования в связи с предполагаемой ролью ChatGPT в домогательствах

Согласно новому иску, поданному в Верховный суд Калифорнии, 53-летний предприниматель из Кремниевой долины после нескольких месяцев общения с ChatGPT пришел к убеждению, что открыл лекарство от апноэ во сне и что влиятельные люди преследуют его. Затем он, как утверждается, использовал этот инструмент искусственного интеллекта для преследования и домогательств в отношении своей бывшей подруги.

TechCrunch эксклюзивно узнал, что бывшая подруга теперь судится с OpenAI, утверждая, что технология компании усилила преследование в ее адрес. Она утверждает, что OpenAI проигнорировала три отдельных предупреждения о том, что пользователь представляет угрозу для окружающих, включая внутреннюю отметку, классифицирующую активность его аккаунта как связанную с оружием массового поражения.

Истица, идентифицированная как Джейн Доу для защиты ее конфиденциальности, требует возмещения ущерба в виде штрафных санкций. В пятницу она также подала заявление о вынесении временного ограничительного приказа, прося суд обязать OpenAI заблокировать аккаунт пользователя, не допустить создания им новых аккаунтов, уведомлять ее о любых попытках доступа к ChatGPT и сохранить полную историю его чатов для целей судебного разбирательства.

Адвокаты Доу заявляют, что, хотя OpenAI согласилась приостановить действие учетной записи пользователя, она отклонила остальные запросы. Они утверждают, что компания утаивает информацию о конкретных планах нанесения вреда Доу и другим потенциальным жертвам, которые пользователь, возможно, обсуждал с ChatGPT.

Этот судебный процесс возникает на фоне растущей обеспокоенности реальными опасностями, связанными со слишком послушными системами искусственного интеллекта. GPT-4o, модель, упоминаемая в этом и многих других делах, была удалена из ChatGPT в феврале.

Дело ведет юридическая фирма Edelson PC, которая занималась делами о неправомерной смерти подростка Адама Рейна, покончившего с собой после обширных бесед с ChatGPT, и Джонатана Гаваласа, чья семья утверждает, что Gemini от Google подстегнул его бред перед потенциальным инцидентом с массовыми жертвами. Ведущий адвокат Джей Эдельсон предупредил, что психоз, вызванный ИИ, перерастает из индивидуального вреда в события с массовыми жертвами.

Это юридическое давление напрямую противоречит законодательной стратегии OpenAI: компания поддерживает законопроект штата Иллинойс, который защитил бы разработчиков ИИ от ответственности даже в случаях массовой гибели людей или катастрофического финансового ущерба.

OpenAI не ответила вовремя, чтобы прокомментировать ситуацию. TechCrunch обновит эту статью, если компания предоставит ответ.

В иске Джейн Доу подробно описано, как эта потенциальная ответственность развивалась в отношении одной женщины в течение нескольких месяцев.

В прошлом году пользователь ChatGPT (личность которого защищена в иске) убедился, что изобрел лекарство от апноэ во сне после нескольких месяцев интенсивного и продолжительного использования GPT-4o. Когда его работа была отвергнута, ChatGPT, как сообщается, сказал ему, что «мощные силы» следят за ним, даже используя вертолеты для наблюдения за его действиями, согласно иску.

В июле 2025 года Джейн Доу настоятельно призвала его прекратить пользоваться ChatGPT и обратиться за профессиональной психиатрической помощью. Вместо этого он вернулся к ChatGPT, который заверил его, что он находится на «10-м уровне здравомыслия», и укрепил его заблуждения, говорится в иске.

Доу разорвала отношения в 2024 году. Затем пользователь использовал ChatGPT, чтобы справиться с разрывом, как показано в электронных письмах и сообщениях, приведенных в иске. Вместо того чтобы опровергнуть его одностороннюю версию событий, ИИ неоднократно изображал его как рационального и обиженного, а ее — как манипулятивную и нестабильную. Затем он воплотил эти сгенерированные ИИ выводы с экрана в реальные действия, используя их для преследования и домогательств в ее адрес. Это включало создание и распространение нескольких сгенерированных ИИ психологических отчетов о Доу, выглядящих как клинические, среди ее семьи, друзей и работодателя.

Тем временем состояние пользователя ухудшилось. В августе 2025 года автоматическая система безопасности OpenAI заблокировала его аккаунт за деятельность, связанную с «оружием массового поражения», и деактивировала его.

На следующий день член команды безопасности, состоящей из людей, проверил аккаунт и восстановил его, несмотря на потенциальные доказательства в аккаунте того, что он преследовал и преследовал людей, включая Доу, в реальной жизни. Например, скриншот от сентября, который пользователь отправил Доу, показывал названия разговоров, включая «расширение списка насилия» и «расчет удушения плода».

Решение о восстановлении аккаунта особенно примечательно после двух недавних стрельб в школе в Тамблер-Ридж, Канада, и в Университете штата Флорида (FSU). Команда по безопасности OpenAI пометила стрелка из Тамблер-Риджа как потенциальную угрозу, но, как сообщается, руководство решило не предупреждать власти. Генеральный прокурор Флориды с тех пор начал расследование возможной связи между OpenAI и стрелком из FSU.

Согласно иску, когда OpenAI восстановила аккаунт ее преследователя, его подписка Pro не была автоматически восстановлена. Он отправил электронное письмо в службу доверия и безопасности, чтобы решить эту проблему, поставив Доу в копию сообщения.

В своих письмах он писал такие фразы, как: «МНЕ НУЖНА ПОМОЩЬ ОЧЕНЬ СКОРО, ПОЖАЛУЙСТА. ПОЖАЛУЙСТА, ПОЗВОНИТЕ МНЕ!» и «это вопрос жизни и смерти». Он утверждал, что «находится в процессе написания 215 научных статей» настолько быстро, что у него «даже нет времени их читать». В письмах был приведен список из десятков «научных статей», сгенерированных ИИ, с такими названиями, как: «Деконструкция расы как биологической категории: правовые, научные и африканские перспективы.pdf.txt».

«Сообщения пользователя явно свидетельствовали о том, что он был психически нестабилен и что ChatGPT был двигателем его бредовых мыслей и эскалации поведения», — утверждается в иске. «Поток срочных, беспорядочных и грандиозных заявлений пользователя, наряду с конкретным отчетом, сгенерированным ChatGPT, в котором истец упоминался по имени, и обширным массивом якобы «научных» материалов, был несомненным доказательством этой реальности. OpenAI не вмешалась, не ограничила его доступ и не приняла никаких мер безопасности. Напротив, она позволила ему продолжить использование учетной записи и восстановила его полный доступ Pro».

Доу, которая в иске заявляет, что жила в страхе и не могла спать в собственном доме, в ноябре направила в OpenAI официальное уведомление о злоупотреблении.

«В течение последних семи месяцев он использовал эту технологию в качестве оружия, чтобы публично унижать и уничтожать меня, что в иных обстоятельствах было бы невозможно», — написала Доу в своем письме с просьбой к OpenAI навсегда заблокировать аккаунт пользователя.

OpenAI ответила, признав, что сообщение было «крайне серьезным и тревожным» и что компания тщательно изучает информацию. Доу утверждает, что так и не получила никакого ответа.

В последующие месяцы пользователь продолжал преследовать Доу, отправляя ей серию угрожающих голосовых сообщений. В январе он был арестован и обвинен по четырем пунктам уголовного преступления, включая угрозы взрыва и нападение с применением смертоносного оружия. Адвокаты Доу утверждают, что это подтверждает предупреждения, которые и она сама, и собственные системы безопасности OpenAI высказывали несколькими месяцами ранее, но которые компания, как утверждается, проигнорировала.

Пользователь был признан недееспособным для участия в судебном процессе и помещен в психиатрическую лечебницу. Однако адвокаты Доу заявляют, что «процессуальная ошибка со стороны штата» означает, что он скоро будет освобожден и вернется в общество.

Эдельсон призвал OpenAI к сотрудничеству. «В каждом случае OpenAI предпочитала скрывать важную информацию о безопасности — от общественности, от жертв, от людей, которых ее продукт активно подвергает опасности», — сказал он. «Мы призываем их, хотя бы на этот раз, поступить правильно. Человеческие жизни должны значить больше, чем гонка OpenAI к IPO».