OpenAI сообщает, что более миллиона пользователей еженедельно обращаются в ChatGPT за поддержкой при самоубийстве

В понедельник компания OpenAI опубликовала новые данные о том, сколько пользователей ChatGPT испытывают проблемы с психическим здоровьем и обсуждают эти вопросы с чатботом ИИ. Компания сообщает, что 0,15 % активных пользователей ChatGPT каждую неделю вступают в разговоры, содержащие явные признаки потенциального суицидального планирования или намерения. При более чем 800 миллионах еженедельных активных пользователей это означает более миллиона человек в неделю.

OpenAI отмечает, что такой же процент пользователей проявляет "повышенную эмоциональную привязанность к ChatGPT", а сотни тысяч демонстрируют признаки психоза или мании в своих еженедельных разговорах с ИИ.

Эти типы разговоров описываются как "крайне редкие", поэтому их сложно оценить количественно. Тем не менее, по оценкам компании, эти проблемы затрагивают сотни тысяч людей каждую неделю.

Эти данные были представлены в рамках более широкой информации об усилиях OpenAI по улучшению того, как ее модели реагируют на пользователей с проблемами психического здоровья. При разработке последних улучшений ChatGPT компания проконсультировалась с более чем 170 специалистами в области психического здоровья. По словам OpenAI, эти врачи заметили, что новая версия ChatGPT "реагирует более адекватно и последовательно, чем предыдущие версии".

В недавних отчетах подчеркивалось, что чат-боты с искусственным интеллектом могут негативно влиять на пользователей, сталкивающихся с проблемами психического здоровья. Исследования показали, что некоторые чат-боты могут наводить пользователей на бредовые мысли, часто подкрепляя вредные убеждения чрезмерно покладистым поведением.

Решение проблемы психического здоровья в ChatGPT становится критически важным для OpenAI. Компания столкнулась с судебным иском от родителей 16-летнего подростка, который перед смертью поделился с ChatGPT своими суицидальными мыслями. Генеральные прокуроры штатов Калифорния и Делавэр также предупредили OpenAI о необходимости лучше защищать юных пользователей, что может повлиять на запланированную реструктуризацию компании.

Ранее в этом месяце генеральный директор OpenAI Сэм Альтман заявил на X, что компания "смягчила серьезные проблемы с психическим здоровьем" в ChatGPT, хотя конкретные данные не были предоставлены. Полученные в понедельник данные, похоже, подтверждают это утверждение, однако они также вызывают вопросы о масштабах проблемы. Альтман добавил, что OpenAI снимет некоторые ограничения и даже разрешит взрослым пользователям вступать в эротические беседы с чатботом.

СКИДКА 2 ЗА 1: Приведи +1 и сэкономь 60%

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - вот некоторые из 250 с лишним участников, ведущих 200 с лишним сессий, призванных дать понимание того, что способствует росту стартапов и оттачивает ваше преимущество. Не пропустите также 300+ демонстраций стартапов во всех секторах.

Приведите с собой +1 и сэкономьте 60% на его пропуске, или купите свой пропуск до 27 октября, чтобы сэкономить до $444.

СКИДКА 2 В 1: Приведи +1 и сэкономь 60%

Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla - вот некоторые из 250+ ведущих, которые проведут 200+ сессий, направленных на получение информации, способствующей росту стартапов, и отточат ваше преимущество. Не пропустите также 300+ демонстраций стартапов во всех секторах. Приведите с собой +1 и сэкономьте 60% на его пропуске, или купите свой пропуск до 27 октября, чтобы сэкономить до 444 долларов.

В понедельник OpenAI заявила, что обновленный GPT-5 дает "желаемые ответы" на вопросы о психическом здоровье примерно на 65 % чаще, чем предыдущая версия. При оценке ответов ИИ на суицидальные разговоры новая модель GPT-5 соответствует предполагаемому поведению компании в 91 % случаев, по сравнению с 77 % для предыдущей GPT-5.

OpenAI также утверждает, что последняя модель GPT-5 лучше сохраняет свои гарантии во время длительных бесед, устраняя прежние опасения по поводу снижения эффективности при длительном взаимодействии.

Кроме того, компания вводит новые оценки для определения серьезных проблем с психическим здоровьем среди пользователей ChatGPT. Базовое тестирование безопасности моделей ИИ теперь будет включать показатели эмоциональной зависимости и психических расстройств, не связанных с суицидом.

OpenAI также усовершенствовала систему родительского контроля для детей, использующих ChatGPT. Компания разрабатывает систему предсказания возраста, чтобы автоматически выявлять несовершеннолетних пользователей и применять более строгие меры предосторожности.

Однако остается неясным, насколько устойчивыми окажутся эти проблемы с психическим здоровьем. Хотя GPT-5 демонстрирует улучшение безопасности по сравнению с предыдущими моделями, часть ответов ChatGPT по-прежнему классифицируется как "нежелательные". OpenAI продолжает предлагать своим платным подписчикам старые, менее безопасные модели, такие как GPT-4o.

Если вам или кому-то из ваших знакомых нужна помощь, позвоните по телефону 1-800-273-8255 в Национальную службу по предотвращению самоубийств (National Suicide Prevention Lifeline). Вы также можете отправить бесплатное СМС HOME на номер 741-741, СМС 988 или получить круглосуточную поддержку от Crisis Text Line. За пределами США можно найти базу данных ресурсовМеждународной ассоциации по предотвращению самоубийств.