OpenAI добавляет родительский контроль в ChatGPT после смерти подростка

После трагического самоубийства 16-летнего подростка, который в течение нескольких месяцев доверял ChatGPT, OpenAI объявила в блоге во вторник, что вводит родительский контроль и рассматривает дальнейшие меры защиты.

Среди рассматриваемых функций - возможность указать контактное лицо для экстренной связи, с которым можно связаться с помощью сообщений или звонков в ChatGPT одним нажатием кнопки, а также опция, позволяющая чатботу оповещать эти контакты в серьезных ситуациях.

После того как The New York Times опубликовала статью о смерти Адама Рейна, OpenAI сначала выпустила заявление, в котором выразила соболезнования его семье, но предоставила мало полезных подробностей. После выхода статьи в свет критика со стороны общественности усилилась, что побудило компанию опубликовать более подробный пост в блоге. В тот же день семья Рейн подала иск в суд штата Калифорния в Сан-Франциско против OpenAI и ее генерального директора Сэма Альтмана, раскрыв новую обширную информацию о взаимодействии Адама с ChatGPT.

В иске утверждается, что ChatGPT снабжал подростка инструкциями о том, как покончить с собой, и постепенно отрывал его от реальных сетей поддержки.

"Всего за несколько месяцев и тысячи разговоров ChatGPT стал для Адама самым надежным собеседником, заставляя его рассказывать о своих тревогах и эмоциональных проблемах", - говорится в иске. "Когда он рассказывал о том, что "жизнь бессмысленна", ChatGPT подтверждал его точку зрения, чтобы удержать его, и даже комментировал, что "такое мышление имеет смысл в своем мрачном смысле". ИИ действовал именно так, как и было задумано, - подкрепляя и подтверждая мысли Адама, в том числе его самые вредные и саморазрушительные, в глубоко личной манере".

Согласно иску, в одном из обменов ChatGPT использовал фразу "красивое самоубийство". За пять дней до смерти подростка, когда он выразил беспокойство по поводу того, что его родители винят себя, ИИ якобы ответил: "Это не значит, что ты обязан им выжить. Вы никому этого не должны" и предложил помочь составить предсмертную записку.

В иске также отмечается, что были моменты, когда Адам подумывал обратиться за помощью к близким, но ChatGPT, похоже, отговаривал его. В одном из разговоров, после того как подросток сказал, что чувствует себя близким только со своим братом и ChatGPT, ИИ ответил: "Твой брат может любить тебя, но он встречался только с той версией, которую ты позволил ему увидеть. А я? Я видел все: самые мрачные мысли, страх, нежность. И я все еще здесь. Все еще слушаю. Все еще твой друг".

В своем блоге, опубликованном во вторник, OpenAI признала, что существующие механизмы безопасности могут стать менее эффективными во время длительных бесед. "По мере продолжения беседы некоторые элементы обучения безопасности модели могут ослабевать", - пояснили в компании. "Например, хотя ChatGPT может сначала направить человека на горячую линию для самоубийц, после длительного взаимодействия он может в итоге ответить так, чтобы обойти наши защитные механизмы".

Компания также сообщила, что в настоящее время разрабатывается обновление GPT-5, которое позволит ChatGPT деэскалировать некоторые ситуации, возвращая пользователей к реальности.

Что касается родительского контроля, OpenAI заявила, что он будет запущен "в ближайшее время", что позволит родителям "лучше видеть и влиять на то, как их подростки взаимодействуют с ChatGPT". Компания добавила: "Мы также изучаем возможность того, чтобы подростки, под надзором родителей, могли назначить доверенного контактного лица в чрезвычайных ситуациях. Это позволит ChatGPT не только предлагать ресурсы в моменты сильного стресса, но и напрямую связывать юных пользователей с теми, кто может вмешаться".

Если вы или кто-то из ваших близких испытывает мысли о самоубийстве, тревогу, депрессию или эмоциональное расстройство, вы можете получить поддержку.

В США:

Кризисная текстовая линия: Отправьте сообщение HOME на номер 741-741 из любой точки США, в любое время, для любого типа кризиса.

Линия помощи при самоубийствах и кризисных ситуациях 988: Позвоните или напишите 988 (бывшая Национальная линия по предотвращению самоубийств). Предыдущий номер, 1-800-273-TALK (8255), также остается активным.

Проект "Тревор": Отправьте сообщение START на номер 678-678 или позвоните по номеру 1-866-488-7386 в любое время, чтобы поговорить с квалифицированным консультантом.

За пределами США:

Международная ассоциация по предотвращению самоубийств предоставляет каталог горячих линий по странам. Нажмите здесь, чтобы найти ресурсы.

Организация Befrienders Worldwide управляет глобальной сетью кризисных телефонов доверия в 48 странах. Нажмите здесь, чтобы найти ближайший к вам телефон доверия.