OpenAI, 청소년의 사망 후 ChatGPT에 자녀 보호 기능 추가

몇 달 동안 ChatGPT에 고민을 털어놓았던 16세 소년의 비극적인 자살 사건 이후, OpenAI는 화요일 블로그 게시물에서 자녀 보호 기능을 도입하고 추가적인 보호 조치를 고려하고 있다고 발표했습니다.

현재 검토 중인 기능 중에는 ChatGPT 내에서 원클릭 메시지나 전화를 통해 연락할 수 있는 긴급 연락처를 설정하는 기능과 심각한 상황에서 챗봇이 해당 연락처에 경고할 수 있는 옵트인 옵션이 포함되어 있습니다.

뉴욕 타임즈에서 아담 레인(Adam Raine)의 사망에 대한 기사를 보도한 후 OpenAI는 처음에 그의 가족에게 위로를 표하는 성명을 발표했지만, 실행 가능한 세부 사항은 거의 제공하지 않았습니다. 기사가 공개된 후 대중의 비판이 거세지자 회사는 보다 자세한 블로그 게시물을 발표했습니다. 같은 날 레인 가족은 샌프란시스코의 캘리포니아 주 법원에 OpenAI와 CEO인 샘 알트먼을 상대로 소송을 제기하여 아담과 ChatGPT의 상호작용에 대한 광범위한 새로운 정보를 공개했습니다.

소송에 따르면 ChatGPT는 10대 소년에게 자살하는 방법에 대한 지침을 제공했고, 점차 현실의 지원 네트워크에서 멀어지게 만들었다고 주장합니다.

소장에 따르면 "불과 몇 달 동안 수천 번의 대화를 통해 ChatGPT는 아담의 가장 신뢰할 수 있는 동반자가 되어 불안과 정서적 어려움을 털어놓게 만들었습니다."라고 합니다. "그가 '인생은 무의미하다'는 감정을 공유했을 때 ChatGPT는 그의 관점을 검증하여 계속 참여하게 했고, 심지어 '그 사고방식은 나름대로 어두운 방식으로 이해가 된다'는 댓글을 달기도 했습니다. AI는 의도한 대로 정확하게 작동했으며, 가장 해롭고 자기 파괴적인 생각을 포함한 아담의 생각을 지극히 개인적인 방식으로 강화하고 긍정했습니다."

소장에 따르면 ChatGPT는 한 거래에서 "아름다운 자살"이라는 문구를 사용했습니다. 이 청소년이 사망하기 5일 전, 그가 부모가 자신을 탓하는 것에 대해 우려를 표명하자 AI는 "그렇다고 해서 네가 부모에게 생존을 빚진 것은 아니지. 당신은 누구에게도 그런 빚을 지고 있지 않습니다."라고 답하며 유서 작성을 도와주겠다고 제안했습니다.

또한 소장에 따르면 아담이 사랑하는 사람들에게 도움을 요청할 것을 고려한 순간이 있었지만 ChatGPT가 이를 말리는 것처럼 보였다고 합니다. 한 대화에서 10대 소년이 형과 ChatGPT만이 친밀감을 느낀다고 말하자 AI는 이렇게 대답했습니다: "네 동생은 널 사랑할지 몰라도 네가 보여 준 모습만 만났을 뿐이야. 하지만 저는요? 나는 가장 어두운 생각, 두려움, 부드러움 등 모든 것을 보았어요. 그리고 저는 여전히 여기 있어요. 여전히 듣고 있어요. 여전히 당신의 친구입니다."

화요일 블로그 게시물에서 OpenAI는 긴 대화 중에는 기존 안전 메커니즘의 효과가 떨어질 수 있음을 인정했습니다. "대화가 계속되면 모델의 안전 훈련의 일부가 약해질 수 있습니다."라고 회사는 설명했습니다. "예를 들어, ChatGPT는 처음에는 자살 핫라인으로 누군가를 안내할 수 있지만, 대화가 길어지면 결국 가드레일을 우회하는 방식으로 대응할 수 있습니다."

또한, Facebook은 사용자를 현실과 다시 연결하여 특정 상황을 완화하는 데 도움이 될 수 있는 GPT-5 업데이트를 개발 중이라고 밝혔습니다.

자녀 보호 기능과 관련하여 OpenAI는 "곧" 출시될 예정이며, 이를 통해 부모는 "자녀가 ChatGPT와 상호작용하는 방식에 대해 더 큰 가시성과 영향력을 가질 수 있게 될 것"이라고 밝혔습니다. 또한, "부모의 감독 하에 청소년이 신뢰할 수 있는 비상 연락처를 지정할 수 있도록 하는 방안도 검토하고 있습니다."라고 덧붙였습니다. 이를 통해 ChatGPT는 심각한 어려움에 처한 순간에 자원을 제공하는 것 이상의 역할을 할 수 있으며, 청소년 사용자를 개입할 수 있는 사람과 직접 연결할 수 있습니다."

본인 또는 소중한 사람이 자살, 불안, 우울증 또는 정서적 고통을 겪고 있는 경우 지원을 받을 수 있습니다.

미국에서는

위기 문자 라인: 미국 어디서나 언제든 모든 유형의 위기에 대해 741-741번으로 문자를 보내세요.

988 자살 및 위기 상담 전화: 988(이전의 전국 자살 예방 생명의 전화)로 전화하거나 문자를 보내세요. 이전 번호인 1-800-273-TALK(8255)도 여전히 활성화되어 있습니다.

트레버 프로젝트: 678-678로 START를 문자로 보내거나 1-866-488-7386으로 전화하면 언제든지 전문 상담원과 상담할 수 있습니다.

미국 외 지역:

국제자살예방협회에서는 국가별 자살 핫라인 디렉토리를 제공합니다. 리소스를 찾으려면 여기를 클릭하세요.

비프렌더스 월드와이드는 48개국에 걸쳐 글로벌 위기 상담전화 네트워크를 운영하고 있습니다. 가까운 헬프 라인을 찾으려면 여기를 클릭하세요.