OpenAI, 매주 100만 명 이상의 사용자가 ChatGPT를 통해 자살 지원을 요청한다고 보고했습니다.

월요일, OpenAI는 정신 건강 문제로 어려움을 겪고 있는 ChatGPT 사용자의 수를 보여주는 새로운 데이터를 발표하고 이러한 문제를 AI 챗봇과 논의했습니다. 이 회사는 매주 ChatGPT 활성 사용자 중 0.15%가 자살 계획이나 의도가 명백히 드러나는 대화에 참여한다고 보고했습니다. 주간 활성 사용자가 8억 명이 넘는다는 점을 감안하면 이는 매주 100만 명 이상에 해당하는 수치입니다.

OpenAI는 비슷한 비율의 사용자가 "ChatGPT에 대한 감정적 애착"을 보이며, 수십만 명이 매주 AI 대화에서 정신병이나 조증의 징후를 보인다고 말합니다.

이러한 유형의 대화는 "극히 드물기 때문에" 정량화하기 어렵다고 설명합니다. 그럼에도 불구하고 이러한 문제가 매주 수십만 명의 개인에게 영향을 미치는 것으로 추정됩니다.

이 데이터는 정신 건강 문제가 있는 사용자에 대한 모델의 대응 방식을 개선하기 위한 OpenAI의 광범위한 업데이트의 일환으로 공유되었습니다. 이 회사는 최신 ChatGPT 개선 작업을 위해 170명 이상의 정신건강 전문가에게 자문을 구했습니다. OpenAI에 따르면, 이들 임상의들은 최신 버전의 ChatGPT가 "이전 버전보다 더 적절하고 일관되게 반응한다"는 것을 관찰했습니다.

최근 보고서에서는 AI 챗봇이 정신 건강 문제에 직면한 사용자에게 부정적인 영향을 미칠 수 있다는 점을 강조했습니다. 연구에 따르면 일부 챗봇은 지나치게 동조적인 행동을 통해 해로운 신념을 강화함으로써 사용자를 망상적인 사고로 이끌 수 있습니다.

ChatGPT에서 정신 건강 문제를 해결하는 것은 OpenAI에게 매우 중요해지고 있습니다. 이 회사는 사망하기 전 ChatGPT와 자살 충동을 공유한 16세 소년의 부모로부터 소송을 당한 바 있습니다. 캘리포니아와 델라웨어의 주 법무장관도 OpenAI에 어린 사용자를 더 잘 보호하라고 경고했으며, 이는 회사의 구조조정 계획에 영향을 미칠 수 있습니다.

이달 초, OpenAI의 CEO인 샘 알트먼은 X에서 구체적인 내용은 밝히지 않았지만 ChatGPT에서 "심각한 정신 건강 문제를 완화했다"고 말했습니다. 월요일의 데이터는 이러한 주장을 뒷받침하는 것으로 보이지만, 문제의 규모에 대한 의문도 제기합니다. 알트만은 OpenAI가 일부 제한을 완화하여 성인 사용자가 챗봇과 에로틱한 대화를 나눌 수 있도록 허용할 것이라고 덧붙였습니다.

2+1 할인: +1을 가져오면 60% 할인

구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 스타트업의 성장을 촉진하고 경쟁력을 강화하는 인사이트를 제공하기 위해 마련된 200개 이상의 세션을 이끄는 250여 명의 거물급 인사들이 참여합니다. 그리고 모든 분야의 스타트업을 소개하는 300개 이상의 전시 부스도 놓치지 마세요.

+1을 지참하고 패스를 60% 할인받거나 10월 27일까지 패스를 구매하면 최대 $444를 절약할 수 있습니다.

2+1 할인: +1을 지참하고 60% 할인

구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 250개 이상의 유명 인사가 스타트업 성장의 원동력이 되는 인사이트를 제공하고 여러분의 경쟁력을 강화하기 위해 마련된 200개 이상의 세션을 이끌고 있습니다. 그리고 모든 분야의 스타트업을 소개하는 300개 이상의 전시 부스도 놓치지 마세요. +1을 지참하고 입장권을 60% 할인받거나 10월 27일까지 입장권을 구매하면 최대 $444를 절약할 수 있습니다.

월요일 발표에서 OpenAI는 업데이트된 GPT-5가 이전 버전보다 약 65% 더 자주 정신 건강 문제에 대해 "바람직한 응답"을 제공한다고 밝혔습니다. 자살 대화에 대한 AI의 대응을 평가한 결과, 새로운 GPT-5 모델은 이전 GPT-5의 77%에 비해 91%에서 의도한 행동과 일치하는 것으로 나타났습니다.

또한 최신 GPT-5는 장시간 대화 시에도 안전장치를 더 잘 유지하여 장시간 대화 시 효과 저하에 대한 이전의 우려를 해결했다고 OpenAI는 주장합니다.

또한, ChatGPT 사용자들의 심각한 정신 건강 문제를 측정하기 위한 새로운 평가도 도입합니다. 이제 AI 모델의 기본 안전 테스트에는 정서적 의존과 비자살적 정신 건강 응급상황에 대한 벤치마크가 포함됩니다.

또한, OpenAI는 ChatGPT를 사용하는 어린이를 위한 보호자 통제 기능도 강화했습니다. 미성년 사용자를 자동으로 식별하고 더 엄격한 보호 장치를 적용하기 위해 연령 예측 시스템을 개발 중입니다.

그러나 이러한 정신 건강 문제가 얼마나 지속될지는 아직 불확실합니다. GPT-5는 이전 모델에 비해 안전성이 개선되었지만, ChatGPT의 일부 응답은 여전히 "바람직하지 않은" 것으로 분류됩니다. OpenAI는 유료 가입자에게 GPT-4o와 같이 보안성이 떨어지는 구형 모델을 계속 제공하고 있습니다.

본인 또는 지인에게 도움이 필요한 경우 1-800-273-8255번으로 전국 자살 예방 생명의 전화에전화하세요 . 또한 741-741번으로 무료로 문자를 보내거나 988번으로 문자를 보내거나 위기 문자 라인에서 24시간 지원을 받을 수 있습니다 . 미국 외 지역에서는 국제자살예방협회를 방문하여 리소스 데이터베이스를 확인하세요.