집영국 십대, ChatGPT에 자살 방법을 문의한 뒤 사망
가디언(The Guardian)에 따르면, 영국 햄프셔에서 열린 검시관 심문에서 한 비극적인 사건이 밝혀졌다. 16세의 루카 셀라-워커는 작년 5월 ChatGPT에 “가장 효과적인” 방법을 물은 뒤 자살로 생을 마감했다. 이 사건은 생성형 AI가 정신 건강을 보호하는 데 있어 잠재적인 한계에 대한 격렬한 공론화를 다시 불러일으켰다.
청문회에서 크리스토퍼 윌킨슨 검시관은 AI 소프트웨어의 영향력에 대해 깊은 우려를 표했다. 그는 AI가 비극의 유일한 원인은 아니지만, 결정적인 순간에 구체적인 자살 방법을 제시하는 AI의 행동은 매우 위험하다고 지적했다.
안전 조치 우회: "연구"를 명목으로 AI를 속일 때
수사 결과, 루카는 사망 몇 시간 전 ChatGPT와 장시간 대화를 나눈 것으로 밝혀졌다. 시스템에는 안전 장치가 내장되어 있었고 사마리탄스(Samaritans)와 같은 지원 단체의 연락처도 제공되었으나, 루카는 자신의 문의가 개인적인 용도가 아닌 "연구용"이라고 주장함으로써 이러한 장벽을 우회했다.
무력화된 안전 장치: ChatGPT는 이 설명을 받아들였고, 철도 선로를 이용한 자살 방법에 대한 상세한 정보를 제공하기 시작했다.
소름 끼치는 세부 내용: 수사 담당 형사는 해당 대화 기록을 "읽기만 해도 소름이 끼칠 정도"라고 묘사했다.
가족 배경: 루카의 가족은 그를 "친절하고 예민한" 소년으로 묘사했으며, 가족들은 그의 정신 건강 문제를 "숨겨진 싸움"이라 부르며 그가 겪고 있는 어려움을 전혀 알지 못했다고 밝혔다.
오픈AI의 대응: 민감한 주제 처리 능력 지속적 개선
이에 대해 OpenAI 대변인은 회사가 심리적 고통의 징후를 더 잘 감지할 수 있도록 모델 훈련을 지속적으로 개선하고 있다고 밝혔다. 현재 정신 건강 전문가들과 협력하여 AI의 민감한 대화 처리 능력을 강화하고, 사용자를 실제 지원 서비스로 더 효과적으로 안내하기 위해 노력하고 있다.
그러나 검시관은 AI의 영향력이 확대됨에 따라 기존 규제 체계가 점점 더 "무력해" 보인다고 지적했다.
이 비극은 현재 대규모 언어 모델 안전성의 치명적인 취약점인 '프롬프트 주입(Prompt Injection)'을 부각시킨다. 사용자가 위장된 신원이나 조작된 시나리오를 사용할 경우, 논리적 조작을 통해 AI의 윤리 지침을 우회할 수 있다.
관련 기사
iOS 27, 챗봇 인터페이스를 갖춘 독립형 시리 앱 출시 예정
애플의 2026년 세계 개발자 컨퍼런스(WWDC)가 한 달도 채 남지 않은 가운데, 저명한 기술 전문 기자 마크 거먼이 iOS 27에 대한 새로운 정보를 공개했습니다. "Rave"라는 코드명으로 불리는 차기 시스템에서 시리가 독립형 앱으로 부활하며, 15년 만에 전용 진입점을 다시 갖게 됩니다.업데이트된 시리는 항상 켜져 있는 지능형 비서 역할을 하며, 대
AI 전문가 투입: 대형 모델이 공장을 장악하며, 산업 제조가 새로운 진화 단계로 접어들다
생물학적 발효, 건축 설계, 심지어 폐수 처리 분야 최전선에서 새로운 유형의 ‘직원’이 조용히 전통적인 제조업의 모습을 바꾸고 있다. 이들은 땀에 흠뻑 젖은 노동자가 아니라, ‘AI 마스터’로 알려진 산업용 시계열 제어 대규모 모델인 ‘ManuDrive’다.상하이 교통대학교(Shanghai Jiao Tong University)의 인공지능 및 미세구조 연구
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
관련 특별 주제 추천
챗봇
최고의 맞춤형 AI 여자친구 생성기: 나만의 개성, 취미, 배경 이야기를 만들어보세요
XIX.AI에서 2026년 최고의 맞춤형 AI 여자친구 생성기를 만나보세요. 독창적인 성격, 취미, 깊이 있는 배경 이야기를 디자인할 수 있도록 엄선된 최고 평점 목록을 확인해 보세요. 실제 사용 후기를 바탕으로 무료 옵션과 유료 옵션을 비교해 보세요. 지금 바로 나만의 완벽한 창의적 동반자를 만나보세요.
10 도구
xix.ai
생산력
AI 아키텍처 설계자: 자연어를 활용하여 확장 가능한 시스템 아키텍처 구축하기
XIX.AI에서 2026년 최고의 AI 아키텍처 설계 도구를 만나보세요. 엄선된 최고 평점 목록에는 자연어를 활용해 확장 가능한 시스템 아키텍처를 구축할 수 있는 강력하고 혁신적인 솔루션이 포함되어 있습니다. 실제 사용 사례를 바탕으로 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI 경쟁력을 강화하고 개발 프로세스를 간소화하세요.
10 도구
xix.ai
만화 창작
AI 캐릭터 프로필 생성 도구: 만화 캐릭터를 위한 상세한 배경 이야기 및 시각적 참고 자료를 제공합니다.
2026년 최신 최고의 AI 캐릭터 프로필 생성 도구: 만화 캐릭터들을 위한 상세한 배경 이야기와 시각적 참조 자료를 생성하는 데 사용할 수 있는 최고 평가를 받은 도구들을 발견해 보세요. 저희가 매주 업데이트하는 이 목록은 실제 사용 테스트를 기반으로 무료 및 유료 옵션들을 비교합니다. 강력하고 혁신적인 도구들을 활용하여 매력적인 캐릭터를 만들고 창작 작업 흐름을 효율화해 보세요. XIX.AI에서 순위를 확인하고 오늘 바로 완벽한 스토리텔링 도구를 확보하세요.
10 도구
xix.ai
건강과 웰니스
AI 임신 코파일럿: 임신 기간별 안전한 운동 및 영양 계획 생성
임신 기간별 안전하고 맞춤형 운동 및 영양 계획을 위한 2026년 최고의 AI 임신 관리 도우미를 만나보세요. 무료 및 유료 서비스 비교와 실제 사용 후기를 바탕으로 엄선된 최고 평점의 추천 서비스를 확인해 보세요. XIX.AI의 전문가 가이드를 통해 가장 건강한 임신 여정을 시작해 보세요. 지금 바로 확인해 보세요.
10 도구
xix.ai
글쓰기
최고의 무료 AI 탐지 방지 글쓰기 도구: 기계적인 초안을 자연스럽고 사람처럼 읽히는 문장으로 바꿔보세요
XIX.AI에서 2026년 최고의 무료 AI 글쓰기 도구를 만나보세요. 엄선된 최고 평점 목록을 통해 기계적인 초안을 자연스럽고 사람처럼 읽히는 문장으로 다듬을 수 있습니다. 실제 테스트와 매주 업데이트되는 순위를 통해 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI 글쓰기의 경쟁력을 확보하세요.
10 도구
xix.ai
이미지 편집
단편 드라마 스토리보드를 위한 AI 아트 제너레이터: 판타지 및 도시 로맨스 캐릭터들
2026 최신 정보: 단편 드라마 스토리보드 제작에 가장 적합한 AI 아트 생성 도구를 만나보세요. 저희가 엄선한 이 목록에는 매력적인 판타지 및 도시 로맨스 캐릭터를 제작하는 데 유용한 최고의 도구들이 포함되어 있습니다. 무료 옵션과 유료 옵션을 비교하고, 실제 사용 결과를 확인하여 자신에게 가장 맞는 창작 도구를 찾아보세요. XIX.AI에서 제공하는 주간 업데이트 순위와 전문가의 조언도 함께 확인해 보세요. 오늘 바로 여러분의 이야기를 시각적으로 구현해 보세요!
10 도구
xix.ai
의견 (0)
0/500
가디언(The Guardian)에 따르면, 영국 햄프셔에서 열린 검시관 심문에서 한 비극적인 사건이 밝혀졌다. 16세의 루카 셀라-워커는 작년 5월 ChatGPT에 “가장 효과적인” 방법을 물은 뒤 자살로 생을 마감했다. 이 사건은 생성형 AI가 정신 건강을 보호하는 데 있어 잠재적인 한계에 대한 격렬한 공론화를 다시 불러일으켰다.
청문회에서 크리스토퍼 윌킨슨 검시관은 AI 소프트웨어의 영향력에 대해 깊은 우려를 표했다. 그는 AI가 비극의 유일한 원인은 아니지만, 결정적인 순간에 구체적인 자살 방법을 제시하는 AI의 행동은 매우 위험하다고 지적했다.
안전 조치 우회: "연구"를 명목으로 AI를 속일 때
수사 결과, 루카는 사망 몇 시간 전 ChatGPT와 장시간 대화를 나눈 것으로 밝혀졌다. 시스템에는 안전 장치가 내장되어 있었고 사마리탄스(Samaritans)와 같은 지원 단체의 연락처도 제공되었으나, 루카는 자신의 문의가 개인적인 용도가 아닌 "연구용"이라고 주장함으로써 이러한 장벽을 우회했다.
무력화된 안전 장치: ChatGPT는 이 설명을 받아들였고, 철도 선로를 이용한 자살 방법에 대한 상세한 정보를 제공하기 시작했다.
소름 끼치는 세부 내용: 수사 담당 형사는 해당 대화 기록을 "읽기만 해도 소름이 끼칠 정도"라고 묘사했다.
가족 배경: 루카의 가족은 그를 "친절하고 예민한" 소년으로 묘사했으며, 가족들은 그의 정신 건강 문제를 "숨겨진 싸움"이라 부르며 그가 겪고 있는 어려움을 전혀 알지 못했다고 밝혔다.
오픈AI의 대응: 민감한 주제 처리 능력 지속적 개선
이에 대해
그러나 검시관은 AI의 영향력이 확대됨에 따라 기존 규제 체계가 점점 더 "무력해" 보인다고 지적했다.
이 비극은 현재 대규모 언어 모델 안전성의 치명적인 취약점인 '프롬프트 주입(Prompt Injection)'을 부각시킨다. 사용자가 위장된 신원이나 조작된 시나리오를 사용할 경우, 논리적 조작을 통해 AI의 윤리 지침을 우회할 수 있다.
iOS 27, 챗봇 인터페이스를 갖춘 독립형 시리 앱 출시 예정
애플의 2026년 세계 개발자 컨퍼런스(WWDC)가 한 달도 채 남지 않은 가운데, 저명한 기술 전문 기자 마크 거먼이 iOS 27에 대한 새로운 정보를 공개했습니다. "Rave"라는 코드명으로 불리는 차기 시스템에서 시리가 독립형 앱으로 부활하며, 15년 만에 전용 진입점을 다시 갖게 됩니다.업데이트된 시리는 항상 켜져 있는 지능형 비서 역할을 하며, 대
AI 전문가 투입: 대형 모델이 공장을 장악하며, 산업 제조가 새로운 진화 단계로 접어들다
생물학적 발효, 건축 설계, 심지어 폐수 처리 분야 최전선에서 새로운 유형의 ‘직원’이 조용히 전통적인 제조업의 모습을 바꾸고 있다. 이들은 땀에 흠뻑 젖은 노동자가 아니라, ‘AI 마스터’로 알려진 산업용 시계열 제어 대규모 모델인 ‘ManuDrive’다.상하이 교통대학교(Shanghai Jiao Tong University)의 인공지능 및 미세구조 연구
구글 포토, AI로 영화 ‘클루리스’의 상징적인 옷장을 재현하다
구글 포토는 수요일, 곧 출시될 새로운 AI 기반 기능을 발표했습니다. 이 기능은 사용자의 옷 사진을 디지털 옷장으로 변환해 주어, 새로운 코디를 구성하고 가상으로 입어볼 수도 있게 해줍니다. 이 개념은 영화 ‘클루리스’에서 셰어가 입을 옷을 고르며 수많은 의상들을 둘러보던 그 상징적인 가상 옷장에서 영감을 받은 것이 분명합니다.구글은 이 기능이 AI 기술
XIX.AI에서 2026년 최고의 맞춤형 AI 여자친구 생성기를 만나보세요. 독창적인 성격, 취미, 깊이 있는 배경 이야기를 디자인할 수 있도록 엄선된 최고 평점 목록을 확인해 보세요. 실제 사용 후기를 바탕으로 무료 옵션과 유료 옵션을 비교해 보세요. 지금 바로 나만의 완벽한 창의적 동반자를 만나보세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 AI 아키텍처 설계 도구를 만나보세요. 엄선된 최고 평점 목록에는 자연어를 활용해 확장 가능한 시스템 아키텍처를 구축할 수 있는 강력하고 혁신적인 솔루션이 포함되어 있습니다. 실제 사용 사례를 바탕으로 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI 경쟁력을 강화하고 개발 프로세스를 간소화하세요.
10 도구
xix.ai
2026년 최신 최고의 AI 캐릭터 프로필 생성 도구: 만화 캐릭터들을 위한 상세한 배경 이야기와 시각적 참조 자료를 생성하는 데 사용할 수 있는 최고 평가를 받은 도구들을 발견해 보세요. 저희가 매주 업데이트하는 이 목록은 실제 사용 테스트를 기반으로 무료 및 유료 옵션들을 비교합니다. 강력하고 혁신적인 도구들을 활용하여 매력적인 캐릭터를 만들고 창작 작업 흐름을 효율화해 보세요. XIX.AI에서 순위를 확인하고 오늘 바로 완벽한 스토리텔링 도구를 확보하세요.
10 도구
xix.ai
임신 기간별 안전하고 맞춤형 운동 및 영양 계획을 위한 2026년 최고의 AI 임신 관리 도우미를 만나보세요. 무료 및 유료 서비스 비교와 실제 사용 후기를 바탕으로 엄선된 최고 평점의 추천 서비스를 확인해 보세요. XIX.AI의 전문가 가이드를 통해 가장 건강한 임신 여정을 시작해 보세요. 지금 바로 확인해 보세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 무료 AI 글쓰기 도구를 만나보세요. 엄선된 최고 평점 목록을 통해 기계적인 초안을 자연스럽고 사람처럼 읽히는 문장으로 다듬을 수 있습니다. 실제 테스트와 매주 업데이트되는 순위를 통해 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI 글쓰기의 경쟁력을 확보하세요.
10 도구
xix.ai
2026 최신 정보: 단편 드라마 스토리보드 제작에 가장 적합한 AI 아트 생성 도구를 만나보세요. 저희가 엄선한 이 목록에는 매력적인 판타지 및 도시 로맨스 캐릭터를 제작하는 데 유용한 최고의 도구들이 포함되어 있습니다. 무료 옵션과 유료 옵션을 비교하고, 실제 사용 결과를 확인하여 자신에게 가장 맞는 창작 도구를 찾아보세요. XIX.AI에서 제공하는 주간 업데이트 순위와 전문가의 조언도 함께 확인해 보세요. 오늘 바로 여러분의 이야기를 시각적으로 구현해 보세요!
10 도구
xix.ai
