영국 감시 기관이 의료 AI 전사 오류를 지적하며 환자 안전 우려 제기

영국의 국가보건서비스(NHS) 규제기관은 의사와 환자 간의 상담을 녹음하는 데 사용되는 AI 도구가 약물 및 질병 이름을 잘못 식별함으로써 환자 안전을 위협하고 있다고 가디언의 보도를 인용해 경고했다. 환자 권리 단체인 Healthwatch England은 이 기술의 빠른 도입이 돌이킬 수 없는 위험을 초래한다는 여러 사례를 제시하며, 이러한 우려를 강조하고 있다.
"탈수초화 없음"을 "탈수초화"로 오인한 사례
한 문서화된 사례에서 AI 녹음 시스템은 여성 환자가 다발성 경화증과 관련된 심각한 신경학적 질환인 "탈수초화"를 앓고 있다고 잘못 기록했다. NHS 의료 종사자인 이 환자는 MRI 결과를 검토하는 과정에서 이러한 오류를 발견하고 기록을 "탈수초화 없음"으로 정정했다. 그녀는 AI가 잘못된 진단을 제공한 후 이를 단순한 오타로 처리한 이 사건을 매우 고통스러운 경험으로 묘사했다.
또 다른 사례에서는 AI 시스템이 처방된 약물과 이름이 유사한 다른 약물을 혼동했으며, 이 오류는 처방 의사가 아닌 환자 자신이 적발했다. 별개의 사례에서는 AI가 생성한 요약 서한에서 전문의가 일반의에게 편두통 처방전을 재발급해 달라고 요청하라는 지시가 누락되어, 환자가 필수 약물을 처방받지 못할 가능성이 있었다.
규제 공백과 "양날의 검"
Healthwatch는 발견되지 않은 오류가 환자의 기록에 영구적으로 반영되어 향후 치료에 부정적인 영향을 미칠 수 있다고 경고한다. 이 단체는 의료 전문가들이 놓친 실수를 환자 자신이 적발한 수많은 보고서를 접수했다. 더 중요한 것은, 영국의 의약품·의료기기규제청(MHRA)이 이러한 도구들을 의료기기로 분류하지 않기로 선택했다는 점이다. 그 결과, 현재 지역 의사들이 27종의 이러한 도구를 사용하고 있음에도 불구하고, 영국에는 이들의 안전성과 유효성을 보장할 수 있는 전국적인 규제 체계가 부재하다.
관련 기사
Qianwen AI 무료 버전 대 유료 기관용: 고가 글쓰기 사기의 실체를 파헤치다
6월 25일, CCTV는 혼란스러운 대학 입시 자원봉사자 등록 시장에 대한 폭로 보도를 방영해 대중의 광범위한 논쟁을 불러일으켰다. 보도 영상에 따르면, 수많은 고등학교 입시 대행 업체들이 “10년 경력의 교사”나 “교수”와 같은 직함을 내세워 4,980위안에서 12,980위안에 이르는 터무니없이 높은 수수료를 받고 있는 것으로 드러났다. 실제로 이 소위
전문 애니메이션 에이전트 도구 ‘OiiOii’, AI 시대의 픽사로 등장
4월 2일, 세계 최초의 전문가급 애니메이션 제작 에이전트인 ‘OiiOii’가 베타 단계를 마무리하고 전 세계 출시를 발표했습니다. 단 100개의 베타 참가자 모집에 10만 명이 몰린 이 ‘다크호스’ 제품은, 첨단 AI 기술을 통해 애니메이션 제작의 전문성 장벽을 허물고자 합니다.주요 특징: 7개의 에이전트 협업, 전문 도구의 간편화OiiOii의 주요 강점
신생 교육 AI 기업 ‘지슈’, 수백만 투자 유치… 소프트웨어-하드웨어 전략 본격화
인공지능이 산업을 지속적으로 변화시켜 나가는 가운데, 교육 분야에서도 유망한 신생 기업의 등장으로 획기적인 전환점이 마련되고 있습니다. 4월 22일, 광저우 지슈 인공지능 기술 유한공사(이하 ‘지슈 AI’)는 총 수백만 위안 규모의 프리 시리즈 A 투자 유치를 성공적으로 마무리했다고 발표했습니다. 차이나 라디오 캐피털(China Radio Capital)이
관련 특별 주제 추천
의견 (0)
0/500

영국의 국가보건서비스(NHS) 규제기관은 의사와 환자 간의 상담을 녹음하는 데 사용되는 AI 도구가 약물 및 질병 이름을 잘못 식별함으로써 환자 안전을 위협하고 있다고 가디언의 보도를 인용해 경고했다. 환자 권리 단체인 Healthwatch England은 이 기술의 빠른 도입이 돌이킬 수 없는 위험을 초래한다는 여러 사례를 제시하며, 이러한 우려를 강조하고 있다.
"탈수초화 없음"을 "탈수초화"로 오인한 사례
한 문서화된 사례에서 AI 녹음 시스템은 여성 환자가 다발성 경화증과 관련된 심각한 신경학적 질환인 "탈수초화"를 앓고 있다고 잘못 기록했다. NHS 의료 종사자인 이 환자는 MRI 결과를 검토하는 과정에서 이러한 오류를 발견하고 기록을 "탈수초화 없음"으로 정정했다. 그녀는 AI가 잘못된 진단을 제공한 후 이를 단순한 오타로 처리한 이 사건을 매우 고통스러운 경험으로 묘사했다.
또 다른 사례에서는 AI 시스템이 처방된 약물과 이름이 유사한 다른 약물을 혼동했으며, 이 오류는 처방 의사가 아닌 환자 자신이 적발했다. 별개의 사례에서는 AI가 생성한 요약 서한에서 전문의가 일반의에게 편두통 처방전을 재발급해 달라고 요청하라는 지시가 누락되어, 환자가 필수 약물을 처방받지 못할 가능성이 있었다.
규제 공백과 "양날의 검"
Healthwatch는 발견되지 않은 오류가 환자의 기록에 영구적으로 반영되어 향후 치료에 부정적인 영향을 미칠 수 있다고 경고한다. 이 단체는 의료 전문가들이 놓친 실수를 환자 자신이 적발한 수많은 보고서를 접수했다. 더 중요한 것은, 영국의 의약품·의료기기규제청(MHRA)이 이러한 도구들을 의료기기로 분류하지 않기로 선택했다는 점이다. 그 결과, 현재 지역 의사들이 27종의 이러한 도구를 사용하고 있음에도 불구하고, 영국에는 이들의 안전성과 유효성을 보장할 수 있는 전국적인 규제 체계가 부재하다.
Qianwen AI 무료 버전 대 유료 기관용: 고가 글쓰기 사기의 실체를 파헤치다
6월 25일, CCTV는 혼란스러운 대학 입시 자원봉사자 등록 시장에 대한 폭로 보도를 방영해 대중의 광범위한 논쟁을 불러일으켰다. 보도 영상에 따르면, 수많은 고등학교 입시 대행 업체들이 “10년 경력의 교사”나 “교수”와 같은 직함을 내세워 4,980위안에서 12,980위안에 이르는 터무니없이 높은 수수료를 받고 있는 것으로 드러났다. 실제로 이 소위
전문 애니메이션 에이전트 도구 ‘OiiOii’, AI 시대의 픽사로 등장
4월 2일, 세계 최초의 전문가급 애니메이션 제작 에이전트인 ‘OiiOii’가 베타 단계를 마무리하고 전 세계 출시를 발표했습니다. 단 100개의 베타 참가자 모집에 10만 명이 몰린 이 ‘다크호스’ 제품은, 첨단 AI 기술을 통해 애니메이션 제작의 전문성 장벽을 허물고자 합니다.주요 특징: 7개의 에이전트 협업, 전문 도구의 간편화OiiOii의 주요 강점
신생 교육 AI 기업 ‘지슈’, 수백만 투자 유치… 소프트웨어-하드웨어 전략 본격화
인공지능이 산업을 지속적으로 변화시켜 나가는 가운데, 교육 분야에서도 유망한 신생 기업의 등장으로 획기적인 전환점이 마련되고 있습니다. 4월 22일, 광저우 지슈 인공지능 기술 유한공사(이하 ‘지슈 AI’)는 총 수백만 위안 규모의 프리 시리즈 A 투자 유치를 성공적으로 마무리했다고 발표했습니다. 차이나 라디오 캐피털(China Radio Capital)이





집






