미국 보건 당국, OpenAI와 Anthropic의 AI 모델 평가

전국 각지의 공중보건 기관들은 ‘건강 AI 연합(Coalition for Health AI)’이 주도하고 OpenAI, Anthropic, Accenture가 협력하는 새로운 이니셔티브를 통해 생성형 AI를 평가할 예정이다.

‘공중보건 활용 사례 및 학습 확장 엔진(PULSE)’은 10개 주, 지방, 부족 및 영토 관할 구역에서 진행될 시범 사업에 자금을 지원할 예정이다. 이 이니셔티브는 유사한 AI 도입을 고려 중인 공중보건 기관을 위해 실행 가능한 도입 지침을 마련하는 것을 목표로 한다.

오픈AI와 앤트로픽은 최대 2,000명의 공중보건 전문가를 지원할 수 있는 기업용 라이선스 10개를 기부했다. 액센츄어는 참가자 등록을 관리하고 시범 운영 결과를 바탕으로 한 도입 가이드북 개발을 지원할 예정이다.

이 프로그램을 통해 공중보건 담당자들은 오픈AI와 앤트로픽의 엔터프라이즈급 AI 제품을 이용할 수 있게 됩니다. 다만 CHAI는 사용될 구체적인 제품, 모델 버전, 구성은 물론, 시범 운영 지역에 공급업체가 어떻게 배정될지에 대해서는 공개하지 않았습니다.

“모든 주요 기술 혁신의 성패는 신뢰, 거버넌스, 실행에 달려 있습니다.”라고 전 텍사스주 보건국장 데이비드 레이키 박사는 말했습니다. “PULSE는 실질적인 구현에 중점을 두어 기관들의 이러한 노력을 지원하기 위해 고안되었습니다.”

5가지 공중보건 활용 사례

보건 AI 연합(Coalition for Health AI)의 리더십 위원회는 참여 관할 구역을 선정하고, 실무자들을 다음 5가지 핵심 분야에 배정할 예정이다: 생물학적 감시 및 약물 유행 예측, 건강의 사회적 결정 요인(SDoH) 매핑, 운영 효율성 및 지역사회 피드백 분석, 대국민 소통, 다국어 번역 허브. 또한 이 프로그램에는 자동화된 임상 데이터 검색 기능과 FHIR 쿼리 엔진이 포함됩니다.

NIST AI 위험 관리 프레임워크는 AI 시스템을 의도된 용도, 운영 환경, 영향을 받는 당사자, 잠재적 결과를 바탕으로 평가할 것을 권고합니다. CHAI는 아직 이 5가지 PULSE 활용 사례에 대한 구체적인 평가, 개인정보 보호, 보안 또는 인간 검토 기준을 발표하지 않았습니다.

FHIR은 호환 가능한 시스템 간 의료 정보의 전자적 교환을 용이하게 하는 HL7 표준입니다.

PULSE에는 자동화된 임상 데이터 검색 및 FHIR 쿼리 엔진이 포함되어 있지만, 이번 발표에서는 이 워크플로우에서 생성형 AI의 역할에 대해 명확히 밝히지 않았습니다. 모델이 쿼리를 생성할지, 기록을 검색할지, 정보를 요약할지, 아니면 이러한 기능을 결합할지는 여전히 불분명합니다.

또한, 이번 발표에서는 정보가 활용되기 전에 잘못된 쿼리, 불완전한 검색 결과, 또는 지원되지 않는 요약 내용이 직원에 의해 검토될지 여부에 대해 명시하지 않았습니다.

제안된 일부 응용 사례에는 인구통계학적, 지리적, 임상적 또는 인구 건강 데이터가 포함될 수 있습니다. CHAI는 시범 운영에서 식별 가능한 기록, 비식별화된 정보, 합성 데이터 또는 집계된 데이터 세트 중 어떤 것을 사용할지 밝히지 않았습니다.

HIPAA에 따라, 해당 규정의 적용을 받는 기관은 특정 전자 건강 정보를 보호해야 합니다. 보건복지부(HHS)의 클라우드 컴퓨팅 지침은 클라우드 시스템이 전자 보호 건강 정보를 생성, 수신, 유지 관리 또는 전송할 때 규제 대상 기관 및 서비스 제공자가 HIPAA 요건을 준수하도록 의무화하고 있습니다.

HIPAA 규정은 모든 참여 기관이나 업무 흐름에 적용되는 것은 아닙니다. 적용 여부는 해당 기관, 관련된 데이터, 수행되는 기능에 따라 달라집니다.

OpenAI는 ChatGPT Enterprise 및 해당 API를 포함한 자사 비즈니스 서비스의 입력 및 출력 데이터가 기본적으로 모델 훈련이나 개선에 사용되지 않는다고 밝혔습니다. 마찬가지로, Anthropic도 자사 상용 제품의 입력 및 출력 데이터를 기본적으로 모델 훈련에 사용하지 않는다고 확인했습니다.

이러한 제공업체의 정책은 PULSE 배포의 구성을 정의하지 않습니다. 이번 발표에는 보존 기간, 접근 제어, 감사 절차, 데이터 저장 요건 또는 보호 대상 건강 정보 제출에 관한 규칙에 대한 세부 내용이 빠져 있습니다.

OpenAI의 정부 시장 진출 담당 책임자인 펠리페 밀론(Felipe Millon)은 “우리는 AI가 사회의 가장 중요한 과제를 해결하는 사람들에게 유용하고 안전하며 접근 가능해야 한다고 믿는다”고 말했다. 그는 이 라이선스가 공중보건 기관들이 체계적인 절차를 통해 이러한 도구를 평가할 수 있도록 돕기 위한 것이라고 언급했다.

거버넌스 및 평가 방안은 아직 명확히 정해지지 않았다

시범 운영은 2026년 가을에 시작될 예정이다. CHAI는 그 결과물로 도출된 가이드라인이 2027년에 공개되어 다른 공중보건 기관들의 참고 자료로 활용될 것으로 기대하고 있다.

CHAI는 시범 사업을 평가할 지표를 공개하지 않았으며, 각 사용 사례가 기술, 운영, 개인정보 보호, 안전 기준에 따라 별도로 평가될지 여부에 대해서도 설명하지 않았다.

또한 이번 발표에서는 모델 산출물이 어떻게 검토될지에 대한 설명도 빠져 있다. 생성된 대외 커뮤니케이션 내용을 직원이 승인해야 하는지, 번역본을 검증해야 하는지, 검색된 임상 정보를 타당성 확인해야 하는지, 또는 생물감시 및 약물 유행 분석 결과물을 사용 전에 검토해야 하는지 여부가 명시되지 않았다.

NIST 지침은 어떤 AI 기능에 사람의 감독이 필요한지 파악하고, 사용자가 시스템의 성능과 한계를 이해할 수 있도록 교육할 것을 권장한다. 또한 생성형 AI 지침에는 테스트, 검증, 모니터링, 문서화, 개인정보 보호 및 관리 감독에 관한 내용도 포함되어 있다.

앤트로픽(Anthropic)의 유익한 배포 부문 책임자인 엘리자베스 켈리(Elizabeth Kelly)는 “공중보건 팀은 적은 자원으로 더 많은 일을 해내야 하는 상황에 놓여 있으며, AI는 신중하게 도입되고 적절한 안전 장치가 마련된다면 도움이 될 수 있다”고 말했다. 그녀는 PULSE를 통해 실무자들이 초기 단계부터 개인정보 보호, 거버넌스, 책임 있는 사용 조치를 반영하여 자체 환경에서 도구를 테스트할 수 있다고 설명했다.

CHAI가 인용한 전국 카운티 및 시 보건 담당관 협회(National Association of County and City Health Officials)의 데이터에 따르면, 현재 지역 보건 당국의 약 40%가 AI를 사용하지 않고 있는 것으로 나타났습니다. 이 연합은 일부 보건 당국이 업무 흐름을 개선하고 운영 효율성을 높이는 데 관심을 보이고 있다고 언급했습니다.

PULSE는 엔터프라이즈 라이선스, 도입 지원, 동료 커뮤니티, 구현 가이드북을 제공할 예정이다. 그러나 CHAI는 참여 관할 구역에 대한 최소 인력, 인프라, 상호운용성 또는 사이버 보안 요건을 구체적으로 명시하지 않았다.

참여 자격이 있는 기관으로는 주 및 준주 보건국, 카운티 및 시 기관, 부족 당국, 원주민 보건 기관, 대도시 보건국 등이 포함됩니다.

PULSE는 10개 관할 구역의 분석 결과를 더 광범위하게 활용할 수 있는 지침으로 전환할 계획이다. 이번 발표에서는 실행 매뉴얼이 기관 규모, 기술 시스템, 법적 책임, 인력 구성 또는 조달 방식의 차이를 어떻게 반영할지에 대해서는 설명하지 않았다.

또한, 이번 발표에서는 생물감시, 약물 유행 예측 또는 임상 데이터 검색을 통해 도출된 결과가 단순히 테스트 용도로만 사용될 것인지, 직원들에게 검토를 위해 제시될 것인지, 아니면 운영 워크플로우에 통합될 것인지에 대해 명확히 밝히지 않았다.

PULSE는 의료 AI 거버넌스 표준을 위한 ‘건강 AI 연합(Coalition for Health AI)’의 광범위한 활동의 일환이다. 지난 5월, 이 단체는 150명 이상의 의료 AI 관계자가 참여하는 워크숍과 실무 그룹을 통해 8개 거버넌스 분야를 아우르는 지침을 개발할 계획을 발표한 바 있다.

이 연합은 조직의 AI 정책, 거버넌스 구조, 내부 자원에 관한 플레이북 발간을 시작했습니다. 추가 지침은 의료 AI 관리의 다른 영역을 다룰 것으로 예상됩니다.

이와는 별도로, CHAI는 ‘의료 분야 AI의 책임 있는 사용(Responsible Use of AI in Healthcare)’ 자발적 인증 제도와 연계된 거버넌스 플레이북을 마련하기 위해 합동위원회(Joint Commission)와 협력해 왔다. PULSE 발표문에는 참여 공중보건 기관들이 이 인증 제도에 따라 평가를 받게 될 것이라는 내용은 명시되어 있지 않다.

헬스 AI 연합(Coalition for Health AI)의 CEO인 브라이언 앤더슨(Brian Anderson) 박사는 공중보건 기관들이 수년간 제한적인 기술 투자만 해온 상황에서 코로나19 팬데믹에 직면했다고 지적했다. 그는 PULSE 프로그램이 광범위한 도입에 앞서 기관들에 실질적인 AI 경험을 제공하는 것을 목표로 한다고 밝혔다.

“우리는 AI가 공중보건 서비스 제공 방식을 재편할 것임을 알고 있습니다. 문제는 우리가 이를 신중하게 진행할지 여부입니다,”라고 전 백악관 코로나19 대응 코디네이터인 아시시 자(Ashish Jha) 박사는 말했습니다. 그는 이 프로그램이 어떤 응용 프로그램이 효과적인지 테스트하고, 그 결과를 다른 기관들이 참고할 수 있도록 기록할 것이라고 덧붙였습니다.

관련 기사: Bunkerhill, 의료 시스템 전반에 에이전트형 AI 확대를 위해 5,500만 달러 투자 유치

업계 리더들로부터 AI와 빅데이터에 대해 더 자세히 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 ‘AI & Big Data Expo’를 확인해 보세요. 이 포괄적인 행사는 TechEx의 일환으로, ‘Cyber Security & Cloud Expo’를 비롯한 다른 주요 기술 행사와 함께 개최됩니다. 자세한 정보를 보려면 여기를 클릭하세요.

AI 뉴스는 TechForge Media가 제공합니다. 곧 개최될 다른 기업 기술 행사 및 웨비나를 여기서 확인해 보세요.