E.SUN 은행, IBM과 손잡고 은행업용 AI 거버넌스 프레임워크 구축

E.SUN 은행은 IBM과 협력하여 내부 은행 애플리케이션에 대한 보다 명확한 AI 거버넌스 규칙을 수립하고 있습니다. 이러한 움직임은 금융 업계 전반의 추세를 반영합니다. 많은 금융 기관이 이미 사기 탐지 및 신용 평가에 AI를 활용하고 있으며, 일부는 고객 서비스 분야에서도 AI를 도입하고 있지만, 최근 들어 법적 및 위험 관리 요건을 준수하며 이러한 시스템을 관리하는 것이 새로운 우선 과제로 대두되고 있습니다.

은행들은 AI를 도입할 때 점점 더 다양한 과제에 직면하고 있습니다. 모델은 출시 전에 어떻게 검증되어야 할까요? 잘못된 결정에 대한 책임은 누구에게 있을까요? 그리고 기업들은 규제 당국에 시스템의 공정성과 안전성을 어떻게 입증할 수 있을까요?

이러한 문제들을 해결하기 위해 E.SUN 은행과 IBM 컨설팅은 은행업 전용 AI 거버넌스 프레임워크를 개발했습니다. 이 프로젝트에는 금융 기관이 EU AI 법(EU AI Act) 및 ISO/IEC 42001과 같은 글로벌 표준을 금융 서비스 환경에 적용하여 AI에 대한 내부 통제를 구현할 수 있는 방법을 설명하는 백서가 포함되어 있습니다.

이 프레임워크는 AI 모델 배포 전 검토 절차와 실제 운영 후 지속적인 모니터링 절차를 상세히 설명합니다. 또한 데이터 사용 및 위험 평가 수행을 위한 지침도 마련하고 있습니다.

E.SUN 은행은 이 프레임워크가 금융 기업들이 거버넌스와 규제 준수를 유지하면서 AI 시스템을 통합할 수 있도록 돕기 위해 설계되었다고 밝혔습니다. 다음 단계는 확립된 규제 범위 내에서 AI를 제한된 도구에서 대출 및 결제와 같은 핵심 업무로 확대하는 것입니다.

은행들, AI 리스크 관리 과제 해결에 나서다

금융 기관들이 AI에 대한 안전장치를 마련해야 할 타당한 이유가 있습니다. 은행업은 신뢰에 의존하며, 규제 당국은 의사 결정 과정의 추적 가능성을 의무화하고 있습니다. 결과 도출의 논리가 불분명한 많은 AI 모델의 '블랙박스' 특성은 신용 승인이나 사기 분석과 같은 분야에서 위험을 초래하며, 전 세계적으로 규제 당국의 감시가 강화되고 있습니다.

유럽연합(EU)의 2024년 AI 법안은 금융과 같은 분야의 고위험 AI에 대해 엄격한 규제를 부과하며, 위험 평가, 훈련 데이터 문서화, 배포 후 모니터링을 요구합니다.

글로벌 표준도 등장하고 있습니다. 2023년에 발표된 ISO/IEC 42001은 조직의 AI 관리 시스템 구축을 위한 지침을 제공하며, 일관된 전사적 AI 거버넌스를 가능하게 하기 위해 감독, 모델 모니터링, 데이터 관리에 중점을 둡니다.

E.SUN 은행과 IBM의 협력 프로젝트는 두 프레임워크의 요소를 종합하여, 이러한 원칙들이 일상적인 은행 업무에 어떻게 적용될 수 있는지 보여줍니다.

파일럿 프로젝트에서 전사적 시스템으로의 AI 확장

은행들은 오랫동안 위험 및 사기 분석에 머신러닝을 사용해 왔지만, 최신 AI 모델들은 고객 서비스, 문서 검토, 내부 지식 관리 분야로 그 영역을 확장하고 있습니다.

이러한 확장은 새로운 거버넌스 요구를 낳습니다. 고객 서비스 챗봇은 위험이 낮을 수 있지만, 대출 승인이나 사기 탐지에 영향을 미치는 AI 모델은 상당한 재정적 파급 효과를 수반합니다.

E.SUN Bank와 IBM의 프레임워크는 출시 전 모델 검토, 배포 후 결과 모니터링, 개발 및 규정 준수 팀 간의 명확한 책임 배분을 포함하여 이러한 위험을 관리하는 프로세스를 수립합니다. 함께 제공되는 백서에서는 AI 시스템을 위험 수준별로 분류하고 적절한 감독을 적용하는 단계를 상세히 설명합니다.

금융 서비스 전반에서 AI 거버넌스 확산

E.SUN 은행의 이러한 노력은 견고한 거버넌스가 AI 확장의 필수 요건으로 인식되는 글로벌 업계 추세를 반영합니다.

업계 데이터에 따르면 금융 분야에서 AI 도입이 널리 확산되고 있습니다. 2024년 NVIDIA 보고서에 따르면 금융 서비스 기업의 약 91%가 주로 사기 탐지 및 위험 모델링을 위해 AI를 평가 중이거나 이미 사용하고 있는 것으로 나타났습니다. 딜로이트(Deloitte) 연구에 따르면 금융 기관의 70% 이상이 AI 투자를 늘릴 계획이며, 주로 규정 준수 모니터링과 위험 분석을 목표로 하고 있습니다.

이와 동시에 규제 당국은 자동화 시스템이 중요한 의사 결정에 미치는 영향을 은행들이 추적할 것을 촉구하며 감독을 강화하고 있다. 이에 따라 내부 감독에 대한 투자가 확대되면서, 단순한 모델 정확도에서 데이터 출처, 의사 결정 논리, 장기적인 모델 행동까지 포괄하는 방향으로 초점이 이동하고 있다.

거버넌스가 AI 도입 속도에 미칠 영향

거버넌스에 대한 강조는 은행업에서의 AI 통합 속도를 좌우할 것으로 보입니다. 명확한 규칙이 없으면 많은 기업이 소규모 시범 운영을 넘어서는 데 주저할 수밖에 없습니다. 체계적인 프레임워크는 규제 당국의 기대치를 충족하면서 AI 프로젝트의 확장을 가능하게 할 수 있습니다.

이것이 바로 E.SUN Bank 이니셔티브의 핵심 목표입니다. 이 프레임워크는 글로벌 표준을 은행 업무 흐름에 맞춰 조정함으로써, 명확한 감독 하에 AI를 도입하기 위한 청사진을 제공합니다. IBM은 이 프레임워크가 AI 도입이 확대됨에 따라 금융 기관이 AI 리스크를 관리할 수 있도록 돕기 위해 개발되었다고 밝혔습니다.

이러한 노력은 기업 AI에서 거버넌스의 역할이 진화하고 있음을 보여줍니다. 초점은 초기 모델 개발에서 이러한 시스템의 지속적인 관리로 이동하고 있습니다. AI가 핵심 은행 업무에 내재화됨에 따라, 효과적인 거버넌스는 기반 기술만큼이나 중요해질 수 있습니다.

관련 기사: 매뉴라이프, 핵심 금융 워크플로우에 AI 에이전트 통합

업계 전문가들로부터 AI와 빅데이터에 대해 더 자세히 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & Big Data Expo를 확인해 보세요. 이 포괄적인 행사는 TechEx 산하 다른 주요 기술 행사들과 함께 개최됩니다. 자세한 정보는 여기를 클릭하세요.

AI 뉴스는 TechForge Media에서 제공합니다. 다가오는 기업 기술 행사 및 웨비나를 여기서 확인해 보세요.