IBM: 데이터 사일로가 기업 AI 도입의 주요 장애물로 남아있다

IBM 연구에 따르면, 기업 AI 도입의 주요 장애물은 기반 기술이 아니라 분열된 데이터 생태계의 지속적인 문제점이다.

IBM의 부사장 겸 최고 데이터 책임자(CDO)인 에드 러블리는 데이터 사일로를 현대 데이터 전략의 핵심 취약점으로 지목했다. 그의 발언은 AI가 확장 준비가 된 반면 기업 데이터 준비도는 뒤처진다는 IBM 비즈니스 가치 연구소(IBM Institute for Business Value)의 새 연구 결과를 따른 것이다.

1,700명의 고위 데이터 임원을 대상으로 한 이 보고서는 재무, 인사, 마케팅, 공급망 등 부서별 데이터가 통합된 표준이나 공통 언어가 없는 별개의 영역에 갇혀 있음을 드러냈다.

이러한 분절화는 AI 추진력을 직접적으로 약화시킨다. 러블리는 "데이터가 고립된 사일로에 갇히면 모든 AI 프로젝트가 6~12개월에 걸친 장기간의 데이터 정리 작업으로 전락한다"며 "팀은 실행 가능한 통찰력을 도출하는 것보다 데이터를 찾고 조정하는 데 더 많은 시간을 소모한다"고 설명했다.

이는 경쟁력에 직접적인 위협이 됩니다. CIO와 CDO에게 주어진 임무는 단순히 데이터를 수집하고 보호하는 것에서 진화하여, 고급 AI 시스템의 연료로 효과적으로 활용하는 것으로 확대되었습니다.

데이터 관리자로부터 비즈니스 촉진자로

연구 결과는 명확합니다: 데이터 리더들은 비즈니스 영향력에 철저히 집중해야 하며, CDO의 92%가 자신의 성공을 이러한 결과 중심 접근법과 연결합니다.

이는 핵심적인 딜레마를 부각시킵니다: 92%가 비즈니스 가치를 최우선으로 삼지만, '데이터 기반 결과의 비즈니스 가치를 평가할 명확한 지표'를 보유하고 있다고 확신하는 비율은 29%에 불과합니다.

이러한 야망과 현실의 간극을 메울 수 있는 것이 목표 달성을 위해 학습하고 행동할 수 있는 자율적 AI 에이전트입니다. IBM 연구에 따르면 CDO의 83%가 AI 에이전트 도입의 잠재적 이점이 관련 위험보다 크다고 믿는 등 이러한 도구에 대한 신뢰도가 높아지고 있습니다.

글로벌 의료 기술 기업 메드트로닉에서는 팀들이 수동으로 송장, 구매 주문서, 배송 확인서를 일일이 대조하는 업무에 매몰되어 있었습니다. AI 솔루션 도입으로 이 워크플로가 자동화되면서 문서 처리 시간이 송장당 20분에서 8초로 단축되었으며 정확도는 99% 이상을 유지했습니다. 이를 통해 직원들은 저부가가치 데이터 입력 업무에서 해방되어 더 높은 영향력을 발휘하는 업무에 집중할 수 있게 되었습니다.

마찬가지로 재생에너지 기업 매트릭스 리뉴어블스는 자산 모니터링을 위한 중앙 집중식 데이터 플랫폼을 도입해 보고 시간을 75% 단축하고 비용이 많이 드는 가동 중단 시간을 10% 줄였습니다.

IBM이 지적한 핵심 AI 장애물: 아키텍처, 거버넌스, 인재

이러한 성공 사례를 재현하려면 사일로를 피하는 새로운 아키텍처 접근법이 필요합니다. 데이터를 중앙 저장소로 비싸고 느리게 이동시키는 구식 모델은 사라지고 있습니다. IBM 연구에 따르면 현재 CDO(최고데이터책임자)의 81%가 데이터를 AI로 이동시키는 대신 AI를 데이터에 접근시키는 방식을 선호합니다.

이 전략은 분산된 데이터 위에 가상화된 접근 계층을 구축하는 데이터 메쉬(data mesh) 및 데이터 패브릭(data fabric)과 같은 현대적 패턴에 의존합니다. 또한 '고객 360' 뷰나 재무 예측 데이터셋과 같이 특정 비즈니스 요구에 맞춰 패키징된 재사용 가능한 데이터 자산인 '데이터 제품(data products)'을 촉진합니다.

그러나 데이터 접근성 향상은 거버넌스 요구를 강화한다. 민첩성과 보안의 균형을 맞추기 위해 CDO와 CISO 간의 강력한 협력 관계가 필수적이다. 데이터 주권은 핵심 관심사로, CDO의 82%가 이를 위험 관리 전략의 초석으로 삼고 있다.

가장 큰 장벽은 인적 자본일 수 있습니다. 보고서는 진전을 저해할 위험이 있는 확대되는 인재 격차를 강조합니다. 2025년 CDO의 77%가 최고 데이터 인재 유치 또는 유지에 어려움을 겪고 있다고 보고했으며, 이는 2024년 62%에서 급증한 수치입니다.

이러한 부족 현상은 급변하는 기술 요구사항으로 인해 더욱 악화됩니다. IBM 조사에 따르면 CDO의 82%가 "생성형 AI와 관련된, 지난해에는 존재하지 않았던 데이터 관련 직무를 채용 중"이라고 답했습니다. 이러한 문화적·기술적 과제를 극복하는 것이 종종 가장 어려운 부분입니다.

얀마 홀딩스의 최고디지털책임자(CDO) 오쿠야마 히로시는 "문화적 변화는 어렵지만, 의사 결정 과정 중 증거 수집이 필요하며 결정은 데이터와 사실에 기반해야 한다는 인식이 확산되고 있다"고 지적했다.

데이터 사일로를 해체하여 기업 AI 구축하기

기술적 측면에서 기업 리더들은 분산된 데이터 환경에서 벗어나도록 주도해야 합니다. 이는 현대적인 연합 데이터 아키텍처에 투자하고, 조직 전반에 걸쳐 안전하고 재사용 가능한 '데이터 제품'을 구축하고 활용하도록 팀을 독려하는 것을 포함합니다.

둘째, 문화적으로 데이터 리터러시는 IT 부서만의 문제가 아닌 전사적 필수 과제가 되어야 한다. 데이터 민주화가 조직 발전을 가속화한다고 응답한 CDO의 80%는 옳다. 이를 위해서는 데이터 중심 문화를 조성하고 비기술 직원이 데이터를 활용할 수 있도록 직관적인 도구에 투자해야 한다.

궁극적인 목표는 고립된 AI 시범 운영에서 벗어나 핵심 비즈니스 프로세스 전반에 지능형 자동화를 확장하는 것입니다. 성공적인 조직은 데이터를 애플리케이션의 부산물이 아닌 가장 전략적인 자산으로 취급하는 곳일 것입니다.

에드 러블리는 이렇게 결론지었습니다: "대규모 기업 AI는 실현 가능하지만, 성공은 올바른 데이터 기반을 구축하는 데 달려 있습니다. CDO에게는 혁신을 주도하고 비즈니스 가치를 창출하는 원활하게 통합된 기업 데이터 아키텍처를 구축하는 것을 의미합니다.

이를 마스터한 기업은 AI 역량을 강화할 뿐만 아니라 운영을 혁신하고 의사결정을 가속화하며 변화에 더 신속히 적응하고 지속 가능한 경쟁 우위를 확보할 것입니다."

관련 기사: 앤트로픽, 미국 최대 규모 데이터 센터 프로젝트로 확장 가속화

업계 리더들로부터 AI와 빅데이터에 대해 더 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 확인해 보세요. 이 포괄적인 행사는 TechEx의 일부이며 사이버 보안 엑스포를 포함한 다른 주요 행사와 동시 개최됩니다. 자세한 정보는 여기에서 확인하세요.

AI 뉴스는 TechForge Media가 제공합니다. 예정된 기업 기술 행사 및 웨비나를 여기서 확인하세요.