부실한 인공지능 도입이 인력 감축을 촉진할 수 있다

많은 기업들이 생산성, 경쟁력, 효율성이라는 비즈니스의 핵심 기둥을 훼손하고 있다. 클라우드 데이터 및 AI 컨설팅 기업 데이터토닉(Datatonic)에 따르면, 이러한 쇠퇴는 인간과 AI의 협업 방식이 잘못 구현된 데서 비롯된다. 해당 기업은 차세대 기업 AI 단계에서는 '인간이 개입하는(Human-in-the-Loop, HiTL)' 프레임워크 내에서 인간과 함께 작동하도록 신중하게 설계되고 관리되는 AI 시스템을 도입한 기업들이 성공할 것이라고 전망한다.

데이터토닉의 연구에 따르면, AI를 인간 업무 흐름에 통합하지 못하는 기업들은 생산성 정체로 경쟁력을 잃고 있다. 컨설팅사는 하이브리드 인간-AI 접근법이 의사결정을 가속화하고 전반적인 운영 성과를 향상시킨다고 주장한다. 스콧 아이버스 데이터토닉 CEO는 "AI는 업무 수행 방식을 재설계하는 것"이라며 "우리가 관찰한 가장 큰 위험은 AI가 실제 비즈니스를 운영하는 사람들과 분리되어 작동할 때 발생하는 생산성 유출"이라고 지적했다.

수년간의 AI 투자 후, 기업들은 투자 수익을 입증해야 하는 압박이 커지고 있습니다. 그러나 연구에 따르면 사용자 신뢰 부족으로 많은 프로젝트가 시범 단계에 머물러 있습니다. 결과적으로 조직들은 AI 기반 통찰력을 활용해 의사 결정과 업무 흐름에 긍정적 영향을 미칠 기회를 놓치고 있으며, 잠재적 효율성 향상도 실현되지 못하고 있습니다.

데이터토닉은 AI의 속도와 인간의 판단력 및 책임감을 결합한 HiTL(Human-in-the-Loop) 모델이 미래 성공의 핵심이라고 강조합니다. 이는 에이전트 지원 소프트웨어 개발에서 명확히 드러나는데, AI 시스템이 광범위한 프롬프트로부터 코드를 생성하는 방식입니다. 이러한 환경에서 인간 팀은 실행 전 개발 목표를 정의하고 요구사항을 검토하며 계획을 확인합니다. 방향이 설정되면 AI 에이전트가 모듈형 구성 요소를 조립합니다.

업무 환경 내 AI 도입은 재무 및 운영 분야에서 가속화되고 있습니다. 예를 들어, 백오피스 및 재무 부서에서 AI 기반 문서 처리 시스템은 청구서 처리 비용을 최대 70%까지 절감하는 것으로 보고되지만, 재무 팀은 여전히 최종 승인 권한을 보유합니다.

데이터토닉의 앤드류 하딩 최고기술책임자(CTO)는 "이는 협력 관계"라며 "인간이 평가 시스템을 설계하고, 계획을 검증하며, 안전장치를 마련하고, 핵심 결정을 내린다. AI는 속도와 규모로 실행한다. 진정한 기업 가치는 이 조합에서 나온다"고 설명한다.

다타토닉은 보안 통제 및 거버넌스 프레임워크의 미비점을 지적하며, 많은 기업이 완전 자율형 AI 에이전트를 안전하게 배포하는 데 어려움을 겪고 있다고 경고합니다. 자율성은 조직이 승인 체크포인트를 구현하고 성과 기준을 벤치마킹할 때만 확장될 수 있습니다. 평가 시스템 또한 AI 모델과 함께 진화하여 규정 위반 없이 안전하고 의도된 운영을 보장해야 합니다.

하딩은 덧붙여 "신뢰가 쌓이면 기업은 AI에 더 많은 업무를 책임감 있게 위임할 수 있다. 그러나 거버넌스를 우회하는 것은 진전을 가속화하지 않고 위험만 증가시킨다"고 말했다.

데이터토닉은 향후 2년간 AI 에이전트가 준비 및 검증을 관리하는 AI 처리 워크로드가 크게 가속화될 것으로 전망한다. 팀이 자원을 투입하기 전에 AI 시스템을 활용해 의사결정을 테스트하고 검증하는 사례도 늘어날 전망이다.

스콧 아이버스는 "재무, 인사, 마케팅 같은 전문 부서가 AI로 강화된 소규모 민첩 팀에 의해 운영되는 미래"를 전망하며, "승자는 AI를 우회하는 것이 아니라 함께 일하는 법을 가르치는 기업이 될 것"이라고 결론지었습니다.

(이미지 출처: "Waterfall" by PMillera4, CC BY-NC-ND 2.0 라이선스)

업계 리더들로부터 AI와 빅데이터에 대해 더 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & 빅데이터 엑스포를 살펴보세요. 이 포괄적인 행사는 TechEx의 일부로, 다른 주요 기술 행사와 동시 개최됩니다. 자세한 내용은 여기에서 확인하세요.

AI 뉴스는 TechForge Media가 제공합니다. 다른 예정된 기업 기술 행사 및 웨비나를 여기에서 확인하세요.