AI 에이전트 : 새로운 인력은 여전히 ​​관리가 필요합니다

AI 에이전트가 새로운 "디지털 노동자"로 주목받으며 그 소문이 점점 커지고 있으며, 이는 에이전틱 및 생성형 AI의 주류 채택 이전, 특히 로봇 프로세스 자동화와 같은 분야에서 시작된 트렌드입니다. 이 디지털 노동자들은 규율과 순종을 위해 설계되었지만, 인간 동료들과 마찬가지로 그들만의 독특한 특성을 가지고 있습니다.

AI가 제 업무 생활을 어떻게 변화시켰는지 더 깊이 알아보려면, 2024년에 AI가 업무 시간을 절약해준 15가지 방법 - 그리고 2025년에 이를 어떻게 사용할 계획인지에 대한 제 기사를 확인하세요.

Salesforce의 Agentforce 2.0으로 디지털 노동으로의 도약

디지털 노동력으로의 전환은 Salesforce가 최근 기업을 위해 맞춤화된 디지털 노동 플랫폼인 Agentforce 2.0을 출시하며 크게 진전되었습니다. 이 플랫폼은 "모든 부서에서 AI 에이전트를 통해 무한한 노동력을 창출"하는 것을 목표로 하며, 사전에 구축된 기술 라이브러리를 활용해 모든 시스템이나 워크플로우에서 작동합니다. Salesforce에 따르면, Agentforce 2.0은 "향상된 추론 및 데이터 검색"을 통합하여 기존 RPA를 넘어 복잡하고 다단계 질의에 대해 정확한 답변을 제공하고 행동을 조율할 수 있습니다. 이 에이전트들은 Slack 내에서도 상호작용할 수 있어 일상적인 업무 환경에 자연스럽게 녹아듭니다.

디지털 노동으로 팀 강화

Salesforce가 강조하듯, 주요 조직들은 이 플랫폼을 활용해 디지털 노동으로 팀을 강화하고 있습니다. 인재가 부족하고 교육 비용이 높아지면서 기업들은 고객 상호작용을 관리하고 워크플로우 백로그를 처리하기 위해 점점 더 AI에 의존하고 있습니다. 하지만 Salesforce는 "일반적인 응답을 제공하는 부적절한 솔루션"으로는 더 이상 만족할 수 없다고 지적합니다. Copilot과 같은 전통적인 솔루션은 개인화된 취업 신청 가이드와 같은 복잡한 요청에 대해 정확하고 신뢰할 수 있는 응답을 제공하지 못하며, 제품 추천으로 리드를 육성하는 것과 같은 자율적 행동 능력이 부족합니다.

산업 리더들은 자율적인 디지털 노동자들이 이제 다양한 수준에서 이러한 작업을 수행할 수 있다고 동의합니다. Motorola Solutions의 AI 투명성과 교육 담당 이사인 Chris Bennett은 ZDNET과의 인터뷰에서 "숙련된 혁신가, 빠르게 배포 가능한 클라우드 도구, 고객 인식, 그리고 경영진의 지원이 결합되어 2025년에 에이전틱 AI가 번성할 이상적인 환경이 조성되었다"고 말했습니다.

Motorola Solutions는 이미 에이전틱 AI의 힘을 활용하여 "공공 안전과 기업 보안을 개선"하고 있다고 Bennett은 설명합니다. 그들의 AI 애플리케이션은 실시간 데이터를 분석하고 표면화하여 응급 구조대원과 보안 요원에게 중요한 즉각적인 지원을 제공합니다. 그는 "AI 에이전트는 지루하거나 피곤하거나 산만해지지 않는다"고 언급하며, 반복적인 작업을 자동화하여 응급 구조대원이 더 중요한 임무와 커뮤니티 참여에 집중할 수 있도록 돕습니다. 예를 들어, AI 에이전트는 과거 비디오 영상을 검토하는 작업을 가속화하여 자연어 검색을 통해 수사관이 실종자를 더 빨리 찾을 수 있도록 돕습니다.

Aurascape의 공동 창립자이자 부사장인 Viswesh Ananthakrishnan은 AI 에이전트가 프로세스를 직관적으로 이해하여 "문제를 해결하기 위한 일련의 단계 또는 레시피를 만든다"고 설명합니다. 이 에이전트들은 이러한 단계를 실행하고 다른 에이전트들과 협력하여 기업이 어떻게 작동하는지에 대한 포괄적인 시각을 얻을 수 있습니다. Ananthakrishnan은 또한 AI 에이전트가 "수요 예측을 보고 재고가 부족해지기 전에 선제적으로 주문서를 생성하고 제출하는 등의 복잡한 프로세스를 개발하고 실행할 수 있다"고 설명합니다. 이러한 자동화는 작업자들이 반복적인 작업에 소비하는 시간을 크게 줄입니다.

AI 에이전트의 신중한 관리 필요성

하지만 인간 노동자와 마찬가지로 AI 에이전트도 신중한 관리가 필요합니다. 에이전틱 AI 주도 노동력이 광범위한 작업을 완전히 수행하기 위해서는 아직 해야 할 일이 많습니다. Norwest Venture Partners의 파트너인 Scott Beechuk은 "에이전틱 AI의 가능성은 분명하지만, 기업 수준에서 광범위한 에이전틱 AI 채택까지는 몇 년이 더 걸릴 것"이라고 경고합니다. 그는 에이전트가 중요한 비즈니스 프로세스를 자동화하는 데 잠재적인 역할을 고려할 때 신뢰성의 중요성을 강조합니다.

도전 과제 중 하나는 AI 에이전트의 행동 추적 가능성입니다. Ananthakrishnan은 "많은 도구가 사용자의 민감한 데이터로부터 어떻게 응답에 도달했는지 설명하기 어렵고, 모델은 배운 것을 넘어 일반화하는 데 어려움을 겪는다"고 지적합니다.

Beechuk은 대형 언어 모델(LLM)이 "블랙박스처럼 작동"한다고 덧붙이며, "사용자와 엔지니어가 AI가 작업을 성공적으로 완료했는지, 그리고 올바르게 수행했는지 알기 어렵다"고 말합니다. 그는 또한 AI 에이전트의 신뢰성 문제에 대해 경고하며, "AI가 작업을 완료하기 위해 자체 단계를 생성하는 시스템에서는 만들어진 세부 사항이 작업 진행에 따라 더 많은 오류를 초래할 수 있으며, 궁극적으로 출력이 신뢰할 수 없게 된다"고 언급합니다.

인간 노동자는 자연스럽게 쉽게 그리고 규칙적으로 협력하지만, AI 노동자에게는 이것이 더 복잡합니다. Ananthakrishnan은 "에이전트가 여러 시스템과 데이터 저장소와 상호작용하기 때문에 포괄적인 가시성을 달성하는 것은 쉬운 일이 아니다"고 설명합니다. 에이전트가 취하는 각 행동을 포착하기 위해 가시성을 확보하는 것이 중요하며, 이는 엔드포인트 장치에서의 활동에 대한 깊은 통찰과 다양한 형식의 데이터를 처리할 수 있는 능력을 요구합니다. 또한, "엔드포인트에서 얻은 이 컨텍스트를 네트워크 수준의 트래픽과 빠르게 결합하여 에이전트의 행동을 결정하는 데이터를 확인하는 것"뿐만 아니라, "당신의 데이터와 상호작용하는 AI 에이전트의 유형이 신뢰할 수 있는 엔티티인지, 아니면 완전히 새로운 에이전트인지 인식하는 것"도 중요합니다.

AI 시스템 엔지니어의 부상

이러한 복잡성은 새로운 인간 중심의 역할인 AI 시스템 엔지니어를 탄생시킬 수 있습니다. Beechuk은 "이 새로운 품질 보증 및 감독 역할은 기업이 AI 에이전트를 관리하고 지속적으로 최적화하면서 필수적인 역할이 될 것"이라고 말합니다.

다중 에이전트 환경에서 "AI 에이전트는 끊임없이 상호작용하고 진화하며, 개별 작업을 수행하기 위해 새로운 데이터의 꾸준한 공급을 소비할 것"이라고 그는 설명합니다. "그들 중 하나가 의도적이든 비의도적이든 나쁜 데이터를 받아 행동을 변경하면, 전날 완벽하게 작업을 수행했더라도 잘못하거나 덜 정확하게 작업을 수행하기 시작할 수 있습니다. 한 에이전트의 오류는 전체 시스템을 저하시키는 연쇄 효과를 일으킬 수 있습니다. 기업은 이를 방지하기 위해 필요한 만큼의 AI 시스템 엔지니어를 고용할 것입니다."

Bennett은 기업과 기술 팀이 "에이전틱 AI를 지원할 준비가 잘 되어 있을 수 있지만, 에이전틱과 인간 워크플로우 간의 적절한 균형을 맞추기 위해서는 여전히 시간과 경험이 필요하다"고 조언합니다. "우리의 조언은 AI를 인간 전문가를 대체하는 것이 아니라 보완하는 것으로 보는 것"입니다.