PolyAI, 대화형 시스템을 위한 코딩 에이전트 ‘Wren’ 공개

PolyAI는 에이전트형 음성 AI를 그 어느 때보다 인간과 유사하게 만드는 것을 목표로 하고 있습니다. 출처: 게티

PolyAI의 연구 부사장인 맷 헨더슨(Matt Henderson)은 자율 코딩 에이전트인 ‘렌(Wren)’이 고객 서비스를 개선하기 위해 기업용 대화형 에이전트를 어떻게 최적화하는지 설명합니다

수년 동안 기업 고객센터는 기존의 IVR(Interactive Voice Response, 대화형 음성 응답) 시스템에 의존해 왔습니다.

이러한 플랫폼은 고객에게 경직되고 복잡하게 얽힌 메뉴를 강요하는데, 이는 실제 고객의 의도와 자주 일치하지 않아 높은 이탈률과 심각한 소비자 불만을 초래합니다.

초기 AI 붐은 텍스트 기반 챗봇과 계단식 음성 모델을 통해 미미한 개선을 가져왔지만, 이러한 솔루션들은 말 끊기, 망설임, 배경 소음 등 인간 대화의 자연스러운 흐름을 처리할 수 있는 음향 인식 능력이 근본적으로 부족했습니다.

해결책은 2017년 케임브리지 대학교의 머신 인텔리전스 랩(Machine Intelligence Lab)에서 탄생한 AI 기업인 PolyAI입니다.

거대 투자자들로부터 1억 2천만 달러 이상의 자금을 지원받은 이 회사는 복잡하고 중요한 기업 간 상호작용을 처리하도록 설계된 오디오 네이티브 대화 시스템을 선도적으로 개발해 왔습니다.

그러나 이 회사의 야망은 거기서 그치지 않습니다. 대다수가 인간을 에이전트형 AI를 개선하는 주체로 상상하는 반면, PolyAI는 모든 에이전트 대화를 분석하고 이를 선제적으로 개선하여 기업에 막대한 이익을 가져다주는 코딩 에이전트 ‘Wren’을 통해 틀에 얽매이지 않는 사고를 펼치고 있습니다.

PolyAI: 수치로 보는 성장

• 추정 기업 가치 5억 달러
• 총 2억 달러 이상의 자금 조달
• 2017년 런던에서 설립
• 시리즈 D 투자 라운드에서 8,600만 달러 유치

대화를 듣다: 오디오 중심 전환

AI가 고객 서비스 플랫폼을 자율적으로 개선하기 위해서는 먼저 통화자의 말을 실제로 이해할 수 있어야 합니다.

음성 AI의 업계 표준은 역사적으로 계단식 아키텍처였습니다. 즉, 자동 음성 인식(ASR) 엔진이 음성을 텍스트로 변환하고, 대규모 언어 모델(LLM)이 텍스트 응답을 생성하며, 텍스트 음성 변환(TTS) 엔진이 음성을 합성하는 방식입니다.

그러나 이 방식은 통화에서 감정적, 음향적 맥락을 제거하여, LLM이 입력을 처리하기도 전에 중요한 단서를 놓치게 만듭니다.

이러한 생동감 없는 합성 음성을 극복하기 위해 PolyAI는 원시 오디오 입력을 직접 인지하고 추론하는 최첨단 대화 모델인 ‘Dialog-RSN-1’을 개발했습니다.

Dialog-RSN-1은 대화 순서 관리, 음성 인식 및 응답 생성을 단일 오디오 인식 LLM에 통합하여, 마치 인간 상담원처럼 통화자의 망설임을 포착하고, 좌절감을 감지하며, 대화 중단을 처리할 수 있습니다.

PolyAI의 연구 부사장인 맷 헨더슨(Matt Henderson)은 블로그를 통해 다음과 같이 말했습니다. “PolyAI를 기반으로 서비스를 구축하는 기업들에게 이는, 훌륭한 인간 상담원처럼 통화를 듣고 처리하는 대화 에이전트를 의미합니다. 즉, 망설임을 포착하고, 좌절감이 고조되기 전에 이를 감지하며, 언제 말을 해야 할지 정확히 파악하는 것입니다.”

이 모델의 차별화된 점은 오디오 인식 기능을 입력 측으로만 제한한다는 것입니다. 대신 응답 생성을 위해 별도의 TTS(음성 합성) 시스템을 사용함으로써, 기업들은 300밀리초 미만의 응답 지연 시간을 달성하면서도 브랜드 목소리와 규정 준수 기준을 엄격하게 통제할 수 있습니다.

PolyAI의 연구 부사장인 맷 헨더슨(Matt Henderson)은 대화형 에이전트가 뛰어난 인간 상담원처럼 통화를 듣고 처리한다고 말합니다. 출처: matthen.com

렌(Wren): 에이전트 뒤에 숨은 에이전트

고성능의 오디오 네이티브 음성 에이전트를 도입하면 고객 상호작용 시 발생하는 즉각적인 마찰은 해소되지만, 에이전트를 도입한 후 방치해 둘 수는 없습니다. 실제로 기업이 직면한 장기적인 과제는 유지 관리와 최적화에 있습니다.

과거에는 AI 에이전트를 개선하기 위해 전담 엔지니어링 팀이 소량의 통화 기록을 수동으로 검토하고, 예외 사례를 식별하며, 새로운 대화 경로를 코딩해야 했습니다. 그러나 이는 현대 기업에게 시간과 비용이 많이 드는 작업입니다.

여기서 PolyAI의 ‘Agentic Dialog Platform’에 기본적으로 내장된 코딩 에이전트인 Wren이 등장합니다. PolyAI가 “여러분의 에이전트 뒤에 있는 에이전트”라고 설명하는 Wren은 고객을 상대하는 대화형 에이전트를 자율적이고 지속적으로 모니터링하며, 개선하고 최적화합니다.

고수준 요약이나 소규모 샘플 세트에 의존하는 기존 분석 도구와 달리, Wren은 모든 채널에 걸친 실시간 고객 상호작용을 100% 분석합니다.

Wren은 주로 ‘자가 치유’와 ‘자가 개선’이라는 두 가지 병행 최적화 과정을 통해 작동합니다.

PolyAI의 에이전트 OS 책임자인 아르카디우스 크와피셰프스키(Arkadiusz Kwapiszewski)가 자가 복구와 자가 개선에 대해 설명하고 있습니다. 출처: LinkedIn

PolyAI의 에이전트 OS 책임자인 아르카디우스 크와피셰프스키(Arkadiusz Kwapiszewski)는 다음과 같이 설명합니다. “자가 치유는 에이전트에서 문제가 발생한 부분을 파악하여 수정하고, 자가 개선은 이미 작동하고 있지만 더 잘 작동할 수 있는 부분을 찾아내며, 이는 귀하에게 가장 중요한 지표를 기준으로 측정됩니다.”

“사용자가 지표를 결정하면, Wren이 해당 지표를 개선할 기회를 찾아냅니다. 그리고 그 효과는 Agentic Dialog Platform의 A/B 테스트 기능을 통해 검증할 수 있습니다.

“첫째, ‘자가 복구’ 기능을 통해 버그, 통합 오류 또는 고객의 불만 사항을 자동으로 식별하고, 이를 수정하는 데 필요한 코드를 생성합니다.

“둘째, KPI 기반의 ‘자가 개선’을 추구합니다. Wren은 고객 만족도(CSAT), 통화 처리율, 예약 전환율과 같은 핵심 비즈니스 지표를 기준으로 상호 작용을 최적화할 기회를 선제적으로 탐색합니다.”

‘자가 치유’는 에이전트에서 문제가 발생한 부분을 찾아내어 수정하고, ‘자가 개선’은 이미 작동하고 있지만 더 잘 작동할 수 있는 부분을 찾아냅니다

. — 아르카디우스 크와피셰프스키(Arkadiusz Kwapiszewski), PolyAI 에이전트 OS 책임자

PolyAI의 주요 투자자

• NVIDIA: NVIDIA는 단순한 재정적 지원 그 이상을 제공합니다. 또한 PolyAI가 음성-텍스트 변환, 의도 이해, 텍스트-음성 변환을 단 몇 밀리초 만에 처리할 수 있도록 하는 핵심 하드웨어 인프라를 공급합니다.
• 코슬라 벤처스(Khosla Ventures): 이 벤처 캐피털 회사는 초기 투자 라운드부터 폴리AI를 꾸준히 후원해 왔습니다. 코슬라 벤처스는 사회 및 경제에 막대한 영향을 미칠 잠재력을 지닌 초기 단계 기술 기업에 중점을 둡니다.
• 헤도소피아(Hedosophia): 글로벌 투자 회사인 헤도소피아는 PolyAI의 5,000만 달러 규모 시리즈 C 투자 라운드를 주도했으며, 이후 진행된 8,600만 달러 규모의 시리즈 D 라운드에서는 공동 주도 역할을 맡았습니다. 헤도소피아의 지속적인 재정적 지원 덕분에 PolyAI는 호텔·리조트, 소매, 금융 서비스 분야로 사업 영역을 확장할 수 있었습니다.