AWS 신경기호 AI, 규제 산업을 위한 검증 가능한 에이전트 자동화 제공

AWS는 Bedrock의 자동 추론 검사 기능을 일반 공개함으로써 기업 및 규제 산업이 더 많은 AI 애플리케이션과 에이전트를 채택하고 배포하는 데 더 큰 신뢰를 가질 수 있을 것으로 믿습니다.

또한 수학적 검증을 통해 기준 진실을 확립하는 자동 추론과 같은 방법이 기업들의 신경기호적 AI로의 전환을 도울 것으로 전망합니다. AWS는 이를 AI 환경에서 다음 단계의 중대한 진화이자 핵심 차별화 요소로 보고 있습니다.

자동 추론 검증을 통해 기업 사용자는 응답 정확도를 검증하고 모델 환각 현상을 탐지할 수 있습니다. AWS는 지난해 12월 re:Invent 컨퍼런스에서 베드록에 이 기능을 처음 소개하며 거의 모든 환각 현상을 식별할 수 있다고 주장했습니다. 초기에는 아마존 베드록 가드레일을 통해 제한된 사용자만 접근 가능했던 이 도구는 조직이 책임 있는 AI 정책을 정의할 수 있게 합니다.

AWS 자동 추론 그룹의 부사장 겸 저명한 과학자인 바이런 쿡(Byron Cook)은 벤처비트와의 인터뷰에서 이번 프리뷰가 기업 환경에서 시스템의 효과성을 입증했다고 밝혔습니다. 또한 이 도구는 상징적이고 구조화된 추론 능력과 생성형 AI의 신경망 기능을 결합한 AI의 가치를 조직들이 인식하는 데 기여했습니다.

쿡은 "자동 추론은 신경상징적 AI라는 광범위한 개념에 속한다"며 "신경상징적 AI에 대한 관심이 높아지면서 사용자들은 이 도구를 활용하는 과정에서 해당 기술의 중요성을 절실히 깨달았다"고 설명했다.

쿡은 일부 고객사가 AWS에 데이터 및 답변 주석 문서를 분석하도록 허용했다고 언급했다. 이 도구의 성능은 규칙서를 손에 쥔 인간과 비교해도 손색이 없는 것으로 확인됐다. 그는 진실성과 정확성 개념이 주관적일 수 있지만, 자동 추론은 이러한 모호성을 대부분 피한다고 덧붙였다.

"정말 놀라웠습니다,"라고 그는 말했다. "논리학 배경을 가진 사람들이 내부 채팅에서 무엇이 진실인지 논쟁하다가, 몇 번의 메시지 교환 후 도구를 가리키며 '아, 이게 맞구나'라고 깨닫는 모습을 보는 건 경이로웠습니다."

일반 출시를 위해 AWS는 자동 추론 검사에 다음과 같은 새로운 기능을 추가했습니다:

• 최대 80,000 토큰 또는 약 100페이지 규모의 대용량 문서 지원
• 테스트 시나리오 저장 및 재사용 기능으로 정책 검증 간소화
• 사전 정의된 사양으로부터 시나리오 자동 생성
• 정책 개선을 위한 자연어 제안
• 사용자 정의 가능한 검증 설정

쿡에 따르면, 자동 추론 검사는 모델이 해결책을 허구로 생성하지 않았음을 증명함으로써 AI 시스템의 진실성을 검증합니다. 이 기능은 생성형 AI의 비결정적 특성이 잘못된 출력을 생성할 수 있다는 우려를 가진 규제 기관 및 규제 대상 기업에 더 큰 확신을 제공할 수 있습니다.

신경상징적 AI와 진실성 확립

쿡은 자동 추론 검증이 신경기호적 AI의 핵심 원리를 입증하는 데 도움이 된다고 강조했다.

신경기호적 AI는 언어 모델에 사용되는 신경망의 패턴 인식과 기호적 AI의 구조화된 논리를 결합합니다. 신경망이 데이터 패턴으로부터 학습하는 반면, 기호적 AI는 명시적 규칙과 논리적 추론을 기반으로 작동합니다. 파운데이션 모델은 주로 신경망에 의존하기 때문에 환각 현상에 취약하며, 이는 기업의 주요 우려 사항입니다. 반대로 기호적 AI는 수동 프로그래밍 없이는 유연성이 부족합니다.

게리 마커스 같은 영향력 있는 AI 전문가들은 신경기호적 AI가 인공 일반 지능(AGI) 달성에 필수적이라고 주장해왔다.

쿡과 AWS는 신경기호적 AI 개념을 기업에 도입하는 데 적극적입니다. 팟캐스트에서 벤처비트의 맷 마셜은 AWS가 생성형 AI에 수학적·논리적 엄밀성을 적용해 환각 현상을 줄이는 자동 추론 검증 같은 방법에 집중하고 있다고 논의했습니다.

현재 Kognitos, Franz Inc., UMNAI 등 소수의 기업만이 제품화된 신경상징적 AI 솔루션을 제공하고 있습니다.

검증에 수학적 엄밀성 적용

자동 추론은 주어진 쿼리에 대한 모델 응답에 수학적 증명을 적용하여 작동합니다.

이 기능은 만족 가능성 모듈 이론(SMT)이라는 방법을 활용하며, 여기서 기호들은 미리 정의된 의미를 지닙니다. 이를 통해 논리(if, then, and, or)와 수학이 모두 포함된 문제를 해결합니다. 이 기술은 모델의 응답에 이 방법을 적용하여, 여러 번의 테스트 실행 없이도 일련의 정책이나 기준 데이터와 비교하여 검증합니다.

예를 들어, 기업은 재무 감사의 정확성을 검증하고자 할 수 있습니다. 모델이 승인되지 않은 지불이 포함된 보고서를 표시하면, 자동 추론은 이를 논리적 진술로 분해합니다:

(forall ((r Report))

(=> (containsUnapprovedVendorPayments r)

(shouldEscalate r)))

그런 다음 Bedrock Guardrails에서 사용자가 구성한 정의, 변수 및 유형을 참조하여 방정식을 해결함으로써 모델의 응답이 정확하고 진실에 기반했음을 증명합니다.

증명 가능한 AI 에이전트 보장

쿡은 에이전트 기반 사용 사례가 자동화된 추론 검증을 통해 상당한 이점을 얻을 수 있다고 언급했습니다. 베드록을 통한 광범위한 접근은 그 유용성을 입증하는 데 도움이 될 것입니다. 그러나 그는 자동화된 추론 및 기타 신경상징적 AI 기술이 아직 초기 단계임을 경고했습니다.

쿡은 "현재 해당 분야는 매우 추측적이지만, 에이전트형 AI에 영향을 미칠 것이라 믿습니다"라며 "명제 내 모호성 식별, 가능한 해석 간 핵심 차이점 특정화, 사용자 명확화 요청 등 여러 기법이 존재하며 이는 핵심적일 것입니다. 이는 몇 년 전 생성형 AI 실험을 시작한 고객들의 감정적 여정과 유사합니다"라고 말했습니다.