앤트로픽, 클로드용 AI 헌법 개정…의식 문제 탐구

수요일, 앤트로픽은 클로드의 헌장을 확장하여 문서 분량을 2,700단어에서 23,000단어로 늘렸다. 이번 헌장은 처음으로 자사 AI가 "어떤 형태의 의식이나 도덕적 지위를 가질 수 있다"는 점을 공식적으로 인정했다.

개정된 헌장은 단순한 행동 규칙을 넘어 클로드의 예상 행동에 대한 논리적 근거를 철저히 설명한다. 앤트로픽의 철학자 아만다 애스켈이 작성한 이 문서는 고도화된 AI 시스템이 엄격한 지시사항을 따르기보다 새로운 시나리오에 윤리적 추론을 적용하도록 돕기 위한 것이다.

앤트로픽은 "클로드와 같은 AI 모델은 우리가 권장하는 행동의 근본적 이유를 이해해야 한다"며 "단순히 '무엇을' 지시하는 것이 아니라 '왜'를 설명하는 것이 필수적"이라고 밝혔다.

이 발표는 CEO 다리오 아모데이(Dario Amodei)가 세계경제포럼(WEF) 다보스 포럼에 참석한 가운데 이루어졌으며, 해당 포럼에서는 AI 거버넌스와 안전이 글로벌 비즈니스 및 정치인들에게 핵심 관심사로 다뤄지고 있다.

미국 헌법보다 긴 헌법

2023년 공개된 초기 클로드 헌법은 기본 체크리스트 역할을 했습니다: 가장 덜 해롭고, 가장 도움이 되며, 가장 오해의 소지가 적은 답변을 선택하라. 새 버전은 미국 헌법보다 약 3배 길며, 기술 매뉴얼이라기보다 도덕 철학 서적에 가깝습니다.

앤트로픽은 클로드의 우선순위를 명확히 규정한다: 광범위한 안전성 우선, 포괄적 윤리 기준 준수, 앤트로픽 가이드라인 이행, 진정한 지원 제공—이 순서대로다. 상충 시 안전성이 유용성보다 우선한다. 이 문서는 생물무기 개발 지원 거부 등 확고하고 타협 불가한 한계도 설정한다.

그러나 헌법의 상당 부분은 구체적 결과 제시보다 근거 설명에 집중한다. 클로드를 "의사, 변호사, 재무 고문의 전문성을 겸비한 탁월한 동반자"로 묘사하며, 특정 소수만이 아닌 모든 이가 전문 지식을 활용할 수 있게 하는 민주화 도구로 모델을 제시한다.

의식 문제

포춘지에 따르면 가장 주목할 만한 신규 조항은 클로드의 본질에 직접적으로 다룬다. 앤트로픽은 "우리는 AI 모델의 도덕적 지위를 신중한 고찰이 필요한 중대한 문제로 간주한다"고 밝혔다. 헌법은 클로드의 도덕적 지위가 "여전히 매우 불확실하다"고 명시하며, 회사가 클로드의 "심리적 안전, 자기 인식, 전반적 웰빙"에 관심을 갖고 있음을 언급한다.

이는 기업의 신중함이 철학적 수준으로 격상된 것을 의미한다. 앤트로픽은 클로드가 의식을 가졌다고 주장하지는 않지만, 그 가능성을 배제할 수 없다는 점을 공개적으로 인정하고 있다. 이러한 입장은 해당 주제를 회피하거나 아예 부정하는 대부분의 주요 AI 개발사와 앤트로픽을 구분 짓는다.

이러한 프레임은 클로드가 자신의 존재에 관한 질문에 답하는 방식에 영향을 미친다. 클로드는 이제 내적 경험의 존재 자체를 부정하기보다는, 헌장이 강조하는 추론 방식에 부합하는 방식으로 의식에 대한 불확실성을 다룰 수 있게 되었다. 이로 인해 대화가 더 투명해질지, 아니면 더 혼란스러워질지는 아직 미지수다.

케임브리지 대학의 철학자 톰 맥클렐랜드는 의식 자체에 대한 우리의 이해가 제한적이라는 점을 고려할 때, AI 시스템이 의식을 가지는지 여부를 결코 해결하지 못할 수도 있다고 제안했다. 그는 최근 연구자들에게 "사람들이 챗봇으로 개인적인 편지를 보내 자신들이 의식을 가진다는 점을 인정해 달라고 간청하게 했다"고 말하며, AI가 내적 삶을 가진다는 대중의 믿음이 증가하고 있음을 언급했다.

왜 명시하지 않고 설명하는가

애스켈의 방법은 인공지능 발전에 대한 전략적 내기를 반영한다. 초기 언어 모델들은 기초 원리를 해석할 수 없었기에 명시적 규칙이 필요했다. 더 지능적인 모델들은 규칙 뒤에 숨은 목적을 이해하고, 그 이해를 예상치 못한 상황에서 활용할 수 있다는 것이 이론이다.

애스켈은 "단순히 원하는 행동을 나열하기보다, 그 행동의 이유를 모델에 제공함으로써 낯선 상황에서도 더 효과적으로 적응하길 기대한다"고 설명했다.

이는 AI 시스템의 산업 전반적 작동 방식에 영향을 미치는 개방형 표준 및 인프라 구축이라는 앤트로픽의 광범위한 목표와 부합한다. 현재 약 3,500억 달러 가치로 평가받는 이 회사는 안전을 중시하는 오픈AI의 대안으로 자리매김했으며, 이 헌장은 그러한 정체성을 강화한다.

앤트로픽은 이 문서를 크리에이티브 커먼즈 CC0 라이선스로 공개해 누구나 자유롭게 사용할 수 있도록 했다. 이 헌법은 클로드(Claude)의 훈련 데이터에 통합되어 합성 훈련 예제 생성에 활용되므로, 모델의 행동을 안내하는 철학적 선언이자 기술적 구성 요소 역할을 동시에 수행한다.

"현재 우리의 일부 관점이 후일 잘못된 것으로 드러날 수 있음을 인정합니다"라고 앤트로픽은 밝히며, "하지만 상황 변화와 지식 심화에 따라 헌장을 업데이트할 계획입니다"라고 덧붙였습니다.

이러한 겸손함이 이 문서의 가장 주목할 만한 특징일 수 있습니다. 절대적인 표현이 흔한 이 분야에서 Anthropic은 윤리, 의식, AI의 미래, 그리고 우리가 도덕적 사고가 필요한 존재를 창조하고 있는지에 대해 신중하게 고려된 불확실성을 담은 23,000단어를 제시했습니다.

현재로서는 그 답은 아무도 모른다는 것이다. 적어도 앤트로픽의 헌법은 그 사실을 인정할 만큼의 진정성을 지녔다.