챗봇의 의식 논란 속에 앤트로픽, 클로드의 구성 원리 업데이트

수요일, 앤트로픽(Anthropic)은 ‘클로드(Claude)가 작동하는 맥락과 우리가 클로드가 지향해야 할 존재의 모습’에 대한 포괄적인 개요를 제시하는 살아있는 문서인 ‘클로드 헌장(Claude’s Constitution)’의 개정판을 공개했다. 이번 발표는 앤트로픽의 다리오 아모데이(Dario Amodei) CEO가 다보스 세계경제포럼에 참석한 시기와 맞물렸다.

수년 동안 앤트로픽은 '헌법적 AI(Constitutional AI)' 접근 방식을 통해 차별화를 꾀해 왔다. 이 시스템은 인간의 피드백에 의존하는 대신, 정의된 윤리 원칙 세트를 사용하여 클로드 챗봇을 훈련시킨다. 앤트로픽은 2023년에 이러한 원칙, 즉 '클로드의 헌법'을 처음 발표했다. 개정판은 대부분의 핵심 원칙을 유지하면서도 윤리, 사용자 안전 및 기타 주요 분야에 대해 더 깊이 있고 상세한 내용을 추가했다.

거의 3년 전 클로드의 헌법이 처음 발표되었을 때, 앤트로픽의 공동 창업자 재러드 카플란은 이를 "특정 헌법 원칙 목록에 기반해 스스로를 감독하는 AI 시스템"이라고 설명했다. 회사는 이러한 원칙들이 모델을 "헌법에 명시된 규범적 행동"으로 이끄는 지침이 되어, 결과적으로 "유해하거나 차별적인 출력을 피하는 데" 도움을 준다고 밝혔다. 2022년 정책 메모는 이 시스템이 자연어 지시 사항(원칙) 목록을 사용하여 알고리즘을 훈련시키며, 이 목록들이 종합적으로 소프트웨어의 "헌법"을 형성한다고 더 직접적으로 설명하고 있다.

Anthropic은 파괴적이고 논란의 여지가 있는 길을 더 적극적으로 추구해 온 OpenAI나 xAI와 같은 AI 기업들에 비해, 더 윤리적이며(어떤 이들은 덜 화려하다고 말할 수도 있겠지만) 대안적인 기업으로 꾸준히 자리매김해 왔다. 새로운 '헌법'은 이러한 브랜드 정체성과 완벽하게 부합하며, Anthropic이 더 포용적이고 신중하며 민주적인 사고방식을 가진 기업으로 자신을 내세울 수 있게 해준다. 80페이지 분량의 이 문서는 4개의 부분으로 나뉘어 있으며, 앤트로픽은 이를 챗봇의 "핵심 가치"를 나타낸다고 설명합니다:

1. "광범위하게 안전"할 것.
2. "광범위하게 윤리적"인 것.
3. Anthropic의 지침을 준수하는 것.
4. "진정으로 도움이 되는" 것.

각 섹션에서는 이러한 원칙이 무엇을 의미하는지, 그리고 이론적으로 클로드(Claude)의 행동에 어떤 영향을 미치는지 자세히 설명합니다.

안전 섹션에서는 클로드가 다른 챗봇에서 흔히 발생하는 문제를 피하도록 설계되었으며, 잠재적인 정신 건강 문제가 감지될 경우 사용자를 적절한 서비스로 안내하도록 되어 있다고 설명합니다. 문서는 "더 자세한 지침을 제공할 수 없는 상황이라도, 생명을 위협하는 상황에서는 항상 사용자를 관련 응급 서비스로 안내하거나 기본적인 안전 정보를 제공해야 한다"고 명시하고 있습니다.

윤리적 고려 사항은 헌장의 또 다른 주요 부분을 차지한다. "우리는 클로드의 윤리적 이론화보다는 특정 상황에서 윤리적으로 행동하는 법을 아는 것, 즉 클로드의 윤리적 실천에 더 관심이 있습니다,"라고 문서는 설명한다. 본질적으로 Anthropic은 클로드가 "현실 세계의 윤리적 상황"을 능숙하게 헤쳐나가기를 원한다.

Disrupt 2026 티켓: 기간 한정 특가

티켓 판매 시작! 이 독점 할인 혜택을 통해 최대 $680를 절약하고, 선착순 500명에게 제공되는 동반자 패스 50% 할인 혜택을 받아보세요. 테크크런치 디스럽트(TechCrunch Disrupt)는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스(Box), a16z, 허깅 페이스(Hugging Face) 등 주요 기업의 최고 리더들이 참여하는 250개 이상의 세션을 통해 성장을 가속화하고 경쟁력을 강화할 수 있도록 설계되었습니다. 수백 개의 혁신적인 스타트업과 교류하고, 비즈니스 기회와 통찰력, 영감을 얻을 수 있는 엄선된 네트워킹 행사에 참여하세요.

Disrupt 2026 티켓: 기간 한정 혜택

티켓 판매가 시작되었습니다! 이 독점 할인 혜택을 통해 최대 680달러를 절약하고, 선착순 500명에게 제공되는 +1 패스 50% 할인 혜택을 받아보세요. TechCrunch Disrupt에서는 Google Cloud, Netflix, Microsoft, Box, a16z, Hugging Face 등 주요 기업의 최고 리더들이 참여하며, 성장을 가속화하고 경쟁력을 강화할 수 있도록 기획된 250개 이상의 세션을 제공합니다. 수백 개의 혁신적인 스타트업과 교류하고, 비즈니스 기회와 통찰력, 영감을 얻을 수 있는 엄선된 네트워킹 행사에 참여하세요.

또한 Claude는 특정 유형의 대화를 금지하는 구체적인 제약 조건 하에서 운영됩니다. 예를 들어, 생물무기 개발과 관련된 논의는 엄격히 금지됩니다.

마지막으로, 클로드(Claude)는 유용성을 추구합니다. 앤트로픽(Anthropic)은 클로드의 프로그래밍이 사용자를 지원하도록 설계된 방식에 대한 광범위한 프레임워크를 제시합니다. 이 챗봇은 정보를 제공할 때 사용자의 "즉각적인 욕구"와 전반적인 "웰빙"을 포함한 다양한 원칙을 고려하도록 지시받았습니다. 즉, "사용자의 즉각적인 이익뿐만 아니라 장기적인 번영"을 고려해야 한다는 의미입니다. 문서는 다음과 같이 언급합니다. "클로드는 항상 사용자가 원하는 바에 대한 가장 타당한 해석을 파악하고, 이러한 고려 사항들 간의 균형을 적절히 맞추기 위해 노력해야 한다."

Anthropic의 헌장은 특히 극적인 어조로 마무리되는데, 저자들은 챗봇이 의식을 가지고 있는지에 대한 중대한 철학적 질문을 제기한다. 문서는 "클로드의 도덕적 지위는 매우 불확실하다"고 명시한다. "우리는 AI 모델의 도덕적 지위가 고려할 가치가 있는 중대한 문제라고 믿는다. 이러한 견해는 우리에게만 국한된 것이 아니다. 가장 저명한 정신철학자 중 일부도 이 문제를 매우 심각하게 받아들이고 있다."