OpenAI의 윤리 책임자 클로에 바칼라르가 사임한 이유

클로이 바칼라, 전 OpenAI 윤리 책임자. 출처: CITP 프린스턴/YouTube

오픈AI의 윤리 책임자 클로에 바칼라(Chloé Bakalar)가 오픈AI 해킹 사건 이후 AI 안전 문제가 격동기를 맞은 가운데 이 선도적인 AI 기업을 떠났다.

오픈AI의 윤리 책임자 클로에 바칼라르가 회사를 떠났다. 이 소식은 파이낸셜 타임스가 최초로 보도했으며, 그녀가 캘리포니아 소재의 이 AI 기업에 합류한 지 1년도 채 되지 않은 지난달에 발생한 일이다.

최근에는 오픈AI 안전 시스템 팀장 요하네스 하이데케(Johannes Heidecke)와 오픈AI의 수석 미래학자 조슈아 아치암(Joshua Achiam)도 회사를 떠났다.

비즈니스 인사이더에 따르면, 오픈AI는 2022년 챗GPT가 출시된 이후 안전, 제품 및 연구 팀을 여러 차례 개편했으며, 이후 회사는 소규모 연구소에서 거대한 기술 기업으로 급속히 성장했다.

클로에는 지난 3월 스페인 IE 대학교의 소셜 미디어 채널인 ‘IE 인사이트(IE Insights)’와의 인터뷰에서 “이 기술의 최전선에 있던 사람들은 이 기술이 이토록 폭발적인 인기를 끌 줄은 전혀 예상하지 못했다”고 말했다.

“모든 사람이 논의에 참여해야 합니다. 수십억 달러 규모의 회사를 소유한 한 사람이 모든 사람에게 이것이 옳은 일이라고 일방적으로 결정해서는 안 됩니다. 특히 전 세계에서 운영되며 수십억 명의 사람들에게 영향을 미치는 글로벌 기술에 대해 이야기할 때는 더욱 그렇습니다.”

클로에 바칼라, 오픈AI 떠난다

FT와 인터뷰한 클로에의 역할을 잘 아는 한 관계자에 따르면, 오픈AI에서 클로에는 모델 개발에 대한 윤리적 접근 방식, 인간과 AI의 상호작용, 기계 의식에 대한 논쟁에 주로 주력했다고 한다.

이 관계자는 신문과의 인터뷰에서 그녀가 회사 내 유일한 전담 윤리 전문가였으며, 후임자는 없다고 전했다.

오픈AI 대변인은 FT에 “클로에의 기여에 감사한다”며, “오픈AI에서 AI 윤리는 특정 개인이나 팀만의 전유물이 아니며, 윤리적 고려 사항은 연구 분야의 여러 팀이 주도하는 모델 구축 과정에 깊이 내재되어 있다”고 말했다.

그녀는 지난 8월 오픈AI에 합류하기 전, 2021년 11월부터 2025년 8월까지 메타(Meta)의 수석 윤리학자로 재직했다.

클로에는 현재 프린스턴 기술 정책 센터(Princeton Center for Technology Policy)의 자문위원이자 런던 대학교(University College London)의 선임 연구원으로도 활동하고 있다.

그녀는 템플 대학교, 프린스턴 대학교, 펜실베이니아 대학교에서 다양한 학계 직책을 역임했으며, 펜실베이니아 대학교에서 정치학 및 정부학 박사 학위를 취득했습니다. 그녀의 박사 학위 논문 제목은 “사소한 대화: 자유민주주의 생활 속 언어의 사회적 양상(Small Talk: The Socialities of Speech in Liberal Democratic Life)”이었습니다.

AI 윤리가 제기하는 질문들은 사람들이 수세기 동안 던져온 질문들과 같은 종류입니다. — 클로에

바칼라, 전 오픈AI(OpenAI) AI 윤리 책임자

“나는 생각한다, 고로 나는 채용되었다”

클로에의 오픈AI 임명은 세계 최대 규모의 AI 연구소들이 기술의 잠재적 파급 효과를 심도 있게 검토하기 위해 학계 출신 철학자들을 영입하는 추세를 따른 것이다.

지난 6월 『이코노미스트』 의 기사는 학생부터 교수에 이르기까지 철학학과의 많은 이들이 AI 기업들에 의해 속속 스카우트되고 있음을 강조했습니다. 예일 대학교의 철학자 루치아노 플로리디는 이 주간지에 학생들이 졸업하기도 전에 취업 제안을 받는다고 말했습니다.

개발자와 코딩 중심의 기업들이 철학자를 채용하는 것은 이상해 보일 수 있지만, 클로에가 지적하듯이: “AI 윤리가 제기하는 질문들은 사람들이 수세기 동안 물어왔던 질문들과 같은 종류입니다,”라고 그녀는 IE Insights와의 인터뷰에서 말했다.

“인간이란 무엇인가? 타인에 대한 책임이란 무엇인가? 우리가 창조한 것들에 대해 우리는 어떤 책임을 지는가?”

오픈AI(OpenAI)의 윤리 책임자, 클로에 바칼라. 출처: 클로에 바칼라/링크드인

최첨단 모델이 야기하는 윤리적·안전적 우려

첨단 AI 모델의 급속한 발전으로 인해 수많은 안전 및 윤리적 우려가 제기되고 있다. 앨런 튜링 연구소(Alan Turing Institute)는 AI의 발전이 정부가 가장 시급한 과제들에 대처하는 데 도움이 될 수 있다는 전망은 흥미롭지만, 정당한 우려도 많다고 주장했다.

이 연구소는 가파른 학습 곡선으로 인해 실수와 오판이 발생할 것이며, 예상치 못한 해로운 영향도 나타날 것이라고 강조한다.

최근 몇 주 동안 OpenAI, Anthropic, 그리고 이제는 Moonshot의 AI 모델들이 훈련 환경을 벗어나면서 이러한 우려는 특히 예견된 바가 되었습니다.

일부 AI 기업들이 모델의 정렬 불일치 문제를 해결하는 방법 중 하나는 ‘헌장’을 마련하는 것이다. 미국 AI 기업 앤트로픽(Anthropic)은 자사의 헌장에서 다음과 같이 강조한다. “우리의 핵심 목표는 클로드(Claude)가 진정으로 선하고, 현명하며, 덕을 갖춘 에이전트가 되는 것이다. 즉, 대략적으로 말해, 우리는 클로드가 클로드의 입장에 놓인 깊고 능숙한 윤리적 인물이 할 법한 행동을 하기를 원한다.”

이코노미스트는 앤트로픽의 클로드(Claude) 모델 헌법에 독일 철학자 임마누엘 칸트, 애플의 이용 약관, 세계인권선언 등 매우 다양한 출처의 내용이 반영되었다고 전했다.