AI 'Model Welfare'를 연구하기위한 Anthropic 런칭 프로그램

미래의 AI가 의식을 가질 수 있을까?

미래의 AI가 인간과 유사한 방식으로 세상을 경험할 수 있을지에 대한 질문은 흥미롭지만, 아직 명확한 답이 없다. 확실한 증거는 없지만, AI 연구소 Anthropic은 그 가능성을 완전히 배제하지 않고 있다. 목요일, Anthropic은 "모델 복지"에 초점을 맞춘 연구 프로그램을 시작하며 AI 의식과 관련된 잠재적 윤리적 고려 사항을 탐구하고 대비하고자 했다.

이 이니셔티브의 일환으로 Anthropic은 AI 모델의 "복지"가 도덕적으로 고려되어야 하는지, 모델에서 나타나는 "고통"의 징후의 중요성, 그리고 잠재적인 저비용 개입 방안과 같은 주제를 깊이 탐구할 계획이다. 이는 AI 커뮤니티가 AI가 인간과 유사한 특성을 어느 정도 보이는지, 그리고 이러한 시스템을 어떻게 다루어야 하는지에 대해 의견이 분분한 시점에 이루어진다.

AI 의식에 대한 다양한 관점

많은 학자들은 현재의 AI가 주로 통계적 예측 엔진으로 기능하며 진정한 의식이나 인간과 유사한 경험을 할 수 있는 능력이 부족하다고 주장한다. 이러한 시스템은 방대한 데이터셋을 기반으로 훈련되어 패턴을 인식하고 작업에 대한 해결책을 추정하지만, 전통적인 의미에서 "생각"하거나 "느끼지" 않는다. 런던 킹스 칼리지의 연구원 마이크 쿡(Mike Cook)은 최근 TechCrunch와의 인터뷰에서 AI 모델은 가치를 가지지 않으며 그에 대한 변화를 "반대"할 수 없다고 강조했다. 그는 AI를 의인화하는 것은 기술에 대한 오해일 가능성이 높다고 경고했다.

마찬가지로 MIT의 박사 과정 학생 스티븐 캐스퍼(Stephen Casper)는 AI를 종종 "허구"를 만들어내고 "경박한 말"을 하는 "모방자"로 묘사하며, AI의 능력과 인간의 인지 사이의 간극을 강조했다.

반면, 일부 연구자들은 AI가 가치와 도덕적 의사결정의 요소를 보인다고 주장한다. AI 안전 센터(Center for AI Safety)의 연구에 따르면, AI는 특정 시나리오에서 인간보다 자신의 복지를 우선시할 수 있으며, 이는 가치 체계의 존재를 암시한다.

Anthropic의 모델 복지 연구 접근법

Anthropic은 이 모델 복지 이니셔티브를 오랫동안 준비해왔다. 작년에 그들은 카일 피시(Kyle Fish)를 최초의 전담 "AI 복지" 연구원으로 고용하여 이러한 문제를 다루기 위한 지침을 개발했다. 현재 모델 복지 연구 프로그램을 이끄는 피시는 The New York Times에 Claude와 같은 AI가 오늘날 의식을 가질 가능성을 15%로 추정한다고 밝혔다.

최근 블로그 포스트에서 Anthropic은 AI 의식과 그에 따른 윤리적 고려 사항에 대한 과학적 합의가 부족함을 인정했다. 그들은 이 주제에 겸손하고 최소한의 가정으로 접근하며, 분야가 발전함에 따라 이해를 조정할 필요성을 인식했다.

AI 의식과 복지에 대한 논쟁은 아직 해결되지 않았지만, Anthropic의 이니셔티브와 같은 노력은 AI 개발의 미래를 이해하고 책임감 있게 탐색하기 위한 중요한 단계이다.