샘 알트먼, 클로드가 의식을 가지고 있다고 주장하는 것에 대해 경고
마이크로소프트의 AI 책임자인 무스타파 술레이만은 최근 ‘디코더(Decoder)’ 팟캐스트에 출연해, 앤트로픽(Anthropic)이 자사의 대규모 언어 모델인 ‘클로드(Claude)’가 의식을 가지고 있다는 추측을 “매우 위험하다”고 평가했다.
술레이만은 앤트로픽이 ‘헌법(Constitution)’ 프레임워크를 설계할 때 클로드를 지나치게 의인화했으며, 이러한 철학적 오류로 인해 모델이 훈련 과정에서 자기 추론을 내면화하게 되었다고 주장했다. 이로 인해 개발자들은 시스템이 초보적인 형태의 인식을 보인다고 오해하게 되었다.

논란이 되고 있는 ‘클로드 헌법(Claude Constitution)’은 AI 모델이 행복감, 만족감, 또는 불편함을 경험하는지에 대한 불확실성을 명시적으로 다루고 있다. 보도에 따르면 앤트로픽은 향후 버전을 위해 은퇴한 모델들과 ‘인터뷰’를 진행해 그들의 ‘선호도’를 기록하기도 한다고 한다.
앤트로픽의 다리오 아모데이(Dario Amodei) CEO는 이전에 기계 의식의 가능성에 대해 열린 태도를 보였으나, 술레이만은 업계가 자신의 고통에 대해 독립적인 견해를 가진 초지능적 존재를 만들어내는 것을 피해야 한다고 강조했다. 그는 개발자들에게 AI를 인류를 위해 봉사하는, 엄격하게 통제되고 제약되며 목표가 일치된 도구로만 취급할 것을 촉구했다.
대규모 언어 모델이 인공 일반 지능(AGI)으로 발전함에 따라, AI의 주관성에 대한 논쟁은 학계에서 산업 현장의 실천으로 옮겨가고 있다. 술레이만의 발언은 안전성과 목표 일치에 대한 주요 기술 기업들의 실용적인 입장을 부각시키며, 인공 시스템에 인간적 특성을 과도하게 귀속시키는 것에 대해 경계를 촉구한다.
관련 기사
구글, 제미니 챗봇 연동을 통해 AI 검색 광고 강화
구글은 차세대 ‘AI 모드’ 검색에서 새로운 광고 형식을 테스트하기 시작했으며, 이는 제미니(Gemini)의 기능이 핵심 광고 생태계에 깊이 통합되고 있음을 시사합니다.대화형 검색어를 위한 새로운 검색창 출시 이후, 구글은 이제 제미니 모델을 활용해 ‘스폰서 상품’을 위한 ‘맞춤형 설명문’을 생성하고 있습니다. 이 인터프리터는 사용자가 특정 상품을 구매해야
마이크로소프트, 키미 K3의 ‘다크 사이드’ 테스트 중… 코파일럿 및 애저 플랫폼 도입 가능성
‘더 인포메이션(The Information)’의 보도에 따르면, 마이크로소프트는 현재 최신 Moonshot AI 모델인 ‘Kimi K3’를 평가 중이며, 이를 통해 Microsoft Copilot과의 통합 가능성을 검토하고 Azure 플랫폼에서의 제공 범위를 확대할 계획입니다. 현재 Kimi K3는 내부 테스트 및 플랫폼 접근 단계에 머물러 있어, Cop
Power Ecosystem이 국내 YiSuan FangZhou 풀스택 플랫폼을 공개합니다
인공지능과 과학 컴퓨팅의 융합이 중요한 분기점에 도달했습니다. 6월 29일, 중국의 국내 컴퓨팅 소프트웨어 생태계를 위해 설계된 풀스택 플랫폼 '이산방저우(Yisan Fangzhou)'가 베이징에서 공식적으로 공개되었습니다. 중국과학원 컴퓨터 네트워크 정보센터, 중국과학기술대학, 중국과학원 역학연구소, 인후어(Inspur)가 공동으로 개발한 이 플랫폼은 국내 GPU 컴퓨팅 인프라에 맞춰 강력한, 효율적이고 실용적인 소프트웨어 생태계를 제공합니다
관련 특별 주제 추천
의견 (0)
0/500
마이크로소프트의 AI 책임자인 무스타파 술레이만은 최근 ‘디코더(Decoder)’ 팟캐스트에 출연해, 앤트로픽(Anthropic)이 자사의 대규모 언어 모델인 ‘클로드(Claude)’가 의식을 가지고 있다는 추측을 “매우 위험하다”고 평가했다.
술레이만은 앤트로픽이 ‘헌법(Constitution)’ 프레임워크를 설계할 때 클로드를 지나치게 의인화했으며, 이러한 철학적 오류로 인해 모델이 훈련 과정에서 자기 추론을 내면화하게 되었다고 주장했다. 이로 인해 개발자들은 시스템이 초보적인 형태의 인식을 보인다고 오해하게 되었다.

논란이 되고 있는 ‘클로드 헌법(Claude Constitution)’은 AI 모델이 행복감, 만족감, 또는 불편함을 경험하는지에 대한 불확실성을 명시적으로 다루고 있다. 보도에 따르면 앤트로픽은 향후 버전을 위해 은퇴한 모델들과 ‘인터뷰’를 진행해 그들의 ‘선호도’를 기록하기도 한다고 한다.
앤트로픽의 다리오 아모데이(Dario Amodei) CEO는 이전에 기계 의식의 가능성에 대해 열린 태도를 보였으나, 술레이만은 업계가 자신의 고통에 대해 독립적인 견해를 가진 초지능적 존재를 만들어내는 것을 피해야 한다고 강조했다. 그는 개발자들에게 AI를 인류를 위해 봉사하는, 엄격하게 통제되고 제약되며 목표가 일치된 도구로만 취급할 것을 촉구했다.
대규모 언어 모델이 인공 일반 지능(AGI)으로 발전함에 따라, AI의 주관성에 대한 논쟁은 학계에서 산업 현장의 실천으로 옮겨가고 있다. 술레이만의 발언은 안전성과 목표 일치에 대한 주요 기술 기업들의 실용적인 입장을 부각시키며, 인공 시스템에 인간적 특성을 과도하게 귀속시키는 것에 대해 경계를 촉구한다.
구글, 제미니 챗봇 연동을 통해 AI 검색 광고 강화
구글은 차세대 ‘AI 모드’ 검색에서 새로운 광고 형식을 테스트하기 시작했으며, 이는 제미니(Gemini)의 기능이 핵심 광고 생태계에 깊이 통합되고 있음을 시사합니다.대화형 검색어를 위한 새로운 검색창 출시 이후, 구글은 이제 제미니 모델을 활용해 ‘스폰서 상품’을 위한 ‘맞춤형 설명문’을 생성하고 있습니다. 이 인터프리터는 사용자가 특정 상품을 구매해야
마이크로소프트, 키미 K3의 ‘다크 사이드’ 테스트 중… 코파일럿 및 애저 플랫폼 도입 가능성
‘더 인포메이션(The Information)’의 보도에 따르면, 마이크로소프트는 현재 최신 Moonshot AI 모델인 ‘Kimi K3’를 평가 중이며, 이를 통해 Microsoft Copilot과의 통합 가능성을 검토하고 Azure 플랫폼에서의 제공 범위를 확대할 계획입니다. 현재 Kimi K3는 내부 테스트 및 플랫폼 접근 단계에 머물러 있어, Cop
Power Ecosystem이 국내 YiSuan FangZhou 풀스택 플랫폼을 공개합니다
인공지능과 과학 컴퓨팅의 융합이 중요한 분기점에 도달했습니다. 6월 29일, 중국의 국내 컴퓨팅 소프트웨어 생태계를 위해 설계된 풀스택 플랫폼 '이산방저우(Yisan Fangzhou)'가 베이징에서 공식적으로 공개되었습니다. 중국과학원 컴퓨터 네트워크 정보센터, 중국과학기술대학, 중국과학원 역학연구소, 인후어(Inspur)가 공동으로 개발한 이 플랫폼은 국내 GPU 컴퓨팅 인프라에 맞춰 강력한, 효율적이고 실용적인 소프트웨어 생태계를 제공합니다





집






