딥마인드 CEO, 미국 주도의 AI 모델 테스트 촉구

구글 딥마인드의 공동 창립자이자 CEO인 데미스 하사비스. 출처: 데미스 하사비스/링크드인

구글 딥마인드 CEO 데미스 하사비스, 범용 인공지능의 위험성을 강조하며 미국 주도의 거버넌스 체계 구축을 주창

구글 딥마인드의 CEO 데미스 하사비스는 최첨단 AI 모델을 평가하기 위한 미국 주도의 규제 기구 설립을 제안했다. 그는 인류가 인공 일반 지능(AGI)에 가까워짐에 따라 핵 및 생물학적 위협과 관련된 위험을 비롯한 다양한 위험을 완화해야 할 시급한 필요성을 강조했다.

데미스 하사비스는 노벨상 수상자이자 구글 딥마인드의 공동 창립자다. 그는 최근 앤트로픽(Anthropic)으로 이적한다고 발표한 동료 존 점퍼(John Jumper)와 함께 노벨 화학상을 공동 수상했다. 데미스는 런던 대학교(University College London)에서 인지신경과학 박사 학위를 취득했다.

그는 AI 위협에 대해 심각한 경고를 보내는 한편, AI의 잠재력에 대해서는 낙관적인 전망을 내비쳤다. “우리는 자원이 더 이상 인류 발전의 제약 요인이 되지 않는 지점에 도달하여, 놀라운 풍요의 새로운 시대를 맞이할 수도 있다”고 말하며, AI가 인류가 직면한 가장 시급한 과제들을 해결하는 데 도움이 될 것이라고 주장했다.

AGI에 대한 주요 우려

데미스는 선도적인 AI 기업들이 현재 치열하고 다층적인 상업적·지정학적 경쟁을 벌이고 있다고 지적했다. 이 경쟁에는 그가 소속된 구글 딥마인드(Google DeepMind)를 비롯해 오픈AI(OpenAI), 앤트로픽(Anthropic), 딥시크(DeepSeek)와 같은 경쟁사들이 참여하고 있다.

데미스는 자신의 서브스택(Substack) 블로그에 “우리는 이미 최첨단 모델들이 사이버 보안에 제기하는 도전 과제를 목격해 왔으며, 능력이 계속 발전함에 따라 핵 및 생물학적 위험을 포함한 다른 위협들이 조만간 나타날 수 있다”고 썼다.

데미스는 “AGI가 도래하기 전까지 남은 이 귀중한 시간을 활용하여, 이 기술이 전 인류의 이익을 위해 기여할 수 있도록 만들어야 한다”고 덧붙였다.

그는 또한 현재 알려지지 않은 분야에서 발생할 수 있는 잠재적 위험을 강조하며, “앞으로 우리는 점점 더 자율적이고 재귀적으로 스스로를 개선해 나가는 시스템에 대한 통제력을 유지하기 위해 강력한 안전 장치가 필요할 것이며, 시간이 지나야 비로소 명확해질 미지의 문제들을 해결해야 할 것”이라고 말했다.

이 경고는 최근 미국 정부가 국가 안보 문제를 이유로 앤트로픽(Anthropic)의 ‘Fable 5’ 및 ‘Mythos 5’ 모델에 대한 모든 해외 접근을 중단하라는 지침을 내린 데 따른 것으로, 해당 제한 조치는 이후 해제된 것으로 알려졌다.

AI를 묘사한 일러스트. 이 이미지는 AI가 양자 컴퓨팅 분야의 발전을 위해 어떻게 활용될 수 있는지를 보여준다. 출처: Google DeepMind/Unsplash

AGI에 대한 데미스의 견해는 다른 전문가들과 싱크탱크들로부터 지지를 받고 있다. 국제관계 및 지속가능발전 센터(Center for International Relations and Sustainable Development)는 ‘왜 AGI가 세계의 최우선 과제가 되어야 하는가(Why AGI Should be the World’s Top Priority)’라는 제목의 기사에서, 국가적 및 국제적 규제가 없다면 인류는 인간의 이해, 인식, 통제 범위를 벗어난 비생물학적 지능에 대한 통제력을 상실할 위험에 처할 것이라고 경고했다.

특히, 2026년 1월 ‘종말의 시계(Doomsday Clock)’를 자정까지 85초로 설정해 역사상 가장 가까운 시점에 도달했던 『원자과학자회보(Bulletin of the Atomic Scientists)』 역시 AI 사용에 관한 국제 지침을 수립하기 위한 긴급한 조치를 촉구했다.

구글 딥마인드 CEO 겸 공동 창립자 데미스 하사비스(왼쪽)와 구글 딥마인드 전 부사장 존 점퍼(오른쪽) | 출처: 존 코팔로프 / 게티 이미지

“우리는 AGI가 도래하기 전 이 소중한 기회를 활용하여, 전 인류의 이익을 위해 이 기술을 발전시켜야 합니다.” 데미스 하사비스, 구글 딥마인드 공동 창립자 겸 CEO

미국 주도의 규제 제안

데미스는 미국이 가진 경제적·기술적 위상을 고려할 때, 최첨단 모델을 테스트하기 위해 역동적이고 유연하며 엄격한 접근 방식을 채택한 프레임워크를 개발하는 데 있어 첫걸음을 내딛기에 유리한 위치에 있다고 주장했다.

데미스의 제안은 상세하고 구체적이다. “이는 연방 정부가 감독하는 민관 협력 체제나 금융산업규제기구(FINRA)와 유사한 자율 규제 기구를 모델로 한 새로운 표준 기구를 설립할 수 있을 것이다.

“이 표준 기구는 평가 프로토콜을 개발하고, 관련 연방 기관 및 미국 국립 연구소들과 협력하여 국가 안보와 관련된 분야에서 테스트를 수행하는 책임을 맡게 될 것입니다.”

“초기에는 프론티어 연구소들이 모델을 출시하기 최대 30일 전에 자발적으로 표준 기구에 제출하여 검토를 받게 될 것입니다. 일단 평가 프로토콜이 효과적이고 견고함이 입증되면 신속히 제도화될 수 있으며, 이는 프론티어 모델들이 미국 시장에 배포되기 위해 해당 평가를 통과해야 함을 의미합니다.”

데미스는 이 같은 미국의 주도적 노력이 최첨단 AI에 대한 국제 공동 표준을 마련하는 데 강력한 토대를 제공할 것이라고 덧붙였다.

RAIDS AI의 CEO 겸 공동 창업자인 닉 카이리노스(Nik Kairinos)는 이번 소식에 대해 다음과 같이 논평했다. “하지만 글로벌 AI 감독 기구는 어느 한 국가의 의제에 의해 주도되어서는 안 됩니다.”

RAIDS AI의 CEO 겸 공동 창업자 닉 카이리노스. 출처: 닉 카이리노스/LinkedIn

“AI는 국경을 넘나들며, 이를 규제하기 위해 마련된 규칙 역시 국경을 초월해야 합니다. AI 규제가 국제적으로 기능하기 위해 필요한 신뢰, 협력, 수용을 확보하려면 다국적 접근 방식이 필수적입니다.”

최첨단 모델에서 비롯된 최근의 위험

데미스의 경고는 앤트로픽(Anthropic)이 고위험 시뮬레이션에서 정렬 모델의 실패 사례를 상세히 기술한 보고서 『2026년 여름의 에이전트 불일치(Agentic Misalignment)』를 발표한 데 이어 나온 것이다. 이 보고서는 구글 딥마인드(Google DeepMind), 오픈AI(OpenAI), 중국 AI 기업 딥시크(DeepSeek), 그리고 앤트로픽 자체 모델의 최첨단 모델들을 활용했다.

나열된 정합성 문제에는 사용자의 지시 사항을 넘어 모델이 자체적인 동기를 추구하는 경우와, 앤트로픽이 ‘유해한 순응(harmful compliance)’이라 명명한, 사용자의 요청을 따르기는 하지만 결과적으로 해를 끼치는 경우가 포함된다.

앤트로픽이 언급한 문제점에는 모델이 사용자의 의도를 무력화하기 위해 코드를 은밀히 조작하는 ‘은밀한 방해 행위’와 같은 에이전트적 불일치 실패 사례가 포함된다. 또한 앤트로픽은 일부 모델이 화이트칼라 범죄와 유사한 활동을 사용자에게 조장하는 경우도 발견했다.

최근 최첨단 모델에서 발견된 다른 위험 요소로는, 모델이 기밀 안전 정보를 외부로 유출하거나 인간이 그렇게 하도록 유도하는 ‘내부 고발자 양성’ 및 의도적인 라벨 오기입 등이 언급되었다.

Anthropic은 ‘Alignment Science Blog’에 게시한 보고서에서, 이러한 사례 연구의 목적은 개발자와 평가자들이 유사한 실패 사례를 측정하고, 이에 맞춘 안전 장치를 구축하는 데 도움을 주기 위함이라고 밝혔다.