Eric Schmidt는 Agi Manhattan 프로젝트에 반대합니다

수요일에 발표된 정책 논문에서 전 구글 CEO 에릭 슈미트(Eric Schmidt)와 스케일 AI CEO 알렉산드르 왕(Alexandr Wang), 그리고 AI 안전 센터 소장 댄 헨드릭스(Dan Hendrycks)는 미국이 "초인간" 지능을 가진 AI 시스템, 흔히 AGI로 불리는 것을 개발하기 위한 맨해튼 프로젝트 스타일의 이니셔티브를 추진하는 것에 반대하는 조언을 제시했다.

"초지능 전략(Superintelligence Strategy)"이라는 제목의 이 논문은 미국이 초지능 AI를 독점하려는 노력이 중국으로부터 강한 반발을 초래할 수 있으며, 이는 사이버 공격의 형태로 나타나 글로벌 관계를 혼란에 빠뜨릴 수 있다고 경고한다.

공동 저자들은 "AGI를 위한 맨해튼 프로젝트는 경쟁국이 영구적인 불균형이나 전멸을 받아들이기보다는 이를 막기 위해 움직일 것이라는 가정을 전제로 한다. 초무기와 글로벌 통제를 추구하는 시도가 적대적인 대응과 긴장 고조를 유발할 위험이 있으며, 이는 전략이 추구하는 안정성을 오히려 훼손한다"고 주장한다.

미국 AI 업계의 세 핵심 인물이 작성한 이 논문은 최근 미국 의회 위원회가 1940년대 미국의 원자폭탄 프로젝트를 연상시키는 "맨해튼 프로젝트 스타일"의 이니셔티브를 통해 AGI 개발 자금을 지원할 것을 제안한 직후 발표되었다. 미국 에너지부 장관 크리스 라이트(Chris Wright)는 최근 오픈AI 공동 창립자 그렉 브록먼(Greg Brockman)과 함께 슈퍼컴퓨터 현장에서 미국이 AI에 있어 "새로운 맨해튼 프로젝트의 시작점에 있다"고 선언했다.

초지능 전략 논문은 중국에 뒤지지 않기 위해 정부 지원 AGI 프로그램이 최선이라고 믿는 여러 미국 정책 및 산업 리더들의 최근 추진에 도전한다.

슈미트, 왕, 헨드릭스는 미국이 AGI를 둘러싼 대치 상황에 있으며, 이는 상호 확증 파괴의 개념과 유사하다고 본다. 국가들이 선제공격을 방지하기 위해 핵무기를 독점하지 않으려 하듯, 저자들은 미국이 고도로 발전된 AI 시스템을 서둘러 지배하려는 것에 주의해야 한다고 제안한다.

AI를 핵무기와 비교하는 것이 과장되게 보일 수 있지만, 글로벌 리더들은 이미 AI를 중요한 군사 자산으로 보고 있다. 펜타곤은 AI가 군대의 킬 체인(kill chain)을 가속화하고 있다고 언급했다.

저자들은 상호 확증 AI 오작동(Mutual Assured AI Malfunction, MAIM)이라는 개념을 소개하며, 정부가 적대국이 AGI를 무기화하기를 기다리기보다는 위협적인 AI 프로젝트를 무력화하기 위해 선제 조치를 취할 수 있다고 본다.

슈미트, 왕, 헨드릭스는 미국이 "초지능 경쟁에서 승리"하는 데 초점을 맞추는 대신, 다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 방법을 개발하는 데 집중해야 한다고 권고한다. 그들은 정부가 "다른 국가가 통제하는 위협적인 AI 프로젝트를 무력화하기 위해 사이버 공격 무기고를 확장"하고, 적대국이 고급 AI 칩과 오픈소스 모델에 접근하는 것을 제한해야 한다고 제안한다.

이 논문은 AI 정책 커뮤니티 내에서 "파멸론자(doomers)"와 "타조족(ostriches)" 간의 분열을 강조한다. 파멸론자는 AI의 재앙적 결과가 불가피하다고 믿으며 AI 발전을 늦추자고 주장하고, 타조족은 AI 개발을 가속화하며 최선의 결과를 기대한다.

저자들은 세 번째 길을 제안한다: 방어 전략을 강조하는 신중한 AGI 개발 접근법이다.

특히 슈미트의 입장은 주목할 만하다. 그는 이전에 미국이 중국과 AI 개발에서 적극적으로 경쟁해야 할 필요성을 강조했었다. 불과 몇 달 전, 슈미트는 딥시크(DeepSeek)가 미국-중국 AI 경쟁에서 중대한 순간을 표시한다고 주장하는 오피니언 기사를 작성했다.

트럼프 행정부가 미국의 AI 개발을 진전시키겠다는 결의를 보이고 있지만, 공동 저자들은 미국의 AGI 결정이 글로벌 영향을 미친다는 점을 상기시킨다.

세계가 미국의 AI 추진을 주시하는 가운데, 슈미트와 그의 공동 저자들은 보다 방어적인 전략이 더 현명한 선택일 수 있다고 제안한다.