Eric Schmidt는 Agi Manhattan 프로젝트에 반대합니다

수요일에 발표된 정책 논문에서 전 구글 CEO 에릭 슈미트(Eric Schmidt)와 스케일 AI CEO 알렉산드르 왕(Alexandr Wang), 그리고 AI 안전 센터 소장 댄 헨드릭스(Dan Hendrycks)는 미국이 "초인간" 지능을 가진 AI 시스템, 흔히 AGI로 불리는 것을 개발하기 위한 맨해튼 프로젝트 스타일의 이니셔티브를 추진하는 것에 반대하는 조언을 제시했다.
"초지능 전략(Superintelligence Strategy)"이라는 제목의 이 논문은 미국이 초지능 AI를 독점하려는 노력이 중국으로부터 강한 반발을 초래할 수 있으며, 이는 사이버 공격의 형태로 나타나 글로벌 관계를 혼란에 빠뜨릴 수 있다고 경고한다.
공동 저자들은 "AGI를 위한 맨해튼 프로젝트는 경쟁국이 영구적인 불균형이나 전멸을 받아들이기보다는 이를 막기 위해 움직일 것이라는 가정을 전제로 한다. 초무기와 글로벌 통제를 추구하는 시도가 적대적인 대응과 긴장 고조를 유발할 위험이 있으며, 이는 전략이 추구하는 안정성을 오히려 훼손한다"고 주장한다.
미국 AI 업계의 세 핵심 인물이 작성한 이 논문은 최근 미국 의회 위원회가 1940년대 미국의 원자폭탄 프로젝트를 연상시키는 "맨해튼 프로젝트 스타일"의 이니셔티브를 통해 AGI 개발 자금을 지원할 것을 제안한 직후 발표되었다. 미국 에너지부 장관 크리스 라이트(Chris Wright)는 최근 오픈AI 공동 창립자 그렉 브록먼(Greg Brockman)과 함께 슈퍼컴퓨터 현장에서 미국이 AI에 있어 "새로운 맨해튼 프로젝트의 시작점에 있다"고 선언했다.
초지능 전략 논문은 중국에 뒤지지 않기 위해 정부 지원 AGI 프로그램이 최선이라고 믿는 여러 미국 정책 및 산업 리더들의 최근 추진에 도전한다.
슈미트, 왕, 헨드릭스는 미국이 AGI를 둘러싼 대치 상황에 있으며, 이는 상호 확증 파괴의 개념과 유사하다고 본다. 국가들이 선제공격을 방지하기 위해 핵무기를 독점하지 않으려 하듯, 저자들은 미국이 고도로 발전된 AI 시스템을 서둘러 지배하려는 것에 주의해야 한다고 제안한다.
AI를 핵무기와 비교하는 것이 과장되게 보일 수 있지만, 글로벌 리더들은 이미 AI를 중요한 군사 자산으로 보고 있다. 펜타곤은 AI가 군대의 킬 체인(kill chain)을 가속화하고 있다고 언급했다.
저자들은 상호 확증 AI 오작동(Mutual Assured AI Malfunction, MAIM)이라는 개념을 소개하며, 정부가 적대국이 AGI를 무기화하기를 기다리기보다는 위협적인 AI 프로젝트를 무력화하기 위해 선제 조치를 취할 수 있다고 본다.
슈미트, 왕, 헨드릭스는 미국이 "초지능 경쟁에서 승리"하는 데 초점을 맞추는 대신, 다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 방법을 개발하는 데 집중해야 한다고 권고한다. 그들은 정부가 "다른 국가가 통제하는 위협적인 AI 프로젝트를 무력화하기 위해 사이버 공격 무기고를 확장"하고, 적대국이 고급 AI 칩과 오픈소스 모델에 접근하는 것을 제한해야 한다고 제안한다.
이 논문은 AI 정책 커뮤니티 내에서 "파멸론자(doomers)"와 "타조족(ostriches)" 간의 분열을 강조한다. 파멸론자는 AI의 재앙적 결과가 불가피하다고 믿으며 AI 발전을 늦추자고 주장하고, 타조족은 AI 개발을 가속화하며 최선의 결과를 기대한다.
저자들은 세 번째 길을 제안한다: 방어 전략을 강조하는 신중한 AGI 개발 접근법이다.
특히 슈미트의 입장은 주목할 만하다. 그는 이전에 미국이 중국과 AI 개발에서 적극적으로 경쟁해야 할 필요성을 강조했었다. 불과 몇 달 전, 슈미트는 딥시크(DeepSeek)가 미국-중국 AI 경쟁에서 중대한 순간을 표시한다고 주장하는 오피니언 기사를 작성했다.
트럼프 행정부가 미국의 AI 개발을 진전시키겠다는 결의를 보이고 있지만, 공동 저자들은 미국의 AGI 결정이 글로벌 영향을 미친다는 점을 상기시킨다.
세계가 미국의 AI 추진을 주시하는 가운데, 슈미트와 그의 공동 저자들은 보다 방어적인 전략이 더 현명한 선택일 수 있다고 제안한다.
관련 기사
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
XPeng Motors의 자회사 Dogotix, 9억 달러 투자 유치
XPeng의 자회사 Dogotix는 ‘IRON’ 휴머노이드 로봇을 개발 중이다. 출처: XPeng세계 주요 자동차 제조사들의 선례를 따라 XPeng Motors도 휴머노이드 로봇 분야로 사업 영역을 확장하고 있다. 이 전기차 제조사는 오늘 자사의 로봇 자회사인 Dogotix가 첫 투자 라운드에서 9억 달러 이상의 자금을 확보했으며, 이를 통해 투자 전 기업
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
관련 특별 주제 추천
의견 (33)
0/500
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.

수요일에 발표된 정책 논문에서 전 구글 CEO 에릭 슈미트(Eric Schmidt)와 스케일 AI CEO 알렉산드르 왕(Alexandr Wang), 그리고 AI 안전 센터 소장 댄 헨드릭스(Dan Hendrycks)는 미국이 "초인간" 지능을 가진 AI 시스템, 흔히 AGI로 불리는 것을 개발하기 위한 맨해튼 프로젝트 스타일의 이니셔티브를 추진하는 것에 반대하는 조언을 제시했다.
"초지능 전략(Superintelligence Strategy)"이라는 제목의 이 논문은 미국이 초지능 AI를 독점하려는 노력이 중국으로부터 강한 반발을 초래할 수 있으며, 이는 사이버 공격의 형태로 나타나 글로벌 관계를 혼란에 빠뜨릴 수 있다고 경고한다.
공동 저자들은 "AGI를 위한 맨해튼 프로젝트는 경쟁국이 영구적인 불균형이나 전멸을 받아들이기보다는 이를 막기 위해 움직일 것이라는 가정을 전제로 한다. 초무기와 글로벌 통제를 추구하는 시도가 적대적인 대응과 긴장 고조를 유발할 위험이 있으며, 이는 전략이 추구하는 안정성을 오히려 훼손한다"고 주장한다.
미국 AI 업계의 세 핵심 인물이 작성한 이 논문은 최근 미국 의회 위원회가 1940년대 미국의 원자폭탄 프로젝트를 연상시키는 "맨해튼 프로젝트 스타일"의 이니셔티브를 통해 AGI 개발 자금을 지원할 것을 제안한 직후 발표되었다. 미국 에너지부 장관 크리스 라이트(Chris Wright)는 최근 오픈AI 공동 창립자 그렉 브록먼(Greg Brockman)과 함께 슈퍼컴퓨터 현장에서 미국이 AI에 있어 "새로운 맨해튼 프로젝트의 시작점에 있다"고 선언했다.
초지능 전략 논문은 중국에 뒤지지 않기 위해 정부 지원 AGI 프로그램이 최선이라고 믿는 여러 미국 정책 및 산업 리더들의 최근 추진에 도전한다.
슈미트, 왕, 헨드릭스는 미국이 AGI를 둘러싼 대치 상황에 있으며, 이는 상호 확증 파괴의 개념과 유사하다고 본다. 국가들이 선제공격을 방지하기 위해 핵무기를 독점하지 않으려 하듯, 저자들은 미국이 고도로 발전된 AI 시스템을 서둘러 지배하려는 것에 주의해야 한다고 제안한다.
AI를 핵무기와 비교하는 것이 과장되게 보일 수 있지만, 글로벌 리더들은 이미 AI를 중요한 군사 자산으로 보고 있다. 펜타곤은 AI가 군대의 킬 체인(kill chain)을 가속화하고 있다고 언급했다.
저자들은 상호 확증 AI 오작동(Mutual Assured AI Malfunction, MAIM)이라는 개념을 소개하며, 정부가 적대국이 AGI를 무기화하기를 기다리기보다는 위협적인 AI 프로젝트를 무력화하기 위해 선제 조치를 취할 수 있다고 본다.
슈미트, 왕, 헨드릭스는 미국이 "초지능 경쟁에서 승리"하는 데 초점을 맞추는 대신, 다른 국가들이 초지능 AI를 개발하지 못하도록 억제하는 방법을 개발하는 데 집중해야 한다고 권고한다. 그들은 정부가 "다른 국가가 통제하는 위협적인 AI 프로젝트를 무력화하기 위해 사이버 공격 무기고를 확장"하고, 적대국이 고급 AI 칩과 오픈소스 모델에 접근하는 것을 제한해야 한다고 제안한다.
이 논문은 AI 정책 커뮤니티 내에서 "파멸론자(doomers)"와 "타조족(ostriches)" 간의 분열을 강조한다. 파멸론자는 AI의 재앙적 결과가 불가피하다고 믿으며 AI 발전을 늦추자고 주장하고, 타조족은 AI 개발을 가속화하며 최선의 결과를 기대한다.
저자들은 세 번째 길을 제안한다: 방어 전략을 강조하는 신중한 AGI 개발 접근법이다.
특히 슈미트의 입장은 주목할 만하다. 그는 이전에 미국이 중국과 AI 개발에서 적극적으로 경쟁해야 할 필요성을 강조했었다. 불과 몇 달 전, 슈미트는 딥시크(DeepSeek)가 미국-중국 AI 경쟁에서 중대한 순간을 표시한다고 주장하는 오피니언 기사를 작성했다.
트럼프 행정부가 미국의 AI 개발을 진전시키겠다는 결의를 보이고 있지만, 공동 저자들은 미국의 AGI 결정이 글로벌 영향을 미친다는 점을 상기시킨다.
세계가 미국의 AI 추진을 주시하는 가운데, 슈미트와 그의 공동 저자들은 보다 방어적인 전략이 더 현명한 선택일 수 있다고 제안한다.
OpenAI, 청소년들이 ChatGPT를 사용하기 시작한 지 수년 만에 더 안전한 버전을 출시했다
AI 챗봇에 안전 프로토콜이 부재하여 청소년 자살 및 기타 정신 건강 위기를 초래했다는 일련의 소송이 제기된 데 이어, 오픈AI는 월요일 ‘ChatGPT for Teens’를 공개했다. 이 새로운 서비스는 강화된 안전 기능을 탑재했으며, 학교에서 AI 도구가 조장하는 학업 부정행위라는 점점 심각해지는 문제도 해결하고자 한다.교육적 관점에서 볼 때, ‘Cha
XPeng Motors의 자회사 Dogotix, 9억 달러 투자 유치
XPeng의 자회사 Dogotix는 ‘IRON’ 휴머노이드 로봇을 개발 중이다. 출처: XPeng세계 주요 자동차 제조사들의 선례를 따라 XPeng Motors도 휴머노이드 로봇 분야로 사업 영역을 확장하고 있다. 이 전기차 제조사는 오늘 자사의 로봇 자회사인 Dogotix가 첫 투자 라운드에서 9억 달러 이상의 자금을 확보했으며, 이를 통해 투자 전 기업
프론티어 AI 랩스, 비정상 모델에 대한 통제 전략 공개 거부
최근 연구에 따르면, 선도적인 AI 연구소 중 극소수만이 통제 대응 계획을 발표하거나 시연한 것으로 나타났습니다. 통제 계획은 AI 시스템이 인간의 통제를 무력화하려 할 때의 절차를 정의하며, 어떤 접근 권한이 철회되고 언제 시스템이 완전히 종료되는지를 명시합니다.이러한 결과는 안전한 최첨단 AI 개발 관행을 장려하는 데 주력하는 단체인 ‘Guideligh
Interesting take from Schmidt and Wang. While I get the caution about a 'Manhattan Project' mindset, isn't the current fragmented, profit-driven race just as risky? Feels like we're arguing over the speed limit while the car's already accelerating downhill. 🤔
Otra vez esta gente rica opinando del futuro. Schmidt ha estado metido en IA una bocha, pero ¿acaso esto no es intentar tirar la pelota para adelante? Si no lo hacemos en un projecto masivo y coordinado, ¿quién tendrá el control real? Me da la impresión de que ya se están juntando en privado las grandes empresas... 🫤
前谷歌執行長也發聲了,這份政策文件提醒得真好。AGI這種『超級智能』確實不該用曼哈頓計劃那種封閉、軍備競賽的模式來搞,想想就讓人不安😅 我覺得與其賭博式地競速,不如先把基礎治理框架和國際協調弄好。各位大佬多公開討論是好事,支持!
Concordo totalmente com o Schmidt! Correr para criar inteligência sobre-humana parece loucura, tipo um filme de ficção científica onde tudo dá errado 😅 Melhor focar em IA responsável e regulamentação primeiro.





집






