Eric Schmidt는 Agi Manhattan 프로젝트에 반대합니다

# openai # China # agi

수요일에 발표 된 정책 논문에서, 전 구글 CEO 인 에릭 슈미트 (Eric Schmidt)는 AI Saility Wang 규모의 AIC CEO 및 AI 안전 책임자 인 Dan Hendryck의 센터와 함께 AGI라고 불리는 "초 인간"지능을 가진 AI 시스템을 개발하기위한 맨해튼 프로젝트 스타일 이니셔티브를 발표하는 것에 대해 조언했다. "Superintelligence Strategy"라는 제목 의이 논문은 Superintelligent AI를 독점하려는 미국의 노력이 중국의 강력한 반응, 아마도 사이버 공격의 형태로 세계 관계를 방해 할 수 있다고 경고합니다. 공동 저자는 "AGI의 맨해튼 프로젝트는 라이벌들이 그것을 막기 위해 움직이는 지속적인 불균형이나 전지를 습득 할 것이라고 가정한다. 슈퍼 웨이폰과 글로벌 통제를위한 추진력으로 시작되는 것은 적대적 대책과 긴장을 유발하여 전략을 확보하기위한 안정성을 약화시킨다"고 주장한다. 이 백서는 미국 AI 부문의 3 가지 주요 인물에 의해 제기 된이 논문은 미국 의회위원회가 1940 년대 미국 원자 폭탄 프로젝트와 유사하게 도출하기위한 "맨해튼 프로젝트 스타일"이니셔티브를 제안한 직후에 도착합니다. 미국 에너지 장관 크리스 라이트 (Chris Wright)는 최근 미국이 AI에서 "새로운 맨해튼 프로젝트의 시작"에 있다고 선언했으며, OpenAI 공동 창립자 인 Greg Brockman과 함께 슈퍼 컴퓨터 사이트에서 연설했다. Superintelligence 전략 논문은 정부가 지원하는 AGI 프로그램이 중국을 따라 잡는 가장 좋은 방법이라고 생각하는 여러 미국 정책 및 업계 리더들의 최근 추진에 도전합니다. Schmidt, Wang 및 Hendrycks는 상호 보장 된 파괴의 개념과 유사하게 AGI에 대한 대립과 유사한 상황에서 미국을보고 있습니다. 국가들이 선제 적 파업을 방지하기 위해 독점 핵무기를 피하는 것처럼, 저자들은 미국이 고도로 진보 된 AI 시스템을 지배하기 위해 돌진에주의해야한다고 제안했다. AI를 핵무기와 비교하는 반면 세계 지도자들은 이미 AI를 중요한 군사 자산으로보고 있습니다. 국방부는 AI가 군대의 살인 사슬을 가속화하고 있다고 지적했다. 저자들은 정부가 AGI를 무기화하기 위해 대기하기보다는 AI 프로젝트를 위협하는 AI 프로젝트를 비활성화하기 위해 선제 조치를 취할 수있는 상호 보장 된 AI 오작동 (MAIM)의 아이디어를 소개합니다. Schmidt, Wang 및 Hendrycks는 미국이 "레이스 승리에서 초 고인성으로의"이기도하여 다른 국가가 초 지능형 AI를 만들지 못하게하는 방법을 개발할 것을 권장합니다. 그들은 정부가 다른 국가들이 제어하는 ​​AI 프로젝트를 위협하는 AI 프로젝트를 비활성화하기 위해 사이버 공격의 무기고를 확장하고 고급 AI 칩 및 오픈 소스 모델에 대한 적대자의 접근을 제한해야한다고 제안했다. 이 논문은 AI 정책 커뮤니티에서 "파멸 자"사이의 분할을 강조합니다. "치명적인 AI 결과는 피할 수없고 AI 진행 속도를 늦추는 데 옹호하는"타조 "는 AI 개발과 희망을 높이기 위해"타조 "를 옹호합니다. 저자는 세 번째 경로를 제안합니다. 방어 전략을 강조하는 AGI 개발에 대한 신중한 접근. 이 입장은 특히 미국이 AI 개발에서 중국과 적극적으로 경쟁해야 할 필요성을 강조한 슈미트 (Schmidt)로부터 특히 주목할 만하다. 몇 달 전, Schmidt는 Deepseek가 US-China AI 레이스에서 중추적 인 순간을 표시 한 내용의 말을 썼습니다. 트럼프 행정부가 미국의 AI 발전을 진전 시키겠다는 결의에도 불구하고, 공동 저자는 AGI에 대한 미국의 결정에 전 세계적으로 영향을 미친다는 것을 상기시켜줍니다. 세계가 미국의 AI에 대한 추진을 관찰 한 것처럼, Schmidt와 그의 공동 저자는보다 방어적인 전략이 현명한 선택 일 수 있다고 제안합니다.

관련 기사

의견 (20)