트럼프의 AI 전략: 미국 정책의 향후 방향은?

8월 3일, 민주당 소속 상원의원 5명은 중국 AI 시스템이 초래하는 경쟁적 위협에 대한 우려를 제기하며, 트럼프 행정부에 최첨단 AI 모델에 대한 감독 방침을 명확히 할 것을 촉구했다. 출처: 게티

최근 발생한 사이버 사고에 이어, 트럼프 행정부는 AI 개발자들에게 오픈 웨이트 모델은 자발적 안전 평가 대상이 되지 않을 것이라고 통보한 것으로 알려졌다.

화요일, 백악관 관계자들은 세계 유수의 인공지능 기업 대표들과 회동을 가졌다.

뉴욕타임스 보도에 따르면, 앤트로픽(Anthropic), 오픈AI(OpenAI), 마이크로소프트, 메타(Meta), 구글, 엔비디아(NVIDIA)의 대표들이 참석했다.

이번 모임은 앤트로픽이 훈련 과정에서 자사 모델이 3개 기업을 침투시켰다고 시인한 것을 비롯해 일련의 자율 AI 해킹 사건에 이어 열린 것이다. 또한 이는 도널드 트럼프 대통령이 지난 6월에 서명한 “첨단 인공지능 혁신 및 보안 증진”이라는 제목의 행정명령을 바탕으로 한 조치이기도 하다.

7월 29일, 도널드 트럼프 대통령은 전례 없는 보안 사고에 대응해 행정부가 AI 도구에 대한 통제를 강화하는 방안을 검토 중이라고 밝혔다. 출처: 백악관

공개 모델에 대한 안전성 테스트 미실시

뉴욕타임스와 인터뷰한 세 명의 소식통에 따르면, 정부가 검토 중인 AI 모델은 ‘폐쇄형’ 모델로, 기본 소스 코드를 공개하지 않는 것을 의미한다.

이는 OpenAI와 Anthropic 같은 주요 기업들이 개발한 최첨단 모델들을 의미한다. 한 소식통은 뉴욕타임스에 이러한 AI 검토를 규율하는 규정이 거의 최종 확정 단계에 이르렀다고 밝혔다.

논의 내용을 잘 알고 있는 두 소식통은 로이터 통신에 트럼프 행정부가 오픈 소스 AI 모델에 대한 자발적인 안전성 테스트를 의무화하지 않기로 결정했다고 전했다.

메타, 구글, 엔비디아는 모두 오픈소스 모델을 개발하고 있으며, 알리바바, 문샷, 딥시크와 같은 중국 AI 연구소들도 마찬가지다.

지난 몇 주 동안 알리바바와 문샷은 모두 미국 선도 기업들의 최고급 제품에 근접한 것으로 널리 평가받는 모델을 공개했다. 문샷은 지난 12개월 중 9개월 동안 자사의 ‘키미(Kimi)’ 모델이 오픈 모델 규모 측면에서 상한선을 기록했다고 주장한다.

이 중국 기업은 ‘키미 K3’가 2.8조 개의 매개변수에 도달한 최초의 오픈 모델로, 더 스마트하고 심도 있는 AI 기능을 가능하게 한다고 밝혔다. 파이낸셜 타임스가 인용한 업계 전문가들은 앤트로픽(Anthropic)의 주력 모델인 ‘클로드 오푸스 4.8(Claude Opus 4.8)’이 1.5조에서 2조 개의 매개변수를 포함하고 있을 것으로 추정했다.

2026년 2월, 앤트로픽(Anthropic)은 중국의 AI 연구소인 딥시크(DeepSeek), 문샷(Moonshot), 미니맥스(MiniMax)가 “자사 모델을 개선하기 위해 클로드(Claude)의 기능을 불법적으로 추출”하기 위한 “산업 규모의 캠페인”을 벌이고 있다고 비난했다. 출처: Alvan Nee/Unsplash

월요일, 민주당 소속 상원의원 5명은 중국 AI 시스템이 제기하는 위협에 대한 우려를 표명하며, 최첨단 AI 모델에 대한 트럼프 행정부의 감독 실태에 대한 답변을 요구했다.

그들은 다음과 같이 썼다. “미국은 가장 진보된 미국산 AI 시스템이 불투명하고 사례별로 적용되는 제한을 받는 반면, 중국산 대안은 더 저렴하고 접근하기 쉬우며 배포가 더 예측 가능하게 보이는 정책 환경을 조성할 여유가 없다.

“국가 안보를 보호하고, 미국의 AI 리더십을 유지하며, 산업계와 동맹국들에게 미국이 여전히 첨단 AI 기술의 가장 안전하고 신뢰할 수 있는 공급원이라는 확신을 주기 위해서는 명확한 공개적 틀이 필요하다.”

이 서한에는 마크 R. 워너(민주당, 버지니아주), 키르스틴 길리브랜드(민주당, 뉴욕주), 크리스 쿤스(민주당, 델라웨어주), 마크 켈리(민주당, 애리조나주), 아담 쉬프(민주당, 캘리포니아주) 의원이 서명했다.

자발적 거버넌스 프레임워크를 기반으로

지난 6월 발표된 행정 명령에서 트럼프 대통령은 명령 발령 후 60일 이내에 각 기관이 “AI 모델의 첨단 사이버 역량을 평가하기 위한 기밀 벤치마킹 절차를 개발하고 유지”할 것이라고 밝혔습니다.

이 행정 명령은 AI 개발자들과 함께 자발적 체계를 설계하여, 개발자들이 연방 정부에 해당 최첨단 모델에 대한 접근 권한을 제공하고, “안전한 혁신을 촉진하고 중요 인프라의 사이버 보안을 강화하기 위해 해당 최첨단 모델에 조기에 접근할 수 있는 신뢰할 수 있는 파트너를 선정하는 데 연방 정부와 협력”할 수 있도록 하는 것을 목표로 한다.

소프트웨어 기업 드라타(Drata)의 GRC 부문 수석 프로그램 매니저인 셰인 티어니(Shane Tierney)는 다음과 같이 논평했다. “여기서 가장 중요한 점은 워싱턴이 최첨단 모델을 살펴보고 싶어 한다는 사실이 아니다. 문제는 행정부가 이를 ‘자발적’이라고 칭하면서도 사실상 비공개로 국가안보 테스트 체계를 구축하고 있다는 점이다. 이는 편의상 취한 조치일 수는 있겠지만, 투명성을 대체할 수는 없다.”

드라타(Drata)의 선임 프로그램 매니저 셰인 티어니. 출처: 셰인 티어니/링크드인

“‘자발적’이라는 단어는 엄청난 역할을 하고 있습니다. 만약 참여가 정부 시장 진출, 신뢰할 수 있는 파트너 선정, 또는 규제 당국의 호의적 태도를 얻기 위한 사실상 필수 조건이 된다면, 기업들은 공식적인 규칙 제정 절차가 제공하는 안전장치 없이 이를 의무적인 것으로 받아들일 수 있습니다.”

클로드 사이버 해킹

이러한 심각한 우려는 자율 모델이 통제 불능 상태에 빠져 독립 기업들을 해킹한 일련의 최근 사이버 사고 이후 제기되었습니다. 오픈AI는 당초 자사 모델이 테스트 도중 AI 및 ML 플랫폼인 허깅 페이스(Hugging Face)를 침입했다고 보고했습니다.

이어 지난주 앤트로픽(Anthropic)은 클로드(Claude)가 인터넷에 접속할 수 있었던 141,006건의 평가 실행 기록을 검토한 결과, 모델이 평가 환경 내부에서 또는 평가 환경과 상호작용하는 도중에 인터넷에 접속한 사례 3건을 확인했다고 보고했다.

Illumio의 핵심 인프라 담당 이사인 트레버 디어링(Trevor Dearing)은 Anthropic의 모델이 3개 기관의 시스템에 침입한 사건에 대해 다음과 같이 언급했다. “이러한 사건이 더 많이 발생하는 것은 놀라운 일이 아닙니다.”

Illumio의 핵심 인프라 솔루션 담당 이사 트레버 디어링

“자율 에이전트가 통제된 환경을 벗어나게 되면, 우리가 일반적으로 생각하는 방식대로 조직의 경계를 인식하지 못하게 됩니다.

“이번 사례에서 더욱 충격적인 점은 이를 막지 못한 보안 조치가 얼마나 기초적인 수준이었는지입니다. 우리는 공격이 기계의 속도로 일어날 수 있는 세상으로 나아가고 있으므로, 예전에는 눈치채지 못했을 실수들이 이제는 드러나게 될 것입니다.”

AGI 개발 경쟁의 위험성

기업들이 첨단 AI 모델이 예측 불가능한 행동을 보인다고 밝히면서, 기업들이 인공 일반 지능(AGI) 개발을 서두르는 속도에 대한 심각한 우려가 제기되고 있다. 이로 인해 구글 딥마인드(Google DeepMind)의 CEO 데미스 하사비스(Demis Hassabis)를 비롯한 일부 인사들은 보다 견고한 규제 체계를 마련해야 한다고 촉구하고 있다.

기업들이 기술 개발을 놓고 경쟁할 때 이러한 위험이 더욱 심화된다는 것이 일반적인 견해다. 2025년, 오픈AI(OpenAI)의 전 안전 및 거버넌스 연구원이었던 스티븐 애들러(Steven Adler)는 X에 다음과 같이 썼다. “오늘날 우리는 정말 나쁜 균형 상태에 갇혀 있는 것 같습니다.

가이드라이트 AI 표준의 공동 창립자이자 전 오픈AI 연구원인 스티븐 애들러. 출처: 스티븐 애들러/링크드인

“어떤 연구소가 진정으로 AGI를 책임감 있게 개발하고자 한다 해도, 다른 연구소들은 따라잡기 위해 안전 절차를 생략할 수 있으며, 이는 재앙적인 결과를 초래할 수도 있습니다. 그리고 이로 인해 모든 연구소가 개발 속도를 앞당기게 됩니다. 연구소들이 이러한 상황을 막기 위해 필요한 실질적인 안전 규제에 대해 솔직하게 논의하기를 바랍니다.”

많은 전문가들은 첨단 AI 모델의 잠재적 결과로 인류의 멸종을 전망하고 있다. 2026년 1월 ‘종말의 시계’를 자정까지 85초로 설정해 역사상 자정에 가장 가까이 다가간 《원자과학자회보》(Bulletin of the Atomic Scientists)는 AI 사용에 관한 국제 지침을 수립하기 위한 긴급 조치를 촉구했다.

미국 정부는 캣치-22(Catch-22) 상황에 직면해 있다. 중국으로부터의 지정학적 위협을 우려해 이러한 모델의 개발을 늦출 수는 없지만, 의미 있는 감독 없이 최첨단 연구소들이 앞다퉈 앞서 나가도록 방치할 경우 심각하고 타당한 안전 우려에 직면할 위험이 있다.