OpenAI는 오픈 가중치 모델을 우려한다. 미국은 이에 대해 걱정해야 할까?

중국의 연구소 Moonshot가 개발한 최대 규모의 오픈 가중치 대규모 언어 모델인 Kimi K3의 출시로 인해, 미국 AI 기업들의 경제적 전략과 LLM의 기술적 궤적이라는 두 가지 별개의 문제가 혼동된 논쟁이 촉발되었습니다.

OpenAI의 전략적 미래 책임자인 Dean W. Ball은 새로운 모델들을 둘러싼 규제적 두려움과 불확실성을 조성해야 한다고 주장하며, 미국 정부가 이러한 조치를 취해야 한다고 제언했습니다. 그는 오픈 가중치 아키텍처가 최전선 연구소들의 자본 지출을 필연적으로 위축시킨다고 주장했습니다.

반발은 빠르게 일어났으며, Yann LeCun과 Martin Casado와 같은 기술 리더들은 오픈 소프트웨어가 혁신을 가속화하고 독점 프로젝트와 공존할 수 있다고 반박했습니다. 이후 Ball은 백하우스의 “최선의 전략”이 규제 단속이며, 오픈 가중치 모델이 기술적 진전을 필연적으로 저해한다는 자신의 주장을 철회했습니다.

그러나 Axios의 보도에 따르면, 트럼프 행정부는 미국 최전선 연구소들의 요청에 따라 K3 및 기타 고급 중국 모델의 금지를 고려하고 있습니다. 반면, Politico의 보도에 따르면 상무부는 향후 가까운 시일 내에 그러한 조치를 취할 계획이 없습니다.

주요 AI 기업들에게 명백한 이점은 다음과 같습니다. 독립적인 인프라나 기업 내부에서 실행할 수 있는 오픈 가중치 모델은 Anthropic이나 OpenAI의 독점 제품에 비해 더 저렴한 지능을 제공합니다. 만약 사용자가 폐쇄된 연구소 외부에서 서비스를 더 많이 이용하게 된다면, 최전선 연구소들의 막대한 학습 투자에 대한 수익률은 감소하게 됩니다.

이 관점은 OpenAI를 넘어섭니다. “강력하고 최전선 수준의 오픈 소스 모델은 마진을 압박하고 선진 기업들의 가격을 하락시킬 것입니다.”라고 Snorkel AI의 공동 창업자이자 Laude Institute의 연구 파트너인 Braden Hancock은 TechCrunch에게 말했습니다. “그것이 반드시 AI 사용을 줄이지는 않을 것입니다. 오히려 그 반대일 가능성이 높습니다.”

Anthropic이나 OpenAI에 이해관계가 없는 사람들에게 이는 문제가 아닙니다. AI는 계속 확산될 것입니다. 그렇다면 정부 ostensibly 자유 시장이라고 주장되는 시장에서 미국인들이 제품을 구매하는 것을 막는 것은 무엇을 정당화합니까?

중국 모델에 대한 우려는 다양합니다. 하나의 주장은 현대 중국 전기차에 대한 금지가 데이터 프라이버시 우려로 인해 이루어진 것처럼, 중국 정부로부터 미국 데이터를 보호하는 것과 관련이 있습니다. 그러나 전문가들은 미국 서버에 호스팅된 오픈 가중치 모델이 중국으로 데이터를 유출할 가능성이 낮다고 믿지만, 여전히 가능성은 존재합니다.

또 다른 우려는 이러한 모델이 중화인민공화국(PRC)에 대한 암묵적 편향을 내포하고 있을 수 있다는 점이며, 코딩과 같은 작업에 미치는 영향은 아직 명확하지 않습니다.

세 번째 일반적인 우려는 중국 모델이 폐쇄 시스템의 악용이나 무기 생성을 방지하기 위해 미국 정부가 (불투명한 절차를 통해) 의무화한 안전장치가 부족하다는 것입니다. 그러나 이러한 동일한 안전장치가 미국 기업들을 더 취약하게 만들 수도 있습니다. 벤처 캐피탈리스트이자 트럼프 고문인 David Sacks은 미국 기업들이 미국 최전선 모델이 부과한 보안 제한을 우회하기 위해 중국 LLM을 이용하는 사례들을 강조했습니다.

그러나 이러한 모델을 제한하는 가장 중요한 동기는 최전선 연구소들의 개발 속도가 느려질 경우 중국이 미국을 앞지를 것이라는 두려움입니다.

조지타운 대학의 Center for Security and Emerging Technologies의 중국 전문 연구원인 Sam Bresnick은 미국 군사 작전에 있어 AI의 중요성이 커짐에 따라 최전선 연구소에 대한 지속적인 투자가 정당화된다고 주장합니다. 그럼에도 그는 전체적인 질문이 복잡성으로 가득 차 있다고 지적합니다.

“왜 미국 정부의 무게가 미국 시장에서 기원 때문에 배제된 경쟁사들로부터 이러한 기업들을 보호하는 데 향해야 합니까?”라고 Bresnick은 묻습니다.

오픈 AI 지지자들은 최전선 기업들이 혁신과 폐쇄 모델 사이에 가짜 이분법을 만들고 있다고 주장합니다.

“중국에서 이러한 오픈 소스 모델이 등장하는 더 큰 영향력은 뒷문을 통해 숨겨져 들어오는 것보다는 혁신을 주도한다는 점에 있습니다.”라고 Hancock은 TechCrunch에게 말했습니다. “결과적으로 효과적으로 모델에 대한 확장된 인력을 갖추게 됩니다. PyTorch가 산업 표준이 된 것은 그것이 오픈 소스였기 때문이며, 따라서 한 회사가 아닌 전체 커뮤니티가 기여할 수 있었고, 그것은 성장하고 성장했으며, 나머지 모든 딥러닝 라이브러리는 비교했을 때 죽어갔습니다.”

Hancock과 다른 지지자들은 중국 LLM이 국제 연구의 중심지가 될 것을 우려합니다. 이미 미국 대학원 프로그램들은 주로 오픈 가중치 중국 모델을 기반으로 구축되고 있으며, Hancock은 미국 최전선 연구소들이 자신의 작업을 널리 공유하는 것을 점점 더 망설이면서 학생들이 공부하는 논문 중 절반이 중국 기관에서 비롯된다고 말합니다.

“오픈 모델을 제한하는 것이 AI를 더 안전하게 만들지는 않을 것입니다.”라고 오픈 AI 협력을 위한 플랫폼인 Hugging Face의 CEO인 Clem Delangue는 말했습니다. “그것은 단순히 위험을 숨기고, 권력을 소수에게 집중시키며, 다음 세대의 구축자, 연구자, 학계, 비영리 단체 및 정부가 AI를 더 안전하고 모두에게 유익하게 만드는 데 참여하는 것을 더 어렵게 만들 것입니다.”

Bresnick은 중국이 진행하는 속도를 늦추는 진정한 방법은 칩 수출 통제를 강화하는 데 초점을 맞추어야 한다고 제안합니다. 미국 AI 리더십을 보존하기 위한 더 나은 전략은 중국에 Nvidia H200 프로세서를 판매하는 것을 중단하는 것입니다. “그것,” 그는 말합니다. “그것은 막대한 수의 미국 기업들이 사용하고자 하는 오픈 소스 기술을 금지하는 것에 대한 이 복잡한 논쟁에서 우리를 벗어날 가능성을 가질 수 있습니다.”

문제의 일부는 AI 경제학에 대한 불확실성에 있습니다. “오픈 비즈니스 모델, 독점 비즈니스 모델 — 어느 것도 아직 확립되지 않았습니다. AI 기업들은 특히 학습 비용이 계속 증가하는 가운데 도구로 어떻게 수익을 창출할지 고민하고 있습니다.”라고 Bresnick은 지적합니다.

미국에서 일어나는 동일한 도전들은 중국에서도 명백하며, 중국 AI 기업들은 수익을 창출하고 컴퓨팅 파워에 접근하는 데 어려움을 겪고 있습니다. 중국 정부는 자본화하는 데 어려움이 있음에도 불구하고 정책적 이유로 오픈 출시를 장려합니다.

Thinking Machines Lab과 Nvidia를 포함한 일부 미국 기업들은 오픈 모델을 출시하는 것을 중심으로 비즈니스를 구축하려고 시도하고 있습니다. Hancock은 Nvidia가 “자신들의 칩을 만들 만큼 자본이 충분한 두세 개 기업보다는 AI를 구축하는 수십 개 또는 수백 개의 기업이 있는 경우” 더 많은 혜택을 받을 것이라고 지적하며, 이는 오픈 모델 컬렉션인 Nemotron에 대한 Nvidia의 투자를 설명합니다.

“주요 포인트는 미국이 자체적으로 매우 능력이 뛰어나고 훨씬 저렴한 오픈 모델을 보유한다면 매우 큰 혜택을 볼 것이라는 점입니다.”라고 Bresnick은 말했습니다. “그것은 단지 최전선 연구소들이 취한 접근 방식과 충돌합니다.”

Rebecca Bellan의 추가 보도 포함.