사티아 나델라, AI를 활용하는 기업들에 엄중한 경고를 보내다

AI의 잠재적 단점을 둘러싼 수많은 논쟁 중에서도, 실리콘밸리의 AI 열성 지지자들을 특히 불안하게 만드는 우려가 하나 있습니다. 바로 독자적인 모델을 판매하는 주요 AI 연구소들이 ‘트로이 목마’처럼 활동하고 있을지도 모른다는 점입니다.

스타트업과 기업들이 OpenAI나 Anthropic 같은 연구소의 AI 모델을 도입함에 따라, 해당 연구소들이 기업의 가장 민감한 비즈니스 데이터에 점점 더 많이 접근할 수 있게 될 것이라는 우려다. 모델 제작사들은 그 정보를 자신들의 이익을 위해 활용할 수 있으며, 결국 자사 고객들의 경쟁자로 변모할 가능성도 있다. 이러한 위험에 대한 경고는 벤처 캐피털리스트 제이슨 칼라카니스부터 팔란티어(Palantir)의 CEO 알렉스 카프에 이르기까지 다양한 인사들로부터 제기되고 있다.

그런데 월요일, 마이크로소프트의 사티아 나델라 CEO가 뜻밖의 블로그 게시물을 통해 이 논의에 동참했다. 나델라는 AI 사용자들—그가 “구매자”라고 부르는 이들—이 두 번 비용을 지불하고 있다고 경고한다. 그들은 AI 토큰 사용에 대해 의도적으로 비용을 지불하지만, 그 과정에서 자신도 모르게 귀중한 데이터를 넘겨주고 있는 것이다.

“본질적으로 여러분은 지능에 대해 두 번 비용을 지불하는 셈입니다. 한 번은 돈으로, 또 한 번은 그 지능을 유용하게 만들기 위해 공개해야만 하는 독점적인 지식이라는 훨씬 더 가치 있는 것으로 말이죠. 모델의 성능을 더 높이길 원할수록, 그 지식의 더 많은 부분을 모델에 투입해야만 합니다!”라고 그는 적었습니다.

가장 위험한 점은, 기업들이 본질적으로 모델에게 자사 비즈니스의 미묘한 차이를 가르치고 있다는 점이라고 그는 주장한다.

"모델은 '배기 가스', 즉 사람들이 작성하는 프롬프트, 상담원이 사용하는 도구, 그리고 특히 모델이 틀렸을 때 사람들이 하는 수정 사항으로부터 학습합니다. 모든 수정 사항은 조직의 노하우로 정제됩니다,"라고 그는 적었습니다.

이는 “경쟁사가 결코 구매할 수 없는 종류의 지식”임에도 불구하고, 기업들은 이를 무상으로 제공하고 있다.

나델라는 AI 기업들이 모델 훈련을 위해 인터넷에서 자유롭게 데이터를 수집하는 것이 허용된다면, 기업들도 그 대가로 해당 모델들을 연구하거나 “정제”할 수 있는 것은 당연한 일이라고 주장한다. “정제(distillation)”란 모델 자체의 출력 결과를 활용해 작동 원리를 파악하고, 그 통찰을 바탕으로 새롭고 대개는 더 저렴한 모델을 훈련하는 것을 의미한다. 지난 2월, 앤트로픽(Anthropic)은 중국 오픈소스 모델들이 자사 모델을 개선하기 위해 클로드(Claude)에 수백만 건의 프롬프트를 전송했다고 비난하며, 미국 정부에 수출 통제를 강화할 것을 촉구했다.

나델라 CEO의 주장은 모델 제작자들이 양쪽을 모두 가질 수는 없다는 것이다. 전 세계의 데이터를 자유롭게 활용해 모델을 훈련시키면서, 다른 사람들이 자신들의 모델에 대해 똑같이 하는 것을 제한하는 것은 위선적인 행동이다.

마이크로소프트 CEO는 “모델 제공업체가 공개 데이터를 활용해 모델을 훈련할 수 있는 공정한 사용권을 갖는 것에서 비롯되는 위대한 혁신은 필요하지만, 정작 현 상황에서는 정반대로 디스틸레이션에 제한적인 조건을 부과하고 있다는 점이 아이러니하다”고 썼다.

나델라는 특히 모델 제작자들이 “고객의 사용 및 상호작용 데이터로부터 학습할 권리를 유보”하는 점에 대해 우려를 표했다.

나델라가 제시한 해결책은 거대 클라우드 제공업체의 CEO라면 제안할 법한 내용이다. 그는 기업들이 프롬프트, 피드백 등을 포함한 데이터에 대한 “소유권을 유지”하기를 원한다. 따라서 그는 기업들이 클라우드 상에 자체적인 “독점적 학습 환경”을 구축할 것을 촉구한다. 어차피 기업 데이터는 이미 클라우드에 저장되어 있을 가능성이 높으며, 편리하게도 이는 마이크로소프트의 클라우드인 ‘애저(Azure)’를 의미할 수도 있다. 또한 그는 기업들이 그가 “오케스트레이션 레이어”라고 부르는 것을 도입할 것을 권장하는데, 이는 본질적으로 특정 공급자에 얽매이지 않고 서로 다른 공급자의 AI 모델 간에 쉽게 전환할 수 있는 방법이다. 바로 이러한 기능을 가능하게 하는 AI “게이트웨이”와 같은 도구들이 점점 더 인기를 얻고 있다.

나델라는 소유권을 유지하기 위한 방법으로 ‘오픈소스’라는 단어를 직접 언급하지는 않았지만, 이는 명백한 함의입니다. 그러나 또 다른 함의도 존재합니다.

대기업 중 상당수는 클라우드를 사용하는 것 외에도 여전히 자체 데이터 센터를 운영하고 있으며, 이미 자사 구내(업계 용어로 ‘온프레미스’)에 설치된 오픈소스 모델로 전환하고 있다. 기업이 AI 시스템을 관리할 수 있도록 돕는 네트워킹 및 보안 소프트웨어를 개발하는 Solo.io의 창립자이자 CEO인 이딧 레빈(Idit Levine)은 자신의 고객들 사이에서 바로 이러한 변화를 목격하고 있다고 말합니다. 독점적인 모델 제작 도구를 시험해 본 후, 기업들은 “오픈소스 모델을 가져와 온프레미스에서 실행할 수 있을까? 대형 업체가 하는 일의 거의 90%를 처리할 수 있을 텐데, 비용은 훨씬 적게 들 것이다”라고 묻기 시작한다고 그녀는 테크크런치(TechCrunch)에 전했다. “기업들은 그 점을 이해하고 있으며, 이를 직접 통제할 수 있다는 사실도 알고 있다.”

Solo.io의 기술은 지난해 리눅스 재단(Linux Foundation)의 ‘Agentgateway’ 프로젝트를 뒷받침하는 기술로 선정되기도 했다. 이 회사의 고객사로는 T-Mobile, ADP, SAP 등의 기업이 있다. 그녀는 기업들이 온프레미스 오픈소스 모델을 점점 더 많이 도입하고 있는 것을 목격하고 있으며, 이를 기업용 AI 활용의 다음 큰 흐름으로 보고 있다.

그녀만 그런 것은 아니다. 웹사이트 구축 및 호스팅 플랫폼으로 잘 알려진 버셀(Vercel)은 최근 AI 모델 전환 도구를 추가했으며, 개발자들이 다양한 AI 모델 간에 요청을 라우팅할 수 있도록 지원하는 기업인 오픈라우터(OpenRouter) 역시 오픈소스 모델로의 트래픽이 급증하고 있다. 실제로 지난달 Vercel 게이트웨이를 통해 라우팅된 전체 트래픽 중 오픈소스 모델이 차지하는 비중은 29%에 달했다.

오픈AI와 앤트로픽(Anthropic) 양사에 모두 투자한 마이크로소프트의 CEO가 이제 기업들에게 독점 모델 사용에 신중을 기할 것을 공개적으로 촉구함에 따라, 이러한 추세는 계속해서 확대될 것으로 예상됩니다. 나델라 CEO는 “지능을 소비하는 과정에서 여러분은 지능을 창조하고 있습니다. 그리고 여러분이 창조한 것은 여러분의 것이어야 합니다”라고 적었습니다.