앤트로픽은 인터넷을 보호하기 위해 미토스를 제한하는 것일까, 아니면 자사를 보호하기 위한 것일까?

이번 주, 앤트로픽(Anthropic)은 ‘마이토스(Mythos)’라는 최신 모델의 출시를 제한했다고 발표하며, 이 모델이 전 세계적으로 사용되는 소프트웨어의 보안 결함을 찾아내는 탁월한 능력을 갖추고 있기 때문이라고 밝혔다.

이 선구적인 연구소는 ‘Mythos’를 일반에 공개하기보다는, 아마존 웹 서비스(AWS)부터 JP모건 체이스에 이르기까지 중요한 온라인 인프라를 관리하는 선별된 대기업 및 기관들과 이를 공유할 계획입니다. 오픈AI(OpenAI) 역시 차기 사이버 보안 도구에 대해 유사한 접근 방식을 고려 중인 것으로 알려졌습니다. 이에 대한 공식적인 이유는, 첨단 대규모 언어 모델(LLM)을 이용해 보안이 철저한 소프트웨어에 침입할 수 있는 악의적인 행위자들보다 이러한 주요 기업들이 한 발 앞서 나갈 수 있도록 하기 위함이라고 한다.

하지만 위 문장에서 ‘기업’이라는 단어는 이번 출시 전략이 단순한 사이버 보안 차원을 넘어선 것일 수 있음을 시사한다. 혹은 모델 성능에 대한 과대 광고일 수도 있다.

AI 사이버 보안 연구소 ‘이레귤러(Irregular)’의 CEO 댄 라하브(Dan Lahav)는 마이토스(Mythos)가 공개되기 전인 지난 3월 테크크런치(TechCrunch)와의 인터뷰에서, AI 도구가 취약점을 발견하는 것도 중요하지만 공격자에게 있어 취약점의 진정한 가치는 이를 어떻게 조합할 수 있는지를 포함한 여러 요인에 달려 있다고 말했다.

라하브는 “제가 항상 염두에 두는 질문은, 그들이 발견한 것이 단독으로든 일련의 과정의 일부로든 매우 의미 있는 방식으로 악용될 수 있는 것인지 여부입니다”라고 말했다.

Anthropic은 Mythos가 자사의 이전 모델인 Opus보다 훨씬 더 효과적으로 취약점을 악용할 수 있다고 주장한다. 하지만 Mythos가 진정으로 궁극의 사이버 보안 모델인지 여부는 여전히 불분명하다. AI 사이버 보안 스타트업인 ‘Aisle’은 Anthropic이 Mythos가 달성했다고 주장하는 성과 상당 부분을 더 작고 오픈 웨이트 모델을 사용해 재현했다고 밝혔다. Aisle 팀은 이러한 결과가 사이버 보안을 위한 단일 딥러닝 모델은 존재하지 않으며, 오히려 효과성은 구체적인 과제에 따라 달라진다는 점을 보여준다고 주장한다.

오푸스(Opus)가 이미 사이버 보안 분야의 판도를 바꾼 모델로 평가받고 있는 점을 감안할 때, 최첨단 연구소들이 대형 조직에만 모델을 공개하는 데에는 또 다른 이유가 있을 수 있다. 즉, 이는 대기업과의 계약을 위한 선순환 구조를 조성하는 동시에, 경쟁사들이 ‘증류(distillation)’ 기법을 통해 모델을 복제하기 어렵게 만들기 위함이다. 증류 기법은 최첨단 모델을 활용해 새로운 대규모 언어 모델(LLM)을 저비용으로 훈련시키는 기술이다.

스타트업 exe.dev의 CEO이자 소프트웨어 엔지니어인 데이비드 크로쇼(David Crawshaw)는 소셜 미디어 게시물을 통해 “이는 최상위 모델들이 이제 기업 계약에 의해 접근이 제한되어 소규모 연구소들이 더 이상 디스틸레이션을 할 수 없다는 사실을 은폐하기 위한 마케팅 수단일 뿐”이라고 지적했다. “여러분과 제가 ‘Mythos’를 사용할 수 있게 될 무렵에는 이미 기업 전용인 새로운 최상위 버전이 나올 것입니다. 이러한 악순환은 디스틸레이션 기업들을 2류로 밀어냄으로써 기업 자금(전체 자금의 대부분을 차지함)이 계속 유입되도록 돕습니다,”라고 크로쇼는 말했습니다.

이러한 분석은 우리가 AI 생태계에서 목격하고 있는 현상과 일치한다. 즉, 가장 크고 성능이 뛰어난 모델을 구축하는 선구적인 연구소들과, 여러 모델에 의존하며(주로 중국에서 개발되었고 디스틸레이션을 통해 개발되었다고 알려진) 오픈소스 대규모 언어 모델(LLM)을 경제적 이점을 얻는 수단으로 보는 Aisle과 같은 기업들 간의 경쟁이 벌어지고 있는 것이다.

올해 최첨단 연구소들은 디스틸레이션에 대해 더욱 강경한 입장을 취하고 있다. 앤트로픽(Anthropic)은 중국 기업들이 자사 모델을 모방하려는 시도를 공개적으로 폭로했으며, 블룸버그 보도에 따르면 앤트로픽, 구글, 오픈AI 등 3대 선도 연구소가 협력해 디스틸레이션을 수행하는 주체를 식별하고 차단하고 있다.

증류 기술은 막대한 자본을 투입해 규모를 확장함으로써 얻은 이점을 무력화시키기 때문에 선도 연구소들의 비즈니스 모델을 위협한다. 증류 기술을 차단하는 것 자체만으로도 충분히 가치 있는 노력이지만, 선택적 공개 접근 방식은 이 분야가 수익성 있는 배포의 핵심 요소로 부상함에 따라 연구소들이 기업용 서비스를 차별화할 수 있는 방법이기도 하다.

마이토스(Mythos)나 그 밖의 새로운 모델이 인터넷 보안을 진정으로 위협할지는 아직 지켜봐야 할 문제이며, 이 기술을 신중하게 도입하는 것이 책임감 있는 접근 방식이다.

기사를 작성하는 시점에서 앤트로픽(Anthropic)은 이번 결정이 디스틸레이션 우려와도 관련이 있는지에 대한 우리의 질문에 답변하지 않았으나, 이 회사는 인터넷과 자사의 수익을 보호할 수 있는 영리한 방법을 찾아낸 것일 수도 있다.