AI가 스스로를 만들기 시작한다

리처드 소처는 오랫동안 AI 분야의 저명한 인물로, 초기 챗봇 스타트업인 You.com을 설립한 것으로 널리 알려져 있으며, 그 이전에는 ImageNet 관련 연구로 주목받았습니다. 이제 그는 수요일 6억 5천만 달러의 투자 유치와 함께 스텔스 모드를 벗어난 샌프란시스코 기반 기업 ‘Recursive Superintelligence’를 통해 연구 중심의 새로운 AI 스타트업 물결에 합류하고 있다.

소처는 피터 노르비그(Peter Norvig)와 크레스타(Cresta)의 공동 창업자 팀 시(Tim Shi)를 비롯한 저명한 AI 연구자들과 함께 이 새로운 벤처에 합류했다. 이들은 인간의 개입 없이 스스로의 단점을 자율적으로 감지하고 이를 해결하기 위해 스스로를 재설계할 수 있는, 재귀적으로 자기 개선하는 AI 모델을 구축하는 것을 목표로 하고 있다. 이 목표는 오랫동안 현대 AI 연구계의 ‘성배’로 여겨져 왔다.

출시 행사 후 줌(Zoom)을 통해 그와 대화를 나누며, 리커시브의 독창적인 기술적 접근 방식과 그가 이 새로운 프로젝트를 ‘네오랩(neolab)’으로 간주하지 않는 이유에 대해 깊이 있게 다뤘다. ‘네오랩’은 제품 개발보다 연구를 우선시하는 차세대 AI 스타트업을 지칭하는 비공식 용어다.

이 인터뷰는 이해를 돕기 위해 요약 및 편집되었습니다.

요즘 재귀(recursion)에 대한 이야기를 많이 듣습니다. 많은 연구실에서 공통적으로 추구하는 목표인 것 같기도 한데요. 귀사의 접근 방식이 독특한 점은 무엇인가요?

저희의 독특한 접근 방식은 재귀적 자기 개선을 달성하기 위해 ‘개방성’에 의존합니다. 이는 아직 그 누구도 달성하지 못한 것이며, 많은 이들에게 있어서는 달성하기 어려운 목표입니다. 많은 사람들이 자동 연구(auto-research)를 통해 이것이 자연스럽게 일어날 것이라고 가정합니다. 즉, AI에게 머신러닝 시스템이나 자신이 쓴 편지 등 다른 무언가를 개선해 달라고 요청할 수 있다고 생각하죠. 하지만 그것은 재귀적 자기 개선이 아니라, 단순한 개선에 불과합니다.

저희의 주된 목표는 대규모로 진정한 재귀적, 자기 개선형 초지능을 구축하는 것입니다. 즉, 연구 아이디어를 생성하고, 구현하며, 검증하는 전체 과정이 자동화되는 것을 의미합니다.

먼저 AI 연구 아이디어를 자동화하고, 결국에는 물리 영역을 포함한 모든 종류의 연구 아이디어를 자동화하게 될 것입니다. 하지만 AI가 스스로를 연구하며, 자신의 한계에 대한 새로운 형태의 자기 인식을 발전시킬 때 그 힘은 특히 강력해집니다.

방금 “개방형(open-ended)”이라는 용어를 언급하셨는데, 이 용어에 구체적인 기술적 의미가 있나요?

네, 그렇습니다. 사실, 저희 공동 창립자 중 한 명인 팀 로크타셸(Tim Rocktäschel)은 구글 딥마인드(Google DeepMind)에서 개방성과 자기 개선 팀을 이끌었으며, 특히 개방성의 훌륭한 사례인 세계 모델 ‘지니 3(Genie 3)’을 개발하는 데 주력했습니다. 이 모델에는 어떤 개념이든, 어떤 세계든, 어떤 에이전트든 입력할 수 있으며, 이에 대한 상호작용 가능한 버전을 생성해 냅니다.

생물학적 진화에서 동물들은 환경에 적응하고, 다른 동물들은 그 적응에 대응하여 다시 적응합니다. 이는 수십억 년 동안 지속될 수 있는 과정으로, 끊임없이 흥미로운 발전이 나타납니다. 바로 그렇게 우리 [머리]에 눈이 생겨난 것이죠.

또 다른 예로는 팀(Tim)의 다른 논문에서 다룬 ‘레인보우 팀링(rainbow teaming)’이 있습니다. ‘레드 팀링(red teaming)’에 대해 들어보신 적이 있나요?

사이버 보안 분야에서 이는—

따라서 ‘레드 팀링’은 대규모 언어 모델(LLM)의 맥락에서도 적용됩니다. 본질적으로, LLM에게 폭탄을 만드는 방법을 알려달라고 요청한 뒤, 모델이 이를 거부하도록 확인하는 것입니다.

사람들은 AI가 말해서는 안 될 예시를 찾아내는 데 오랜 시간을 할애할 수 있습니다. 하지만 첫 번째 AI를 두 번째 AI로 테스트하고, 그 두 번째 AI의 임무가 첫 번째 AI로 하여금 가능한 모든 유해한 말을 [시도하게] 만드는 것이라면 어떨까요? 그러면 두 AI는 수백만 번의 반복을 거치며 서로 주고받을 수 있습니다.

실제로 두 AI가 함께 진화하도록 할 수 있습니다. 한 AI는 다른 AI를 지속적으로 공격하며, 단 하나의 관점이 아닌 다양한 각도를 탐구합니다. 바로 이것이 ‘무지개’ 비유가 나온 이유입니다. 그런 다음 첫 번째 AI에 ‘면역’을 심어주어 점점 더 안전하게 만들 수 있습니다. 이 아이디어는 팀 로크타셸(Tim Rocktäschel)이 제안한 것으로, 현재 모든 주요 연구소에서 활용되고 있습니다.

언제 완성되었는지 어떻게 알 수 있을까요? 아마도 결코 완전히 끝나는 일은 없을 것입니다.

이런 것들 중 일부는 결코 완성되지 않을 것입니다. 우리는 언제나 더 지능적이 될 수 있고, 프로그래밍이나 수학 등에서도 끊임없이 발전할 수 있으니까요. 지능에는 이론적 한계가 존재합니다 — 사실 저는 지금 그 한계를 공식화하려고 노력 중입니다 — 하지만 그 한계는 천문학적 수준입니다. 우리는 그 한계에서 아직 아주 멀리 떨어져 있습니다.

신생 연구소(neolab)로서, 여러분은 주요 연구소들이 다루지 않는 분야를 추구해야 할 것으로 기대받는 것 같습니다. 따라서 이는 주요 연구소들이 현재의 접근 방식으로는 RSI(재귀적 자기 개선)를 달성하지 못할 것이라고 생각하신다는 의미로 해석됩니다. 이 평가가 타당할까요?

그들이 무엇을 하고 있는지에 대해서는 딱히 언급할 수 없지만, 우리가 다른 방식으로 접근하고 있다고 생각합니다. 우리는 ‘개방성’이라는 개념을 전적으로 수용하고 있으며, 우리 팀은 그 비전에 전적으로 헌신하고 있습니다. 우리 팀은 지난 10년 동안 이 분야에서 연구하고 논문을 발표해 왔으며, 해당 분야를 선도하고 실제 제품을 출시해 온 실적을 보유하고 있습니다. 예를 들어, 팀 시(Tim Shi)는 크레스타(Cresta)를 유니콘 기업으로 성장시켰습니다. 조쉬 토빈(Josh Tobin)은 오픈AI(OpenAI)의 초기 멤버 중 한 명이었으며, 결국 코덱스(Codex) 및 심층 연구 팀을 이끌었습니다.

사실 저는 ‘네오랩(neolab)’이라는 꼬리표에 대해 가끔 조금 고민하기도 합니다. 저는 우리가 단순한 연구실 그 이상이라고 생각합니다. 저는 우리가 사람들이 즐겨 사용하고 인류에 긍정적인 영향을 미치는 놀라운 제품을 갖춘, 진정으로 지속 가능한 기업이 되기를 바랍니다.

그렇다면 첫 번째 제품은 언제 출시할 계획인가요?

그 점에 대해 많이 고민해 봤습니다. 팀이 엄청난 진전을 이뤘기 때문에, 당초 예상했던 일정을 앞당길 수도 있을 것 같습니다. 하지만 네, 제품은 나올 것입니다. 몇 년이 아니라 몇 분기 정도만 기다리시면 됩니다.

재귀적 자기 개선의 핵심 아이디어 중 하나는, 일단 그러한 시스템을 갖추게 되면 컴퓨팅이 유일한 핵심 자원이 된다는 점입니다. 시스템을 더 빠르게 구동할수록 시스템은 더 빠르게 개선되며, 외부 인간의 활동으로는 진정한 차이를 만들어낼 수 없습니다. 따라서 경쟁의 핵심은 ‘이 시스템에 얼마나 많은 처리 능력을 투입할 수 있는가’가 됩니다. 우리가 향하고 있는 세상이 바로 그런 곳이라고 생각하시나요?

연산 능력을 과소평가해서는 안 됩니다. 저는 미래에 핵심 질문 중 하나가 ‘인류가 어떤 문제를 해결하기 위해 얼마나 많은 연산 능력을 할당하고자 하는가?’가 될 것이라고 생각합니다. 여기 암이 있고, 저기 바이러스가 있는데, 어느 쪽을 먼저 해결하고 싶으신가요? 얼마나 많은 연산 능력을 할당할 의향이 있습니까? 결국 이는 자원 배분의 문제가 됩니다. 이는 전 세계적으로 가장 중요한 질문 중 하나가 될 것입니다.