RSI는 새로운 AGI가 되었으며, 정의하기 마찬가지로 애매모호하다

“재귀(recursion)”라는 용어는 인공지능 분야에서 최신 유행어로 자리 잡았다. 두 개의 서로 다른 스타트업이 이를 회사명으로 채택했으며, 수많은 다른 기업들도 이제 개발 계획에서 ‘재귀적 자기 개선(Recursive Self-Improvement, RSI)’을 언급하고 있다. 이전의 AGI와 마찬가지로, RSI는 정확한 정의에 대해 여전히 논란이 있기는 하지만, AI 분야의 획기적인 돌파구를 상징하는 세 글자 약어로 자리 잡았다.

본질적으로 RSI는 스스로를 지속적으로 업그레이드할 수 있는 AI 시스템을 의미합니다. 이러한 시스템이 인간보다 더 효과적으로 개선 주기를 처리할 수 있게 되면, 이 과정은 가용한 컴퓨팅 성능에 의해서만 제한되는 폐쇄 루프가 되며, 인간의 개입은 불필요해지거나 심지어 역효과를 낳게 됩니다.

불안감을 주든 그렇지 않든, 이 비전은 많은 AI 연구소들이 열망하는 목표입니다.

이달 초, 저명한 AI 연구원 리처드 소처(Richard Socher)는 RSI를 명시적인 사명으로 삼은 ‘Recursive Superintelligence’라는 이름의 회사를 설립했다. 소처는 창업 당시 테크크런치와의 인터뷰에서 “우리의 주된 목표는 대규모로 진정한 재귀적, 자가 개선형 초지능을 구축하는 것”이라며, “이는 연구 아이디어를 생성하고, 구현하며, 검증하는 전 과정이 자동화된다는 것을 의미한다”고 말했다.

다른 몇몇 저명한 연구자들도 재귀적 자기 개선을 현실로 만들 돌파구를 기대하며 같은 목표를 추구하고 있다.

그중 가장 주목할 만한 인물은 테슬라와 오픈AI 출신의 전설적인 인물인 알렉스 카르파티(Alex Karpathy)로, 그는 ‘오토 리서치(Auto-Research)’라는 프로젝트를 통해 에이전트 군집을 활용해 대규모 언어 모델(LLM)을 간단한 작업에 대해 훈련시키고 있다. 카르파티는 이 프로젝트에 대해 이례적으로 투명하게 공개해 왔으며, 정기적으로 주요 진행 상황을 트위터에 게시하고 공개 GitHub 저장소를 통해 구성 요소를 제공하고 있다. 지금까지 이 연구는 주로 GPT-2 규모의 모델에 사소한 개선을 가하는 데 초점을 맞춰 왔습니다. 카르파티가 지난 3월에 언급했듯이, “이것은 (아직은) 참신하거나 획기적인 ‘연구’는 아닙니다.” 하지만 이 정도만으로도 다른 많은 연구자들이 RSI라는 꿈을 추구하도록 설득하기에는 충분했습니다. 현재 카르파티는 앤트로픽(Anthropic)에서 사전 훈련 작업을 진행 중이며, 이를 통해 이 개념을 더 큰 규모로 적용할 충분한 기회를 갖게 될 것이다.

코히어(Cohere)와 구글 출신인 사라 후커(Sara Hooker)가 설립한 어댑션(Adaption)은 최근 최첨단 모델 훈련을 자동화하기 위한 ‘오토사이언티스트(AutoScientist)’라는 유사한 도구를 출시했다. 카르파티의 ‘자동 연구원’과 마찬가지로, 이 시스템은 에이전트가 점진적인 개선을 이룰 수 있도록 훈련시키지만, 어댑션의 목표는 본격적인 프론티어 모델의 훈련 과정을 단순화하는 데 있습니다. 만약 해당 연구원들이 프론티어를 더욱 확장해 나간다면, 이 시스템은 빠르게 RSI에 매우 근접한 형태로 진화할 수 있을 것입니다.

디스어레이(Disarray)의 창립자 도리스 신(Doris Xin)은 최근 카글(Kaggle) 대회에서 자체 훈련된 머신러닝 에이전트가 28개의 메달을 획득하며, 많은 사람이 훈련한 에이전트들을 능가하는 성과를 거두면서 RSI 분야에서 더욱 구체적인 관심을 끌었다. 그녀의 관점에서 볼 때, 가장 큰 과제는 신뢰성이다.

“무한한 연산 능력과 무한한 시간이 주어진다면, 우리는 이미 그 단계에 도달했다고 말하고 싶습니다,”라고 신은 저에게 말했습니다. “저는 이것이 실제로 창의적인 노력이 아니라, 대부분 탄탄한 공학적 작업이라고 주장하고 싶습니다.”

아직은 아니다

또한 AI 산업이 의미 있는 재귀적 시스템과는 거리가 멀며, 여전히 경계심 많은 대중에게 그 진전을 제대로 전달하는 데 어려움을 겪고 있다는 증거도 많습니다. 구글 CEO 순다르 피차이는 최근 팟캐스트 인터뷰에서 이 점을 사실상 인정했습니다.

“이는 연속적인 과정이며, 우리 모두 확실히 진전을 이루고 있습니다,”라고 피차이는 말했다. “하지만 사람들이 R.S.I.를 묘사하는 방식대로라면, 이는 수많은 파급 효과를 동반하는 차원 높은 가속화를 의미할 텐데, 우리는 아직 그 단계에 도달하지 못했습니다.”

하지만 그 연속체에는 수많은 자가 개선형 AI 시스템이 포함되어 있다. 지난 1월, 앤트로픽(Anthropic)의 클로드 코드(Claude Code) 담당 수석 프로그래머 중 한 명은 자신의 팀이 작성한 코드의 “거의 100%”가 이 도구에 의해 작성되었다고 추정했는데, 이는 클로드 코드가 말 그대로 스스로를 작성하고 있다는 솔직한 인정이었다.

엔지니어들이 AI 도구를 사용한다고 해서 그 도구가 엔지니어를 대체할 수 있다는 뜻은 아니지만, 앤트로픽은 엔지니어를 대체하는 데도 점점 가까워지고 있는 것으로 보인다. 최근 ‘마이토스(Mythos)’ 프리뷰와 연계된 설문조사에서, 18명의 앤트로픽 엔지니어 중 5명은 하네스(harness)가 개선된다면 이번 버전의 ‘마이토스’가 곧 L4 엔지니어—감독 없이 복잡한 프로젝트를 처리할 수 있는 중급 프로그래머—를 대체할 수 있을 것이라고 믿었다.

그럼에도 불구하고 몇 가지 예상된 약점은 여전히 남아 있었다.

보고서는 “L4와 비교했을 때 클로드의 주요 약점으로 보고된 사항으로는 일주일 동안 지속되는 모호한 과제의 자율적 관리, 조직의 우선순위 파악, 취향, 검증, 지시 이행, 인식론 등이 있다”고 밝혔다.

다시 말해, 클로드의 약점은 RSI의 토대인 자기 주도성과 관련된 모든 측면을 아우릅니다. 하지만 그 외의 모든 부분에서는 클로드가 즉시 투입될 준비가 되어 있습니다.

이전의 ‘AGI(일반 인공지능)’라는 용어와 마찬가지로, AI 업계 역시 의미 있는 재귀적 시스템을 구현하는 데까지 얼마나 남았는지 정확히 알 수 없는 실정이다. 작년 조지타운 대학교 보안 및 신기술 센터(CSET)가 RSI를 연구하기 위해 전문가 그룹을 구성했을 때, 이 그룹은 평가에서 큰 의견 차이를 발견했다. 일부는 ‘초지능’의 폭발적인 등장이 임박했다고 예측한 반면, 다른 이들은 더딘 진전과 궁극적인 정체기를 예상했다. 그러나 모든 전문가들은 재귀성(recursion) 때문에 미래를 예측하기가 특히 어렵다는 점에는 동의했다.

CSET 소장이자 OpenAI의 전 이사회 멤버인 헬렌 토너(Helen Toner)는 테크크런치(TechCrunch)와의 인터뷰에서, 단순히 AI 도구를 사용하여 AI 연구를 수행하는 것만으로는 RSI로 인정받기에 충분하지 않다고 말했다. “그들은 그저 가능한 한 많이 AI를 사용하고 있을 뿐입니다,”라고 토너는 테크크런치에 전했다. “그리고 저는 이것이 ‘인간이 전혀 필요하지 않은 상태’를 의미하는 RSI의 고전적인 정의와는 다르다고 생각합니다.”

토너는 METR의 아제야 코트라(Ajeya Cotra)가 최근 게시한 글을 인용하며, AI가 연구를 주도하게 되는 과정의 여러 이정표를 구분했다. 코트라가 “적정성(adequacy)”이라고 부르는 단계는, 모든 인간이 배제된 후에도 시스템이 여전히 연구를 수행할 수 있을 때 도래한다. 비록 그 결과로 나온 연구의 가치나 효율성이 떨어지더라도 말이다. ‘동등성(Parity)’은 AI만으로 구성된 시스템이 인간만으로 구성된 시스템만큼 연구에 능숙해질 때 도래한다. 마지막 단계인 ‘우월성(Supremacy)’은 AI만으로 구성된 시스템이 인간과 AI가 협력하는 시스템보다 더 뛰어난 성과를 낼 때 도래한다.

결국 코트라는 AI가 카르파티(Karpathy)의 ‘오토 리서치(Auto-Research)’ 시스템이 이룬 점진적인 변화와 유사하게, 스스로 일정한 성과를 낼 수 있는 ‘적정성’ 기준점에 매우 근접해 있다고 결론지었습니다. 코트라는 “이 이정표가 이미 지났다고 해도 전혀 놀랍지 않을 것이며, 향후 2년 이내에 그런 일이 일어날 것으로 예상한다”고 적었다.

그녀는 ‘동등성(parity)’이 언제 달성될지에 대해서는 확신하지 못하지만, 일단 달성되면 “AI 발전 속도가 엄청나게 가속화되어 1년 이내에 AI 연구의 우위를 차지하게 될 것”이라고 믿는다.

앞길의 난관

AI의 상당 부분이 스케일링 법칙에 기반을 두고 있다는 점을 고려할 때, RSI도 동일한 곡선을 따를 것이라고 가정하는 경향이 강합니다. 토너는 RSI를 통해 AI 연구 및 개발을 추구하는 많은 이들이 “이를 마치 계속해서 규모를 확장해 나갈 수 있는 꽤나 매끄러운 사다리처럼 생각한다”고 말합니다.

하지만 AI 연구자들이 카르파티(Karpathy)의 자동 연구자처럼 점진적인 개선을 이룰 수 있다 하더라도, 전체 연구 과정을 완전히 넘겨주는 데는 여전히 큰 과제가 남아 있다. 토너는 이를 컴퓨팅의 역사적 관점에서 설명하며, 인간은 여전히 최상위에서 전체를 지휘하면서도 과정의 점점 더 많은 부분을 기계에 넘겨왔다고 말한다.

“우리는 기계어에서 어셈블리 언어, 컴파일 언어 순으로 발전해 왔습니다. 컴퓨터의 핵심 내부로부터 점점 더 멀어지고 있는 셈이죠,”라고 토너는 말합니다. “하지만 직관적인 의미에서 보면, 여전히 인간이 전체를 주도하고 있습니다.”

이러한 패러다임을 넘어서는 데에는 공학 및 가치 정렬 측면에서 상당한 도전이 필요할 것입니다. 하지만 막대한 투자가 이루어지더라도 무한한 연산 능력은 얻을 수 없으며, 인간의 노동과 기계 지능 사이의 근본적인 상충 관계는 극복하기 어려울 것입니다.

종말론적인 비전을 불러일으키는 완전한 재귀적 AI 시스템에 대해서는 어떨까요? 연구자들이 대체로 동의하는 유일한 점은, AGI와 마찬가지로 그런 시스템은 아직 실현되지 않았다는 사실뿐입니다.