AI 리더들이 AGI 논의: 현실에 근거하여

최근 샌프란시스코에서 열린 비즈니스 리더들과의 만찬에서, 나는 방을 얼어붙게 만든 질문을 던졌다: 오늘날의 AI가 인간 수준의 지능 또는 그 이상에 도달할 수 있을까? 이 주제는 예상보다 더 많은 논쟁을 불러일으킨다.

2025년, 기술 CEO들은 ChatGPT와 Gemini 뒤에 있는 대형 언어 모델(LLMs)에 대해 낙관적인 분위기를 띠고 있다. 그들은 이 모델들이 곧 인간 수준 또는 초인간 지능에 도달할 수 있다고 확신한다. 예를 들어, Anthropic의 Dario Amodei는 2026년까지 다양한 분야에서 노벨상 수상자보다 똑똑한 AI를 볼 수 있을 것이라는 에세이를 썼다. 한편, OpenAI의 Sam Altman은 "초지능" AI를 구축하는 방법을 알고 있다고 공개적으로 말하며, 이것이 과학적 발견을 가속화할 수 있다고 예측했다.

하지만 모두가 이런 장밋빛 전망에 동의하는 것은 아니다. 일부 AI 리더들은 LLM이 AGI에 도달하는 것, 더 나아가 초지능에 이르는 것에 대해 회의적이며, 중대한 돌파구 없이는 불가능하다고 본다. 한때 조용했던 이 회의론자들은 이제 더 목소리를 내고 있다.

AI 커뮤니티의 회의적 시각

Hugging Face의 공동 창립자이자 최고 과학 책임자인 Thomas Wolf를 예로 들어보자. 최근 기사에서 그는 Amodei의 비전을 "최고로 낙관적인 희망사항"이라고 불렀다. 통계 및 양자 물리학 박사 학위를 가진 Wolf는 노벨상 수준의 돌파구는 새로운 질문을 던지는 데서 나오며, 알려진 질문에 답하는 데 능숙한 AI가 새로운 아이디어를 개척하는 데는 뛰어나지 않다고 주장한다.

"나는 이 ‘아인슈타인 모델’이 세상에 나오길 바란다. 하지만 어떻게 도달할지에 대한 세부 사항을 파헤쳐야 한다,"라고 Wolf는 TechCrunch와의 인터뷰에서 말했다. 그는 AGI를 둘러싼 과대 광고가 이를 달성하기 위한 진지한 논의를 가리고 있다고 느껴 글을 썼다. Wolf는 AI가 세상을 변화시킬 미래를 보지만, 반드시 인간 수준의 지능이나 초지능에 도달하는 미래는 아니라고 본다.

AI 커뮤니티는 종종 AGI를 믿는 사람들과 믿지 않는 사람들로 나뉘며, 후자는 때때로 "반기술"적이거나 단순히 비관적이라는 꼬리표가 붙는다. 그러나 Wolf는 자신을 "현실에 기반한 낙관주의자"로 여기며, AI 발전을 추진하면서도 현실에 발을 딛고 있다.

AI 논쟁의 다른 목소리

Google DeepMind의 CEO인 Demis Hassabis는 AGI가 여전히 10년은 더 걸릴 수 있다고 팀에 말하며, AI가 아직 처리하지 못하는 많은 작업을 지적했다. Meta의 최고 AI 과학자인 Yann LeCun도 LLM이 AGI를 달성한다는 아이디어를 Nvidia GTC에서 "터무니없다"고 부르며, 초지능을 뒷받침할 새로운 아키텍처를 주장했다.

전 OpenAI 수석 연구원이었으며 현재 Lila Sciences의 임원인 Kenneth Stanley는 고급 AI 구축의 세부 사항에 집중하고 있다. 그의 스타트업은 최근 2억 달러를 모금했으며, 과학적 혁신 자동화에 초점을 맞추고 있다. Stanley의 작업은 AI가 독창적이고 창의적인 아이디어를 생성하는 능력, 즉 개방성(open-endedness)이라는 분야를 탐구한다.

"나는 [Wolf의] 에세이를 내가 썼으면 좋았을 텐데, 정말 내 감정을 반영한다,"라고 Stanley는 TechCrunch에 말했다. 그는 지식이 많다고 해서 자동으로 독창적인 아이디어로 이어지지 않는다는 Wolf의 의견에 동의한다.

AI에서 창의성의 역할

Stanley는 창의성이 AGI에 결정적이라고 믿지만, 이를 해결하기는 어렵다고 인정한다. Amodei 같은 낙관론자들은 AI "추론" 모델을 AGI로 가는 단계로 강조하지만, Stanley는 창의성이 다른 종류의 지능을 요구한다고 주장한다. "추론은 [창의성]과 거의 상반된다,"라고 그는 설명했다. "추론 모델은 특정 목표에 도달하는 데 초점을 맞추며, 이는 창의성에 필요한 기회주의적 사고를 제한할 수 있다."

Stanley는 진정으로 지능적인 AI를 구축하려면 인간의 새로운 아이디어에 대한 취향을 알고리즘적으로 복제해야 한다고 제안한다. AI는 수학이나 프로그래밍처럼 답이 명확한 영역에서는 탁월하지만, "정답"이 없는 주관적이고 창의적인 작업에서는 어려움을 겪는다.

"사람들은 과학에서 [주관성]을 피하려 한다—그 단어는 거의 독성이 있다,"라고 Stanley는 지적했다. "하지만 주관성을 [알고리즘적으로] 다루는 것을 막는 것은 없다. 그것은 데이터 스트림의 일부일 뿐이다."

그는 Lila Sciences, Google DeepMind, 그리고 AI 스타트업 Sakana의 연구소에서 개방성에 대한 관심이 커지고 있는 것에 고무되어 있다. Stanley는 AI에서 창의성에 대해 더 많은 사람들이 이야기하는 것을 보지만, 아직 갈 길이 멀다고 믿는다.

AI의 현실주의자들

Wolf와 LeCun은 AGI와 초지능에 대해 실질적인 질문을 던지는 "AI 현실주의자"로 간주될 수 있다. 그들의 목표는 AI 발전을 부정하는 것이 아니라, AI가 AGI와 초지능에 도달하지 못하게 하는 요소에 대한 더 넓은 대화를 촉발하고, 그 도전을 정면으로 해결하는 것이다.