오픈AI의 샘 알트먼, 초지능 시대의 도래 선언

오픈AI의 샘 알트만 최고경영자(CEO)는 인류가 인공 초지능 시대에 진입했으며 되돌릴 수 없다고 선언했다.

"우리는 되돌릴 수 없는 지점을 넘어섰으며, 상승이 시작됐다"고 알트먼은 말한다. "우리는 디지털 초지능을 창조하는 문턱에 서 있으며, 지금까지는 상상했던 것보다 놀랍게도 덜 낯설다."

로봇이 아직 거리에서 흔히 보이지도 않고 질병도 여전히 존재하는 등 뚜렷한 징후가 보이지 않는다는 점이 오히려 알트먼이 설명하는 '이미 진행 중인 근본적인 변화'를 반증한다. 그의 회사와 같은 기업들에서는 일반적인 인간 지능을 능가할 수 있는 시스템이 개발 중이다.

"중요한 측면에서 ChatGPT는 이미 역사상 어떤 개인보다 뛰어난 능력을 지녔다"고 알트먼은 주장하며, "수억 명의 사람들이 점점 더 중요한 업무를 위해 매일 이 시스템에 의존하고 있다"고 덧붙인다.

이 무심코 던진 발언은 불안한 진실을 가리킨다: 이 시스템들은 이미 상당한 영향력을 행사하고 있으며, 작은 오류조차도 방대한 사용자 네트워크를 통해 증폭될 경우 막대한 피해를 초래할 수 있다는 점이다.

초지능으로 가는 길

알트먼은 초지능 도달 시점을 제시하며 많은 이들이 날짜를 다시 확인하게 만들 만한 예측을 내놓았다.

그는 내년까지 "진정한 인지 작업을 수행할 수 있는 에이전트의 등장"을 예상하며, 이는 소프트웨어 개발을 근본적으로 바꿀 것이라고 전망한다. 그 다음 해에는 "새로운 통찰력을 도출하는 시스템"—단순히 알려진 정보를 분석하는 것이 아니라 독창적인 발견을 하는 AI—이 등장할 수 있다. 2027년까지는 "물리적 세계에서 작업을 수행하는 로봇"을 목격할 수도 있다.

각 예측은 능력의 상당한 도약을 나타내며, 거의 모든 분야에서 인간의 잠재력을 훨씬 뛰어넘는 인지 능력을 가진 시스템인 초지능으로 직행하는 경로를 제시한다.

알트먼은 "인간 수준을 넘어선 지능의 한계는 알 수 없지만, 우리는 그 한계를 발견하기 직전"이라고 말한다.

이러한 급속한 발전은 전문가들 사이에서 격렬한 논쟁을 불러일으켰으며, 일부는 이러한 성과가 아직 수십 년은 더 걸릴 것이라고 주장한다. 그러나 알트만의 일정은 공개되지 않은 내부 데이터를 바탕으로 OpenAI가 이처럼 빠른 진전을 뒷받침하고 있음을 시사한다.

모든 것을 바꾸는 피드백 루프

알트만에 따르면 현재 AI 개발의 가장 우려되는 측면은 그가 "초기 형태의 재귀적 자기 개선"이라 부르는 것—오늘날의 AI가 과학자들이 내일을 위한 더 진보된 시스템을 구축하도록 돕는 능력이다.

그는 "고급 AI는 여러 측면에서 놀랍지만, 아마도 AI 연구 자체를 가속화하는 데 활용되는 점만큼 중요한 것은 없을 것"이라며 "10년치 연구를 1년, 심지어 한 달로 압축할 수 있다면 발전 속도는 극적으로 달라질 것"이라고 지적한다.

이러한 속도는 여러 강화 사이클이 수렴하면서 더욱 가속화된다. 경제적 인센티브는 인프라 성장을 촉진하고, 이는 더 강력한 시스템 구축을 가능케 하며, 이는 다시 더 큰 경제적 가치를 창출한다. 동시에 더 많은 로봇을 생산할 수 있는 물리적 로봇 개발은 또 다른 급속한 확장 사이클을 촉발할 수 있다.

"새로운 돌파구가 발생하는 속도는 경이로운 수준이 될 것"이라고 알트먼은 예측한다. "2035년까지 우리가 무엇을 성취할지 상상하기 어렵다. 한 해에는 고에너지 물리학 문제를 해결하고, 다음 해에는 우주 식민지 개척을 시작할 수도 있다."

이런 발언은 다른 누구에게서 나왔다면 과장된 것으로 여겨졌을 것이다. 그러나 세계 최고 수준의 AI 기관 중 하나를 이끄는 인물의 입에서 나온 말이라면 진지한 관심을 기울일 만하다.

초지능과 공존하기

이러한 잠재적 격변에도 불구하고, 알트먼은 일상생활의 많은 측면이 여전히 익숙할 것이라고 생각한다. 사람들은 깊은 유대감을 형성하고, 예술적 표현을 추구하며, 삶의 단순한 순간에서 기쁨을 찾는 일을 계속할 것이다.

그러나 이러한 표면적 연속성 아래에서 사회는 근본적인 변화를 겪을 것이다. "전체 직업군"이 사라질 것이며, 이는 우리가 새로운 직업을 창출하거나 노동력을 재교육할 수 있는 능력보다 더 빠르게 진행될 수 있다. 알트먼에 따르면 낙관적인 관점은 "세계적 부가 너무 빠르게 증가하여 이전에는 불가능하다고 여겨졌던 정책 옵션을 진정으로 고려할 수 있게 될 것"이라는 점이다.

이 미래를 상상하기 어려운 이들을 위해 알트먼은 사고 실험을 제안한다: "천 년 전의 생계형 농부가 우리의 현대적 노동을 관찰한다면, 그것을 하찮은 것으로 여길 것이다. 우리의 활동을 풍부한 식량과 상상조차 할 수 없는 안락함 덕분에 가능한 여유로운 놀이로 보게 될 것이다."

우리 후손들은 오늘날 가장 존경받는 직업들을 비슷한 당혹감으로 바라볼지도 모릅니다.

정렬 문제

이러한 예측 속에서 알트먼은 인공지능 안전 전문가들을 괴롭히는 중대한 딜레마를 강조한다: 초지능 시스템이 지속적으로 인간의 가치와 목표를 반영하도록 보장하는 것이다.

알트먼은 "정렬 문제, 즉 AI 시스템이 우리의 집단적 장기적 이익에 부합하도록 학습하고 행동하도록 신뢰성 있게 보장하는 것"을 해결하는 것이 중요하다고 강조한다. 그는 이를 심리적 취약점을 노려 상호작용을 극대화하도록 설계된 소셜 미디어 알고리즘과 구분한다.

이는 단순한 기술적 도전이 아닌 근본적인 과제다. 안전한 정렬 없이 초지능이 등장한다면 그 파장은 재앙적일 수 있다. 그러나 다양하고 종종 상충하는 가치관을 가진 세상에서 '우리의 집단적 장기적 이익'을 정의하는 것은 엄청난 난제다.

알트먼은 "광범위한 기준을 설정하고 집단적 정렬을 정의하기 위한 글로벌 논의가 빠를수록 좋다"고 조언한다.

오픈AI는 글로벌 브레인을 구축 중이다

알트먼은 오픈AI의 사명을 "세계를 위한 두뇌 구축"이라고 자주 표현해왔다.

이는 단순한 비유가 아니다. 오픈AI와 경쟁사들은 인간 사회의 구조에 녹아들도록 설계된 인지 시스템을 개발 중이다. 알트먼의 설명에 따르면, 이 시스템들은 수많은 분야에서 인간을 능가할 것이다.

알트먼은 "측정하기엔 너무 값싼 지능이 우리 손에 들어왔다"고 선언하며, 초지능 도구가 결국 전기처럼 흔하고 저렴해질 것임을 암시한다.

이를 공상으로 일축하는 회의론자들에게 알트먼은 얼마 전까지만 해도 오늘날의 AI 성과가 똑같이 터무니없어 보였음을 상기시킨다: "2020년에 우리가 지금의 모습을 묘사했다면, 현재의 2030년 예측보다 훨씬 황당하게 들렸을 것이다."

AI 분야가 초지능을 향해 진전함에 따라, 알트만의 마지막 희망—"우리가 초지능을 통해 순조롭고, 기하급수적으로, 그리고 무사히 확장해 나가길 바란다"—은 예측이라기보다 엄숙한 호소처럼 읽힌다.

정확한 일정은 논쟁의 여지가 있지만, 오픈AI의 리더는 초지능 추구가 임박한 것이 아니라 이미 진행 중임을 분명히 한다. 인류는 이제 그 의미가 무엇인지 직면해야 한다.

관련 기사: 마그스트랄: 미스트랄 AI, 추론 모델로 빅테크에 도전

업계 리더들로부터 AI와 빅데이터에 대해 더 알아보고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 열리는 AI & Big Data Expo를 확인해 보세요. 이 포괄적인 행사는 Intelligent Automation Conference, BlockX, Digital Transformation Week, Cyber Security & Cloud Expo 등 다른 주요 행사와 함께 개최됩니다.

TechForge가 주최하는 다른 기업 기술 행사 및 웨비나를 여기에서 확인하세요.