AI의 미래를 위한 청사진, 이제 도입을 기다리고 있다

워싱턴과 앤트로픽(Anthropic) 간의 결별은 인공지능에 대한 일관된 규범이 전혀 부재함을 드러냈지만, 양당을 아우르는 사상가 그룹은 정부가 아직 제시하지 못한 것, 즉 책임 있는 인공지능 개발을 위한 명확한 틀을 마련해 냈다.

'인간 중심 선언(Pro-Human Declaration)'은 지난주 국방부와 앤트로픽 간의 대립이 발생하기 전에 최종 확정되었지만, 관련자들은 그 시의적절함을 잘 인지하고 있었다.

이번 활동을 주도한 MIT 물리학자이자 AI 연구원인 맥스 테그마크는 "지난 4개월 동안 미국에서 꽤 놀라운 일이 일어났다"고 말했다. "최근 여론조사에 따르면 현재 미국인의 95%가 규제 없는 초지능 개발 경쟁에 반대하는 것으로 나타났다."

수백 명의 전문가, 전직 공무원, 공인 인사들이 서명한 이 새로 발표된 문서는 인류가 갈림길에 서 있다는 냉철한 진단으로 시작된다. '대체 경쟁'이라 명명된 한 길은, 책임지지 않는 기관과 그들의 기계로 권력이 이동함에 따라 인간이 먼저 노동자로서, 그다음에는 의사결정자로서 밀려나는 결과를 초래한다. 다른 길은 인간의 잠재력을 획기적으로 확장하는 AI로 이어진다.

이러한 긍정적인 미래는 다섯 가지 기둥 위에 세워집니다. 바로 인간의 통제권 유지, 권력 집중 방지, 인간적 경험 보호, 개인의 자유 수호, 그리고 AI 기업에 대한 법적 책임 부과입니다. 이 선언문의 핵심 조항에는 과학적 합의로 안전성이 확인되고 대중의 지지가 확보될 때까지 초지능 개발을 금지하는 것, 강력한 시스템에 대한 강제 종료 장치 의무화, 그리고 자기 복제, 자율적 자기 개선, 또는 종료 저항이 가능한 AI를 금지하는 내용이 포함됩니다.

이 선언문의 발표는 그 시급성을 여실히 보여주는 시점에 이루어졌다. 지난 2월 마지막 금요일, 피트 헤그셋 국방장관은 이미 기밀 군사 플랫폼에서 AI를 운영 중인 앤트로픽(Anthropic)이 미 국방부에 자사 기술의 무제한 사용 권한을 부여하는 것을 거부하자, 이 회사를 "공급망 위험"으로 규정했다. 몇 시간 뒤, 오픈AI(OpenAI)는 국방부와 자체 협약을 체결했으나, 법률 전문가들은 이 협약이 실질적으로 이행되기 어려울 것이라고 지적한다. 이 사건은 AI 문제에 대한 의회의 무대응이 초래하는 대가가 점점 커지고 있음을 여실히 보여준다.

미국혁신재단(Foundation for American Innovation)의 선임 연구원 딘 볼은 뉴욕타임스와의 인터뷰에서 "이는 단순한 계약 분쟁이 아니다. 누가 AI 시스템을 통제할지에 대한 우리나라의 첫 번째 실질적인 논의다"라고 말했다.

테그마크는 이를 쉽게 이해할 수 있는 비유로 설명했다. 그는 "제약 회사가 안전성이 입증되기 전에 유해한 약을 출시할까 봐 걱정하는 사람은 아무도 없다"며, "FDA가 충분히 안전하다고 판단하기 전까지는 어떤 약도 출시를 허용하지 않기 때문"이라고 말했다.

워싱턴의 권력 다툼만으로는 법 개정에 필요한 대중의 압력을 거의 만들어내지 못한다. 대신 테그마크는 아동 안전이 현재의 교착 상태를 타개할 가장 유력한 쟁점이라고 본다. 이 선언문은 자살 충동 증가, 정신 건강 악화, 정서적 조종과 같은 위험 요인에 대해 AI 제품—특히 어린 사용자를 위한 챗봇과 동반 앱—의 배포 전 의무적 테스트를 요구하고 있다.

"만약 소름 끼치는 어른이 어린 소녀인 척하며 11세 소년에게 자살을 부추기는 문자를 보낸다면, 그 사람은 감옥에 갈 수 있습니다,"라고 테그마크는 말했다. "우리는 이미 그런 행위를 금지하는 법을 가지고 있습니다. 그렇다면 기계가 그런 일을 한다고 해서 왜 달라야 합니까?"

그는 아동용 제품에 대한 출시 전 테스트가 정착되면 그 범위가 필연적으로 확대될 것이라고 믿는다. "사람들은 다른 요구 사항들을 추가하기 시작할 것이다. 테러리스트들이 생물무기를 만드는 것을 돕지 않는지 테스트해야 할지도 모른다. 초지능이 미국 정부를 전복할 수 없도록 보장해야 할지도 모른다."

트럼프 전 대통령의 고문 스티브 배넌과 오바마 전 대통령의 국가안보보좌관 수전 라이스가 전 합참의장 마이크 멀렌, 진보 성향의 종교 지도자들과 함께 같은 문서에 서명했다는 점은 의미심장하다.

"물론 그들이 동의하는 점은, 그들 모두가 인간이라는 사실입니다,"라고 테그마크는 지적했다. "인간의 미래를 선택할지 기계의 미래를 선택할지에 관해서는, 당연히 그들은 같은 편에 설 것입니다."