AI 경쟁: 빠른 속도와 안전이 조화를 이룰 수 있을까요?

경쟁사를 겨냥한 한 OpenAI 연구원의 AI 안전성에 대한 비판은 업계의 더 깊은 투쟁, 즉 자신과의 싸움을 드러냅니다.

현재 휴직 중이며 OpenAI에서 안전성을 연구하고 있는 하버드대 교수 보아즈 바라크가 xAI의 Grok 모델 출시를 "완전히 무책임하다"고 비판하면서 시작되었습니다. 그의 비판은 헤드라인을 장식하는 장난이 아니라 공개 시스템 카드, 상세한 안전성 평가, 취약한 업계 표준이 되어버린 투명성의 기본 요소 등 누락된 부분에 대한 것이었습니다.

이는 분명하고 필요한 행동 촉구였습니다. 그러나 그가 떠난 지 불과 3주 후에 발표된 전 OpenAI 엔지니어 캘빈 프렌치-오웬의 솔직한 반성은 이야기의 다른 면을 드러냅니다.

French-Owen의 이야기에 따르면 상당수의 OpenAI 직원들이 실제로 증오 발언, 생물무기, 자해와 같은 매우 현실적인 위협에 대처하며 안전에 집중하고 있습니다. 그러나 그는 "수행 중인 작업의 대부분은 공개되지 않는다"는 중요한 통찰력을 제시하며, OpenAI가 "이를 공개하기 위해 더 많은 일을 해야 한다"고 덧붙였습니다.

여기서 책임감 있는 행위자가 무책임한 행위자를 질책하는 단순한 이야기는 무너지고 맙니다. 대신 업계의 진정한 딜레마가 드러납니다. 전체 AI 분야는 '안전-속도 역설'이라고 할 수 있는, 빠른 속도로 발전해야 한다는 경쟁적 압박과 사람들의 안전을 지키기 위해 신중하게 진행해야 한다는 윤리적 의무 사이의 깊고 구조적인 갈등에 휩싸여 있습니다.

프렌치-오웬에 따르면 OpenAI는 통제된 혼돈의 상태에서 운영되고 있습니다. 이 회사는 불과 1년 만에 인력을 3,000여 명으로 3배 늘렸는데, "그렇게 빠르게 확장하면 모든 것이 무너집니다." 이러한 혼란스러운 에너지는 그가 인공 일반 지능을 향한 '3마리의 말 경주'라고 표현한 구글 및 앤트로픽과 직접 경쟁해야 한다는 엄청난 압박감에서 비롯된 것입니다. 그 결과 놀라운 속도와 비밀주의로 정의되는 문화가 형성되었습니다.

OpenAI의 코딩 에이전트인 Codex의 개발을 생각해 보세요. 프렌치-오웬은 이 프로젝트를 소규모 팀이 단 7주 만에 획기적인 제품을 처음부터 다시 만든 '미친 듯이 질주'라고 설명합니다.

이는 속도전의 교과서적인 예로, 대부분의 밤과 주말에도 자정까지 일하며 이를 실현하기 위해 노력했습니다. 이것이 바로 이러한 속도의 인적 비용입니다. 이렇게 빠르게 변화하는 환경에서 AI 안전 연구를 발표하는 느리고 체계적인 작업이 경쟁에서 뒤처지는 것처럼 느껴지는 것은 당연한 일일까요?

이 역설은 악의에서 비롯된 것이 아니라 강력하고 서로 연결된 힘의 결합에서 비롯된 것입니다.

1등이 되어야 한다는 경쟁적 압박이 분명히 존재합니다. 또한 체계적인 프로세스보다 획기적인 혁신을 중시하는 '과학자와 땜장이'로 구성된 비공식 커뮤니티에서 시작된 연구소의 문화적 DNA도 있습니다. 속도와 성과를 추적하기는 쉽지만 성공적으로 방지한 재난을 정량화하기는 매우 어렵다는 기본적인 측정 문제가 여기에 더해집니다.

오늘날의 회의실에서는 눈에 보이는 성과 지표가 보이지 않는 안전의 성공보다 우위에 있는 경우가 대부분입니다. 그러나 업계가 앞으로 나아가기 위해서는 책임을 묻는 것에서 게임의 규칙을 근본적으로 바꾸는 것으로 초점을 옮겨야 합니다.

제품 출시의 의미를 재정의하여 안전 사례의 공개를 코드 자체만큼이나 필수적인 요소로 만들어야 합니다. 안전을 선택적 기능에서 타협할 수 없는 공유의 기반으로 전환하여 성실하다는 이유로 경쟁적으로 불이익을 받는 기업이 없도록 업계 전반의 표준이 필요합니다.

무엇보다도 안전 부서뿐만 아니라 모든 엔지니어가 책임감을 느낄 수 있는 AI 연구소 내 문화를 조성해야 합니다.

AGI를 개발하기 위한 경쟁은 누가 먼저 도달하는지가 아니라 어떻게 도달하는지가 중요합니다. 궁극적인 승자는 단순히 가장 빠른 회사가 아니라 야망과 책임감이 함께 발전할 수 있고, 또 함께 발전해야 한다는 것을 세상에 보여주는 회사가 될 것입니다.

참조: Anthropic, OpenAI, Google, xAI에 체결된 군사 AI 계약

업계 리더들의 AI와 빅데이터에 대해 더 자세히 알고 싶으신가요? 암스테르담, 캘리포니아, 런던에서 개최되는 AI & 빅데이터 엑스포를 확인해 보세요. 이 종합적인 행사는 지능형 자동화 컨퍼런스, BlockX, 디지털 트랜스포메이션 위크, 사이버 보안 및 클라우드 엑스포 등 다른 주요 컨퍼런스와 함께 개최됩니다.

예정된 다른 엔터프라이즈 기술 이벤트 및 웨비나는 여기에서 TechForge에서 제공하는 다른 엔터프라이즈 기술 이벤트와 웨비나를 살펴보세요.