기술 연합, OpenAI의 비영리 단체 출발에 반대하다

전 OpenAI 직원을 포함한 영향력 있는 인공 지능 전문가 연합은 이 단체가 설립 당시의 비영리 원칙에서 벗어난 것에 대해 심각한 우려를 제기했습니다.

오픈 거버넌스 우려

캘리포니아주와 델라웨어주 당국에 제출한 공식 서한에는 OpenAI의 본래 인도주의적 사명을 훼손할 수 있는 구조적 변화에 대한 깊은 우려가 담겨 있습니다. AI 연구자, 법률 전문가, 비영리 단체 리더, 기업 거버넌스 전문가 등 다양한 서명자 그룹은 공익 기업 모델로의 전환이 OpenAI의 헌장에 명시된 중요한 보호를 약화시킬 수 있다고 주장합니다.

위협을 받고 있는 미션 중심의 기원

원래 명확한 비영리 의도로 설립된 OpenAI의 근본적인 목표는 사익을 추구하지 않고 "인류를 위한 인공 일반 지능을 개발하는 것"입니다. 이 근본적인 약속은 현재 계획된 기업 구조조정을 통해 희석될 가능성에 직면해 있습니다.

현재 고려 중인 구조 개편은 기본적으로 OpenAI를 감독하는 기존 비영리 단체에서 델라웨어에 기반을 둔 새로운 공익 법인 구조로 거버넌스 권한을 이전하는 것입니다. 비평가들은 이러한 구조 개편이 인도주의적 우선순위를 혁신적인 AGI 기술 개발에 대한 주주의 이익에 종속시킬 수 있다고 주장합니다.

기존 보호 프레임워크

OpenAI 경영진은 이전에 2019년 수익 상한제를 도입할 때 미션 무결성을 유지하면서 필요한 투자를 유치하기 위해 몇 가지 주요 안전장치를 마련했습니다:

• 비영리 모회사가 운영에 대한 최종 통제권 유지
• 투자자에 대한 재정적 수익에 대한 엄격한 제한
• 재정적 이해관계가 없는 독립적인 이사회 감독
• 공익 목적에 명시적으로 연계된 신탁 의무 이행
• AGI 거버넌스 권한의 비영리 보유

샘 알트만과 엘론 머스크 같은 저명한 인사들을 포함한 이 조직의 창립자들은 상업적 압력으로 인해 윤리적 AI 개발 우선순위가 훼손되는 것을 방지하기 위해 이러한 하이브리드 구조를 특별히 설계했습니다.

잠재적 타협

전문가들은 재구성된 거버넌스 모델이 OpenAI의 원래 보호 프레임워크의 여러 측면을 위협할 수 있다고 경고합니다:

• 집행 가능한 공익 요건의 제거 가능성
• 투자자 수익률 제한을 없애면 인도주의적 목표에서 자원을 전용할 수 있습니다.
• 독립적인 감독 메커니즘의 불확실한 보존
• AGI 거버넌스 권한이 영리를 추구하는 단체로 이전
• 협업 프로토콜과 같은 안전 약속의 약화 가능성

OpenAI는 이러한 변화를 요구하는 경쟁의 압력을 언급하지만, 비평가들은 공익 단체로 설립된 조직의 경우 미션 무결성을 유지하는 것이 상업적 고려 사항보다 우선시되어야 한다고 반박합니다.

규제 검토 요청

연합은 다음 사항에 대해 규제 당국의 개입을 공식적으로 요청했습니다:

• 적절한 검토가 이루어질 때까지 구조조정 제안 중단
• 거버넌스 변경에 대한 투명한 정당성 입증 의무화
• 기존의 비영리단체 통제 조항 유지
• AGI 개발에 대한 지속적인 독립적 감독 보장

서명자들은 "이러한 구조조정은 잠재적으로 혁신적인 기술에 대한 통제권을 미션 중심의 조직에서 기존의 기업 이익으로 효과적으로 이전할 수 있다"고 결론을 내리고, OpenAI의 거버넌스 모델에 대한 근본적인 변화를 승인하기 전에 신중한 규제 고려를 촉구했습니다.

관련 산업 발전

이 논쟁은 AI 개발에서 미션 보존과 상업화 압력에 대한 유사한 우려와 관련하여 OpenAI와 Elon Musk 간에 진행 중인 법적 분쟁과 함께 발생합니다.