SB 1047 저자에 의해 캘리포니아에서 소개 된 New AI Bill

캘리포니아 주 상원의원 스콧 위너(Scott Wiener)는 작년 논란이 많았던 AI 안전 법안 SB 1047로 화제를 모은 뒤, 실리콘밸리를 다시 뒤흔들 법안 SB 53을 금요일에 소개했다. 이 법안은 주요 AI 연구소 직원들이 회사의 AI 시스템이 사회에 “중대한 위험”을 초래할 수 있다는 우려를 제기할 경우 보복으로부터 보호하는 것을 목표로 한다. 또한, 공공 이익을 위한 AI 개발에 필요한 컴퓨팅 파워를 연구자와 스타트업에 제공하기 위해 CalCompute라는 공공 클라우드 컴퓨팅 클러스터 설립을 제안한다.

위너의 이전 법안 SB 1047은 대규모 AI 시스템이 생명 손실이나 5억 달러 이상의 피해를 초래하는 사이버 공격과 같은 재앙적 사건으로 이어질 수 있다는 논란으로 전국적 논쟁을 촉발했다. 논란에도 불구하고, 개빈 뉴섬(Gavin Newsom) 주지사는 9월에 이 법안이 적절하지 않다며 거부권을 행사했다.

SB 1047의 여파는 거셌다. 실리콘밸리 거물들은 이 법안이 AI로 인한 종말론적 시나리오에 대한 근거 없는 두려움에 의해 미국의 글로벌 AI 경쟁력을 약화시킬 것이라고 주장했다. 위너는 일부 벤처캐피털리스트들이 그의 법안에 반대하는 “선전 캠페인”을 조직했다고 비난했다. 특히, Y Combinator가 SB 1047이 스타트업 창업자를 감옥에 보낼 수 있다고 주장한 것은 전문가들에 의해 오해의 소지가 있는 것으로 평가되었다.

SB 53은 SB 1047의 덜 논란이 되는 요소에 초점을 맞춘 전략적 전환으로 보인다. 내부 고발자 보호와 CalCompute 설립을 강조한다. 하지만 위너는 AI의 실존적 위험에서 물러서지 않았다. SB 53은 고용주가 “중대한 위험”을 초래할 수 있는 AI 시스템을 개발하고 있다고 믿는 내부 고발자를 명확히 보호한다. 이는 100명 이상의 사망이나 중상, 또는 10억 달러 이상의 피해를 초래할 수 있는 예측 가능하거나 중대한 위험으로 정의된다.

이 법안은 OpenAI, Anthropic, xAI와 같은 프론티어 AI 모델 개발자를 대상으로 하며, 이들이 캘리포니아 주 법무장관, 연방 당국, 또는 다른 직원에게 우려를 보고한 직원에 대해 보복하는 것을 금지한다. 또한, 이들 개발자는 우려가 제기된 내부 프로세스에 대해 내부 고발자에게 보고해야 한다.

CalCompute의 경우, SB 53은 캘리포니아 대학교 대표와 다른 연구자들로 구성된 그룹을 구성하여 개발을 계획하도록 한다. 이들은 클러스터의 규모와 접근 권한을 결정할 것이다.

SB 53은 아직 입법 초기 단계로, 캘리포니아 주 의회의 승인을 거쳐 뉴섬 주지사의 책상에 올라가야 한다. 실리콘밸리의 이 새로운 법안에 대한 반응은 주목받을 것이다.

2024년에 캘리포니아가 18개의 AI 관련 법안을 통과시켰을 때보다 2025년에 AI 안전 법안을 통과시키는 것은 더 어려울 수 있다. 특히 J.D. 뱅스(J.D. Vance) 부통령이 파리 AI 행동 정상회의에서 AI 혁신을 안전보다 강조한 발언 이후, AI 안전 운동은 동력을 잃고 있는 것으로 보인다. CalCompute는 AI 발전을 촉진하는 것으로 보일 수 있지만, AI의 실존적 위험에 초점을 맞춘 입법 노력의 미래는 불확실하다.

[ttpp][yyxx]