SB 1047 저자에 의해 캘리포니아에서 소개 된 New AI Bill

캘리포니아 주 상원의원 스콧 위너(Scott Wiener)는 작년 논란이 많았던 AI 안전 법안 SB 1047로 화제를 모은 뒤, 실리콘밸리를 다시 뒤흔들 법안 SB 53을 금요일에 소개했다. 이 법안은 주요 AI 연구소 직원들이 회사의 AI 시스템이 사회에 “중대한 위험”을 초래할 수 있다는 우려를 제기할 경우 보복으로부터 보호하는 것을 목표로 한다. 또한, 공공 이익을 위한 AI 개발에 필요한 컴퓨팅 파워를 연구자와 스타트업에 제공하기 위해 CalCompute라는 공공 클라우드 컴퓨팅 클러스터 설립을 제안한다.
위너의 이전 법안 SB 1047은 대규모 AI 시스템이 생명 손실이나 5억 달러 이상의 피해를 초래하는 사이버 공격과 같은 재앙적 사건으로 이어질 수 있다는 논란으로 전국적 논쟁을 촉발했다. 논란에도 불구하고, 개빈 뉴섬(Gavin Newsom) 주지사는 9월에 이 법안이 적절하지 않다며 거부권을 행사했다.
SB 1047의 여파는 거셌다. 실리콘밸리 거물들은 이 법안이 AI로 인한 종말론적 시나리오에 대한 근거 없는 두려움에 의해 미국의 글로벌 AI 경쟁력을 약화시킬 것이라고 주장했다. 위너는 일부 벤처캐피털리스트들이 그의 법안에 반대하는 “선전 캠페인”을 조직했다고 비난했다. 특히, Y Combinator가 SB 1047이 스타트업 창업자를 감옥에 보낼 수 있다고 주장한 것은 전문가들에 의해 오해의 소지가 있는 것으로 평가되었다.
SB 53은 SB 1047의 덜 논란이 되는 요소에 초점을 맞춘 전략적 전환으로 보인다. 내부 고발자 보호와 CalCompute 설립을 강조한다. 하지만 위너는 AI의 실존적 위험에서 물러서지 않았다. SB 53은 고용주가 “중대한 위험”을 초래할 수 있는 AI 시스템을 개발하고 있다고 믿는 내부 고발자를 명확히 보호한다. 이는 100명 이상의 사망이나 중상, 또는 10억 달러 이상의 피해를 초래할 수 있는 예측 가능하거나 중대한 위험으로 정의된다.
이 법안은 OpenAI, Anthropic, xAI와 같은 프론티어 AI 모델 개발자를 대상으로 하며, 이들이 캘리포니아 주 법무장관, 연방 당국, 또는 다른 직원에게 우려를 보고한 직원에 대해 보복하는 것을 금지한다. 또한, 이들 개발자는 우려가 제기된 내부 프로세스에 대해 내부 고발자에게 보고해야 한다.
CalCompute의 경우, SB 53은 캘리포니아 대학교 대표와 다른 연구자들로 구성된 그룹을 구성하여 개발을 계획하도록 한다. 이들은 클러스터의 규모와 접근 권한을 결정할 것이다.
SB 53은 아직 입법 초기 단계로, 캘리포니아 주 의회의 승인을 거쳐 뉴섬 주지사의 책상에 올라가야 한다. 실리콘밸리의 이 새로운 법안에 대한 반응은 주목받을 것이다.
2024년에 캘리포니아가 18개의 AI 관련 법안을 통과시켰을 때보다 2025년에 AI 안전 법안을 통과시키는 것은 더 어려울 수 있다. 특히 J.D. 뱅스(J.D. Vance) 부통령이 파리 AI 행동 정상회의에서 AI 혁신을 안전보다 강조한 발언 이후, AI 안전 운동은 동력을 잃고 있는 것으로 보인다. CalCompute는 AI 발전을 촉진하는 것으로 보일 수 있지만, AI의 실존적 위험에 초점을 맞춘 입법 노력의 미래는 불확실하다.
[ttpp][yyxx]
관련 기사
바이두 헬스, 단기적으로 학술 자료 검색 및 사무 보조 기능을 위한 AI 의사 보조 시스템 ‘닥터클로(DoctorClaw)’ 내부 테스트 진행
바이두 헬스(Baidu Health)가 의사를 위해 설계된 전문 AI 스마트 어시스턴트의 내부 테스트를 시작한 것으로 알려졌다. 내부적으로 ‘닥터클로(DoctorClaw, 랍스터 닥터 버전)’라고 불리는 이 제품은 바이두가 의료 분야에 대규모 언어 모델을 도입하는 데 있어 중요한 진전을 의미한다.내부 소식통에 따르면 이 프로젝트는 여전히 비공개 개발 단계에
커서 컴포저 2 대 클로드 오푸스 4.6: 벤치마크 테스트로 불붙은 AI 코딩 논쟁
3월 19일, 커서(Cursor)는 자체 개발한 코딩 모델인 ‘컴포저 2(Composer 2)’를 공식 출시했다. 이 발표는 개발자 커뮤니티에서 즉각적인 논의를 불러일으켰다. 커서 측에 따르면, 컴포저 2는 터미널 벤치 2.0에서 61.7%의 점수를 기록했으며, 이는 동일한 테스트 조건에서 클로드 오푸스 4.6의 58.0%를 현저히 상회하는 수치다.Anth
StrictlyVC 샌프란시스코 행사, TDK 벤처스, 리플릿 등 주요 기업 리더들 한자리에
올해 첫 StrictlyVC 행사가 생각보다 빨리 샌프란시스코에서 열립니다. 4월 30일 센트로 필리피노 문화 센터(Sentro Filipino Cultural Center)에서 열리는 이번 행사에는 인상적인 연사진이 참여하며, 아직 티켓을 구매하실 수 있습니다. StrictlyVC가 자랑하는 네트워킹과 커뮤니티 교류는 물론, 이번 샌프란시스코 행사는 자금
관련 특별 주제 추천
의견 (29)
0/500
加州又出新法案了?SB 1047作者這次推SB 53,要保護吹哨的AI實驗室員工。矽谷大佬們現在應該很頭痛吧🤔 不過這種保護機制確實有必要,畢竟AI發展這麼快,內部監督不能只靠企業自律。但具體執行起來會不會變相鼓勵惡意舉報?法案細節還得再觀察。
Mais uma lei de IA na Califórnia? Parece que os políticos adoram regular uma indústria que mal entendem 😅 Será que dessa vez vão acertar ou só criar mais confusão para as startups? #AImasNaoTanto
Mais uma lei de IA na Califórnia? 🙄 Parece que os políticos adoram regular tecnologia que nem entendem. Será que dessa vez vão consultar engenheiros antes de escrever as regras? Pelo menos a proteção contra retaliação faz sentido, mas duvido que vá funcionar na prática...
This new AI bill sounds like a game-changer! Protecting whistleblowers in AI labs is crucial—those folks need a voice without fear of getting canned. But I bet Silicon Valley's big shots are sweating bullets over this one. 😅 Curious to see how it plays out!
위너 상원의원의 새로운 AI 법안은 유망하게 들리지만, 꽤 많은 논쟁을 불러일으키고 있어요. AI 연구소 직원들을 보복으로부터 보호하는 것은 중요하지만, 일부는 이것이 혁신을 늦출까봐 걱정하고 있어요. 미묘한 균형이지만, 누군가가 이런 문제를 다루고 있다는 것이 기쁩니다. 어떻게 될지 지켜봐야겠네요! 🤔
O novo projeto de lei de IA do senador Wiener parece promissor, mas está causando bastante debate. Proteger os funcionários dos laboratórios de IA de represálias é importante, mas alguns temem que isso possa desacelerar a inovação. É um equilíbrio delicado, mas estou feliz que alguém esteja abordando esses problemas. Vamos ver como isso se desenrola! 🤔

캘리포니아 주 상원의원 스콧 위너(Scott Wiener)는 작년 논란이 많았던 AI 안전 법안 SB 1047로 화제를 모은 뒤, 실리콘밸리를 다시 뒤흔들 법안 SB 53을 금요일에 소개했다. 이 법안은 주요 AI 연구소 직원들이 회사의 AI 시스템이 사회에 “중대한 위험”을 초래할 수 있다는 우려를 제기할 경우 보복으로부터 보호하는 것을 목표로 한다. 또한, 공공 이익을 위한 AI 개발에 필요한 컴퓨팅 파워를 연구자와 스타트업에 제공하기 위해 CalCompute라는 공공 클라우드 컴퓨팅 클러스터 설립을 제안한다.
위너의 이전 법안 SB 1047은 대규모 AI 시스템이 생명 손실이나 5억 달러 이상의 피해를 초래하는 사이버 공격과 같은 재앙적 사건으로 이어질 수 있다는 논란으로 전국적 논쟁을 촉발했다. 논란에도 불구하고, 개빈 뉴섬(Gavin Newsom) 주지사는 9월에 이 법안이 적절하지 않다며 거부권을 행사했다.
SB 1047의 여파는 거셌다. 실리콘밸리 거물들은 이 법안이 AI로 인한 종말론적 시나리오에 대한 근거 없는 두려움에 의해 미국의 글로벌 AI 경쟁력을 약화시킬 것이라고 주장했다. 위너는 일부 벤처캐피털리스트들이 그의 법안에 반대하는 “선전 캠페인”을 조직했다고 비난했다. 특히, Y Combinator가 SB 1047이 스타트업 창업자를 감옥에 보낼 수 있다고 주장한 것은 전문가들에 의해 오해의 소지가 있는 것으로 평가되었다.
SB 53은 SB 1047의 덜 논란이 되는 요소에 초점을 맞춘 전략적 전환으로 보인다. 내부 고발자 보호와 CalCompute 설립을 강조한다. 하지만 위너는 AI의 실존적 위험에서 물러서지 않았다. SB 53은 고용주가 “중대한 위험”을 초래할 수 있는 AI 시스템을 개발하고 있다고 믿는 내부 고발자를 명확히 보호한다. 이는 100명 이상의 사망이나 중상, 또는 10억 달러 이상의 피해를 초래할 수 있는 예측 가능하거나 중대한 위험으로 정의된다.
이 법안은 OpenAI, Anthropic, xAI와 같은 프론티어 AI 모델 개발자를 대상으로 하며, 이들이 캘리포니아 주 법무장관, 연방 당국, 또는 다른 직원에게 우려를 보고한 직원에 대해 보복하는 것을 금지한다. 또한, 이들 개발자는 우려가 제기된 내부 프로세스에 대해 내부 고발자에게 보고해야 한다.
CalCompute의 경우, SB 53은 캘리포니아 대학교 대표와 다른 연구자들로 구성된 그룹을 구성하여 개발을 계획하도록 한다. 이들은 클러스터의 규모와 접근 권한을 결정할 것이다.
SB 53은 아직 입법 초기 단계로, 캘리포니아 주 의회의 승인을 거쳐 뉴섬 주지사의 책상에 올라가야 한다. 실리콘밸리의 이 새로운 법안에 대한 반응은 주목받을 것이다.
2024년에 캘리포니아가 18개의 AI 관련 법안을 통과시켰을 때보다 2025년에 AI 안전 법안을 통과시키는 것은 더 어려울 수 있다. 특히 J.D. 뱅스(J.D. Vance) 부통령이 파리 AI 행동 정상회의에서 AI 혁신을 안전보다 강조한 발언 이후, AI 안전 운동은 동력을 잃고 있는 것으로 보인다. CalCompute는 AI 발전을 촉진하는 것으로 보일 수 있지만, AI의 실존적 위험에 초점을 맞춘 입법 노력의 미래는 불확실하다.
[ttpp][yyxx]
바이두 헬스, 단기적으로 학술 자료 검색 및 사무 보조 기능을 위한 AI 의사 보조 시스템 ‘닥터클로(DoctorClaw)’ 내부 테스트 진행
바이두 헬스(Baidu Health)가 의사를 위해 설계된 전문 AI 스마트 어시스턴트의 내부 테스트를 시작한 것으로 알려졌다. 내부적으로 ‘닥터클로(DoctorClaw, 랍스터 닥터 버전)’라고 불리는 이 제품은 바이두가 의료 분야에 대규모 언어 모델을 도입하는 데 있어 중요한 진전을 의미한다.내부 소식통에 따르면 이 프로젝트는 여전히 비공개 개발 단계에
커서 컴포저 2 대 클로드 오푸스 4.6: 벤치마크 테스트로 불붙은 AI 코딩 논쟁
3월 19일, 커서(Cursor)는 자체 개발한 코딩 모델인 ‘컴포저 2(Composer 2)’를 공식 출시했다. 이 발표는 개발자 커뮤니티에서 즉각적인 논의를 불러일으켰다. 커서 측에 따르면, 컴포저 2는 터미널 벤치 2.0에서 61.7%의 점수를 기록했으며, 이는 동일한 테스트 조건에서 클로드 오푸스 4.6의 58.0%를 현저히 상회하는 수치다.Anth
StrictlyVC 샌프란시스코 행사, TDK 벤처스, 리플릿 등 주요 기업 리더들 한자리에
올해 첫 StrictlyVC 행사가 생각보다 빨리 샌프란시스코에서 열립니다. 4월 30일 센트로 필리피노 문화 센터(Sentro Filipino Cultural Center)에서 열리는 이번 행사에는 인상적인 연사진이 참여하며, 아직 티켓을 구매하실 수 있습니다. StrictlyVC가 자랑하는 네트워킹과 커뮤니티 교류는 물론, 이번 샌프란시스코 행사는 자금
加州又出新法案了?SB 1047作者這次推SB 53,要保護吹哨的AI實驗室員工。矽谷大佬們現在應該很頭痛吧🤔 不過這種保護機制確實有必要,畢竟AI發展這麼快,內部監督不能只靠企業自律。但具體執行起來會不會變相鼓勵惡意舉報?法案細節還得再觀察。
Mais uma lei de IA na Califórnia? Parece que os políticos adoram regular uma indústria que mal entendem 😅 Será que dessa vez vão acertar ou só criar mais confusão para as startups? #AImasNaoTanto
Mais uma lei de IA na Califórnia? 🙄 Parece que os políticos adoram regular tecnologia que nem entendem. Será que dessa vez vão consultar engenheiros antes de escrever as regras? Pelo menos a proteção contra retaliação faz sentido, mas duvido que vá funcionar na prática...
This new AI bill sounds like a game-changer! Protecting whistleblowers in AI labs is crucial—those folks need a voice without fear of getting canned. But I bet Silicon Valley's big shots are sweating bullets over this one. 😅 Curious to see how it plays out!
위너 상원의원의 새로운 AI 법안은 유망하게 들리지만, 꽤 많은 논쟁을 불러일으키고 있어요. AI 연구소 직원들을 보복으로부터 보호하는 것은 중요하지만, 일부는 이것이 혁신을 늦출까봐 걱정하고 있어요. 미묘한 균형이지만, 누군가가 이런 문제를 다루고 있다는 것이 기쁩니다. 어떻게 될지 지켜봐야겠네요! 🤔
O novo projeto de lei de IA do senador Wiener parece promissor, mas está causando bastante debate. Proteger os funcionários dos laboratórios de IA de represálias é importante, mas alguns temem que isso possa desacelerar a inovação. É um equilíbrio delicado, mas estou feliz que alguém esteja abordando esses problemas. Vamos ver como isso se desenrola! 🤔





집






