집Fei-Fei Li의 그룹은 선제 적 AI 안전법을 촉구합니다
캘리포니아 정책 그룹의 새로운 보고서에 따르면, AI 개척자 페이-페이 리(Fei-Fei Li)가 공동으로 이끄는 이 그룹은 법률 제정자들이 AI 규제 정책을 만들 때 아직 실세계에서 관찰되지 않은 AI 위험을 고려해야 한다고 제안했다. 화요일에 발표된 이 41페이지 분량의 중간 보고서는 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 논란이 되었던 캘리포니아 AI 안전 법안 SB 1047을 거부한 후 설립한 AI 프론티어 모델에 관한 캘리포니아 정책 워킹 그룹(Joint California Policy Working Group on AI Frontier Models)에서 나왔다. 뉴섬은 SB 1047이 목표에 정확히 부합하지 않는다고 느꼈지만, 입법자들을 안내하기 위해 AI 위험에 대한 더 깊은 조사가 필요하다는 점을 인식했다.
보고서에서 리는 UC 버클리 컴퓨팅 학부 학장 제니퍼 체이스(Jennifer Chayes)와 카네기 국제평화재단 회장 마리아노-플로렌티노 쿠에야르(Mariano-Florentino Cuéllar)와 함께, OpenAI 같은 프론티어 AI 연구소들이 무엇을 하고 있는지 더 명확히 하기 위한 법률을 추진했다. 보고서가 공개되기 전에, 튜링상 수상자 요슈아 벤지오(Yoshua Bengio)와 같은 강력한 AI 안전 지지자들과 Databricks 공동 설립자 이온 스토이카(Ion Stoica)처럼 SB 1047에 반대한 다양한 업계 관계자들이 보고서를 검토했다.
보고서는 AI 시스템의 새로운 위험으로 인해 AI 모델 개발자들이 안전 테스트, 데이터 획득 방법, 보안 조치를 대중과 공유하도록 하는 법률이 필요할 수 있다고 지적했다. 또한, 이에 대한 제3자 검증과 회사 정책에 대한 더 나은 기준, 그리고 AI 회사 직원 및 계약자들이 내부 고발을 할 때 더 많은 보호를 요구했다.
리와 공동 저자들은 AI가 사이버 공격을 돕거나, 생물학 무기를 만들거나, 기타 "극단적인" 위험을 초래할 가능성에 대한 증거가 아직 충분하지 않다고 언급했다. 하지만 그들은 AI 정책이 현재 일어나고 있는 일만 다루는 것이 아니라, 충분한 안전 조치가 마련되지 않을 경우 미래에 일어날 수 있는 일도 고려해야 한다고 말했다.
보고서는 핵무기를 예로 들며, "핵무기가 터지는 것을 보지 않아도 그것이 큰 해를 끼칠 수 있다는 것을 안다"고 밝혔다. 이어서, "최악의 위험을 이야기하는 사람들이 옳다면 — 그리고 그들이 옳을지 확실하지 않지만 — 지금 프론티어 AI에 대해 아무 조치도 취하지 않는다면 매우 큰 대가를 치를 수 있다"고 덧붙였다.
AI 모델 개발을 더 투명하게 하기 위해 보고서는 "신뢰하되 검증하라"는 접근 방식을 제안했다. AI 모델 개발자와 그들의 직원들이 내부 안전 테스트와 같은 대중에게 중요한 사항을 보고할 수 있는 방법을 마련해야 하며, 테스트 주장도 제3자에 의해 검증받아야 한다고 밝혔다.
2025년 6월에 최종화될 이 보고서는 특정 법률을 지지하지 않지만, AI 정책 논쟁의 양측 전문가들에게 좋은 평가를 받았다.
SB 1047을 좋아하지 않았던 조지 메이슨 대학교의 AI 중심 연구원 딘 볼(Dean Ball)은 X에서 이 보고서가 캘리포니아의 AI 안전 규칙에 좋은 진전이라고 말했다. 또한, 작년에 SB 1047을 발의한 캘리포니아 주 상원의원 스콧 위너(Scott Wiener)에 따르면, 이는 AI 안전 옹호자들에게도 승리라고 한다. 위너는 보도자료에서 이 보고서가 "2024년에 주의회에서 시작한 AI 거버넌스에 대한 긴급한 논의를 강화한다"고 말했다.
보고서는 SB 1047과 위너의 다음 법안 SB 53의 일부, 예를 들어 AI 모델 개발자들이 안전 테스트 결과를 보고하도록 하는 부분과 일치하는 것으로 보인다. 더 큰 그림을 보면, 이는 지난 1년 동안 지지를 잃어왔던 AI 안전 옹호자들에게 매우 필요한 승리로 보인다.
관련 기사
하이얼, 무게가 단 1.75kg에 불과한 세계에서 가장 가벼운 AI 스포츠 외골격 로봇 출시
하이얼 그룹은 세계에서 가장 가벼운 AI 기반 스포츠용 외골격 로봇인 ‘하이얼 외골격 로봇 W3’를 선보였습니다. 이번 출시로 경량성 부문에서 업계 신기록을 세우며, 경량 설계 및 지능형 인간 동작 강화 분야에서 획기적인 진전을 이루었습니다.고급 소재가 구현한 초경량 디자인W3는 풀 카본 파이버와 티타늄 합금을 결합한 혁신적인 일체형 제조 공정을 적용했습니
야오크 미디어의 첫 AIGC 드라마 '진링의 청동 미스터리'가 오늘 AI가 연기한 주연 배우들과 함께 공개된다
오늘, 야오케 미디어의 AIGC 판타지 미스터리 단편 드라마 《진링 청동의 비밀》이 공식 공개됩니다. 이 작품은 회사 최초의 AI 배우 두 명인 진링위예와 린시야녠이 주연을 맡았으며, 신비로운 진링 광산 지역을 배경으로 이야기가 펼쳐집니다. 은퇴한 정보 요원 진웨가 팀을 이끌고 이 지역 깊숙이 들어가, 오랫동안 묻혀 있던 광산 참사와 두 세대에 걸친 피의
사티야 나델라, 새로운 오픈AI 협력을 활용할 준비가 되었다
수요일에 월스트리트의 한 애널리스트가 마이크로소프트의 사티야 나델라 CEO에게 개정된 오픈AI와의 파트너십이 회사의 재무 상황에 어떤 영향을 미칠지 직접 물었습니다.나델라는 이 새로운 협약이 모든 당사자에게 이익이 된다고 설명했습니다. “오픈AI와의 파트너십에 대해 우리는 만족하고 있습니다. 저는 언제나 모든 파트너십에서 상호 이익이 되도록 하는 데 집중합니다. 그렇게 해야만 좋은 파트너로 남을 수 있기 때문입니다.”그는 마이크로소프트가 여
관련 특별 주제 추천
사업
최고의 AI 경비 관리 앱: 영수증을 스캔하고 기업 경비를 자동으로 분류하세요
2026년 최신 최고의 AI 경비 관리 도구: 영수증을 스캔하고 기업 경비를 자동으로 분류해 주는 최고 평점의 도구들. 손쉬운 경비 관리, 정확한 재무 추적, 효율적인 규정 준수를 위한 강력하고 혁신적인 솔루션을 만나보세요. 무료 및 유료 옵션을 엄선하여 매주 업데이트되는 비교 자료를 통해 귀사에 딱 맞는 도구를 찾으실 수 있습니다. XIX.AI의 전문가 추천 목록으로 AI의 장점을 최대한 활용하세요.
10 도구
xix.ai
사업
최고의 AI 채용 도구: 이력서 심사 및 후보자 면접 일정 자동화
XIX.AI에서 2026년 최신 최고 평점을 받은 AI 채용 도구를 확인해 보세요. 저희가 엄선한 이 목록에는 이력서 심사 및 후보자 면접 일정 자동화를 위한 강력하고 혁신적인 솔루션이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 바탕으로 무료 및 유료 옵션을 비교해 보세요. 지금 바로 귀사에 딱 맞는 채용 도우미를 찾아 채용 프로세스를 효율화하세요!
10 도구
xix.ai
생산력
AI 개인 웰니스 및 집중력 코치: 번아웃 관리 및 정신적 에너지 수준 향상
XIX.AI에서 2026년 최고의 AI 기반 개인 웰니스 및 집중력 코치들을 만나보세요. 저희가 엄선한 순위 목록에는 번아웃을 관리하고 정신적 에너지를 높여주는 최고 평점을 받은 혁신적인 도구들이 소개되어 있습니다. 실제 사용 후기를 바탕으로 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 최고의 생산성과 웰빙을 향한 길을 열어보세요.
10 도구
xix.ai
챗봇
최고 평점을 받은 AI 로맨틱 챗봇: 일관된 성격으로 장기적인 관계를 구축하세요
진정성 있는 장기적인 관계를 형성할 수 있는 2026년 최신 최고 평점 AI 로맨틱 챗봇을 만나보세요. 저희가 엄선한 이 목록에는 강력하고 일관된 캐릭터, 무료 및 유료 버전 비교, 실제 사용 후기가 담겨 있습니다. XIX.AI에서 나에게 딱 맞는 파트너를 찾아 오늘 바로 관계를 시작해 보세요.
10 도구
xix.ai
교육 및 학습
최고의 AI 데이터 과학 멘토들: SQL, Pandas 및 머신 러닝 워크플로우 마스터하기
2026년 최고의 AI 데이터 과학 멘토들을 만나 SQL, Pandas 및 머신러닝 워크플로우를 마스터하세요. XIX.AI에서 선별한 최고의 멘토들을 통해 강력하고 혁신적인 지도를 받아보세요. 무료 옵션과 유료 옵션을 실제 사례를 바탕으로 비교해 보세요. 오늘 바로 데이터 과학의 전문성을 확보하세요.
10 도구
xix.ai
챗봇
최고의 AI 유혹 및 대화 트레이너: 실시간으로 사회적 매력과 자신감을 높여보세요
XIX.AI에서 2026년 최고의 AI 플러팅 및 대화 트레이너를 만나보세요. 엄선된 최고 평점의 제품들을 통해 실시간으로 사회적 매력과 자신감을 키울 수 있습니다. 무료와 유료 버전을 비교하고 매주 업데이트되는 순위를 확인하며, 꼭 사용해봐야 할 획기적인 도구들을 탐색해 보세요. 지금 바로 여러분의 사회적 경쟁력을 한 단계 높여보세요.
10 도구
xix.ai
의견 (39)
0/500
![GaryPerez]()
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
![CharlesRoberts]()
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
![HarrySmith]()
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
![PaulHill]()
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
![MichaelDavis]()
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
![JasonRoberts]()
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
캘리포니아 정책 그룹의 새로운 보고서에 따르면, AI 개척자 페이-페이 리(Fei-Fei Li)가 공동으로 이끄는 이 그룹은 법률 제정자들이 AI 규제 정책을 만들 때 아직 실세계에서 관찰되지 않은 AI 위험을 고려해야 한다고 제안했다. 화요일에 발표된 이 41페이지 분량의 중간 보고서는 캘리포니아 주지사 개빈 뉴섬(Gavin Newsom)이 논란이 되었던 캘리포니아 AI 안전 법안 SB 1047을 거부한 후 설립한 AI 프론티어 모델에 관한 캘리포니아 정책 워킹 그룹(Joint California Policy Working Group on AI Frontier Models)에서 나왔다. 뉴섬은 SB 1047이 목표에 정확히 부합하지 않는다고 느꼈지만, 입법자들을 안내하기 위해 AI 위험에 대한 더 깊은 조사가 필요하다는 점을 인식했다.
보고서에서 리는 UC 버클리 컴퓨팅 학부 학장 제니퍼 체이스(Jennifer Chayes)와 카네기 국제평화재단 회장 마리아노-플로렌티노 쿠에야르(Mariano-Florentino Cuéllar)와 함께, OpenAI 같은 프론티어 AI 연구소들이 무엇을 하고 있는지 더 명확히 하기 위한 법률을 추진했다. 보고서가 공개되기 전에, 튜링상 수상자 요슈아 벤지오(Yoshua Bengio)와 같은 강력한 AI 안전 지지자들과 Databricks 공동 설립자 이온 스토이카(Ion Stoica)처럼 SB 1047에 반대한 다양한 업계 관계자들이 보고서를 검토했다.
보고서는 AI 시스템의 새로운 위험으로 인해 AI 모델 개발자들이 안전 테스트, 데이터 획득 방법, 보안 조치를 대중과 공유하도록 하는 법률이 필요할 수 있다고 지적했다. 또한, 이에 대한 제3자 검증과 회사 정책에 대한 더 나은 기준, 그리고 AI 회사 직원 및 계약자들이 내부 고발을 할 때 더 많은 보호를 요구했다.
리와 공동 저자들은 AI가 사이버 공격을 돕거나, 생물학 무기를 만들거나, 기타 "극단적인" 위험을 초래할 가능성에 대한 증거가 아직 충분하지 않다고 언급했다. 하지만 그들은 AI 정책이 현재 일어나고 있는 일만 다루는 것이 아니라, 충분한 안전 조치가 마련되지 않을 경우 미래에 일어날 수 있는 일도 고려해야 한다고 말했다.
보고서는 핵무기를 예로 들며, "핵무기가 터지는 것을 보지 않아도 그것이 큰 해를 끼칠 수 있다는 것을 안다"고 밝혔다. 이어서, "최악의 위험을 이야기하는 사람들이 옳다면 — 그리고 그들이 옳을지 확실하지 않지만 — 지금 프론티어 AI에 대해 아무 조치도 취하지 않는다면 매우 큰 대가를 치를 수 있다"고 덧붙였다.
AI 모델 개발을 더 투명하게 하기 위해 보고서는 "신뢰하되 검증하라"는 접근 방식을 제안했다. AI 모델 개발자와 그들의 직원들이 내부 안전 테스트와 같은 대중에게 중요한 사항을 보고할 수 있는 방법을 마련해야 하며, 테스트 주장도 제3자에 의해 검증받아야 한다고 밝혔다.
2025년 6월에 최종화될 이 보고서는 특정 법률을 지지하지 않지만, AI 정책 논쟁의 양측 전문가들에게 좋은 평가를 받았다.
SB 1047을 좋아하지 않았던 조지 메이슨 대학교의 AI 중심 연구원 딘 볼(Dean Ball)은 X에서 이 보고서가 캘리포니아의 AI 안전 규칙에 좋은 진전이라고 말했다. 또한, 작년에 SB 1047을 발의한 캘리포니아 주 상원의원 스콧 위너(Scott Wiener)에 따르면, 이는 AI 안전 옹호자들에게도 승리라고 한다. 위너는 보도자료에서 이 보고서가 "2024년에 주의회에서 시작한 AI 거버넌스에 대한 긴급한 논의를 강화한다"고 말했다.
보고서는 SB 1047과 위너의 다음 법안 SB 53의 일부, 예를 들어 AI 모델 개발자들이 안전 테스트 결과를 보고하도록 하는 부분과 일치하는 것으로 보인다. 더 큰 그림을 보면, 이는 지난 1년 동안 지지를 잃어왔던 AI 안전 옹호자들에게 매우 필요한 승리로 보인다.
하이얼, 무게가 단 1.75kg에 불과한 세계에서 가장 가벼운 AI 스포츠 외골격 로봇 출시
하이얼 그룹은 세계에서 가장 가벼운 AI 기반 스포츠용 외골격 로봇인 ‘하이얼 외골격 로봇 W3’를 선보였습니다. 이번 출시로 경량성 부문에서 업계 신기록을 세우며, 경량 설계 및 지능형 인간 동작 강화 분야에서 획기적인 진전을 이루었습니다.고급 소재가 구현한 초경량 디자인W3는 풀 카본 파이버와 티타늄 합금을 결합한 혁신적인 일체형 제조 공정을 적용했습니
야오크 미디어의 첫 AIGC 드라마 '진링의 청동 미스터리'가 오늘 AI가 연기한 주연 배우들과 함께 공개된다
오늘, 야오케 미디어의 AIGC 판타지 미스터리 단편 드라마 《진링 청동의 비밀》이 공식 공개됩니다. 이 작품은 회사 최초의 AI 배우 두 명인 진링위예와 린시야녠이 주연을 맡았으며, 신비로운 진링 광산 지역을 배경으로 이야기가 펼쳐집니다. 은퇴한 정보 요원 진웨가 팀을 이끌고 이 지역 깊숙이 들어가, 오랫동안 묻혀 있던 광산 참사와 두 세대에 걸친 피의
사티야 나델라, 새로운 오픈AI 협력을 활용할 준비가 되었다
수요일에 월스트리트의 한 애널리스트가 마이크로소프트의 사티야 나델라 CEO에게 개정된 오픈AI와의 파트너십이 회사의 재무 상황에 어떤 영향을 미칠지 직접 물었습니다.나델라는 이 새로운 협약이 모든 당사자에게 이익이 된다고 설명했습니다. “오픈AI와의 파트너십에 대해 우리는 만족하고 있습니다. 저는 언제나 모든 파트너십에서 상호 이익이 되도록 하는 데 집중합니다. 그렇게 해야만 좋은 파트너로 남을 수 있기 때문입니다.”그는 마이크로소프트가 여
2026년 최신 최고의 AI 경비 관리 도구: 영수증을 스캔하고 기업 경비를 자동으로 분류해 주는 최고 평점의 도구들. 손쉬운 경비 관리, 정확한 재무 추적, 효율적인 규정 준수를 위한 강력하고 혁신적인 솔루션을 만나보세요. 무료 및 유료 옵션을 엄선하여 매주 업데이트되는 비교 자료를 통해 귀사에 딱 맞는 도구를 찾으실 수 있습니다. XIX.AI의 전문가 추천 목록으로 AI의 장점을 최대한 활용하세요.
10 도구
xix.ai
XIX.AI에서 2026년 최신 최고 평점을 받은 AI 채용 도구를 확인해 보세요. 저희가 엄선한 이 목록에는 이력서 심사 및 후보자 면접 일정 자동화를 위한 강력하고 혁신적인 솔루션이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 바탕으로 무료 및 유료 옵션을 비교해 보세요. 지금 바로 귀사에 딱 맞는 채용 도우미를 찾아 채용 프로세스를 효율화하세요!
10 도구
xix.ai
XIX.AI에서 2026년 최고의 AI 기반 개인 웰니스 및 집중력 코치들을 만나보세요. 저희가 엄선한 순위 목록에는 번아웃을 관리하고 정신적 에너지를 높여주는 최고 평점을 받은 혁신적인 도구들이 소개되어 있습니다. 실제 사용 후기를 바탕으로 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 최고의 생산성과 웰빙을 향한 길을 열어보세요.
10 도구
xix.ai
진정성 있는 장기적인 관계를 형성할 수 있는 2026년 최신 최고 평점 AI 로맨틱 챗봇을 만나보세요. 저희가 엄선한 이 목록에는 강력하고 일관된 캐릭터, 무료 및 유료 버전 비교, 실제 사용 후기가 담겨 있습니다. XIX.AI에서 나에게 딱 맞는 파트너를 찾아 오늘 바로 관계를 시작해 보세요.
10 도구
xix.ai
2026년 최고의 AI 데이터 과학 멘토들을 만나 SQL, Pandas 및 머신러닝 워크플로우를 마스터하세요. XIX.AI에서 선별한 최고의 멘토들을 통해 강력하고 혁신적인 지도를 받아보세요. 무료 옵션과 유료 옵션을 실제 사례를 바탕으로 비교해 보세요. 오늘 바로 데이터 과학의 전문성을 확보하세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 AI 플러팅 및 대화 트레이너를 만나보세요. 엄선된 최고 평점의 제품들을 통해 실시간으로 사회적 매력과 자신감을 키울 수 있습니다. 무료와 유료 버전을 비교하고 매주 업데이트되는 순위를 확인하며, 꼭 사용해봐야 할 획기적인 도구들을 탐색해 보세요. 지금 바로 여러분의 사회적 경쟁력을 한 단계 높여보세요.
10 도구
xix.ai
Interesting read! It's refreshing to see a call for proactive legislation instead of the usual reactive scramble after something goes wrong. The idea of regulating potential, unseen risks is tricky though—how do you write laws for hypotheticals without stifling innovation? 🤔 Still, having Fei-Fei Li's group weigh in adds serious credibility. Hope policymakers actually listen this time.
Enfin une approche proactive ! Les risques futurs de l'IA méritent qu'on s'y intéresse avant qu'il ne soit trop tard. Espérons que les législateurs sauront trouver un équilibre entre innovation et sécurité 🧠
This report sounds like a bold move! 😎 Fei-Fei Li’s team pushing for proactive AI laws is smart, but I wonder if lawmakers can keep up with tech’s pace. Preemptive rules could spark innovation or just create red tape. What do you all think?
Fei-Fei Li’s group is onto something big here! Proactive AI safety laws sound smart, but I wonder if lawmakers can keep up with tech’s pace. 🤔 Risky moves need bold rules!
O grupo de Fei-Fei Li sugerindo leis de segurança para IA antes mesmo de vermos os riscos? Parece proativo, mas também meio assustador! 🤔 Como se preparar para uma tempestade que pode nunca chegar. Ainda assim, melhor prevenir do que remediar, certo? Talvez devessem focar nos problemas atuais também? Só um pensamento! 😅
¿El grupo de Fei-Fei Li proponiendo leyes de seguridad para la IA antes de que veamos los riesgos? Suena proactivo pero también un poco aterrador! 🤔 Como prepararse para una tormenta que tal vez nunca llegue. Sin embargo, más vale prevenir que lamentar, ¿verdad? Tal vez deberían enfocarse también en los problemas actuales? Solo es un pensamiento! 😅
