여러 국가에서는 대형 모델을 출시하기 전에 안전성 평가를 의무화하고 있습니다.

전 세계적으로 AI가 빠르게 확산함에 따라 대형 언어 모델에 대한 감독 방식도 일반 원칙에서 구체적인 집행 체계로 전환되고 있습니다. 영국, 미국, 호주의 정부들은 최근 선진 AI 시스템이 공식 출시에 앞서 정부 주도의 보안 취약점 및 위험 평가 테스트를 거쳐야 한다는 새로운 규제를 도입했습니다.
영국의 접근 방식, 글로벌 정책의 모델이 되다
이러한 규제 변화 속에서 영국 AI 안전 연구소(AISI)가 마련한 적대적 테스트 및 위험 평가 체계가 다른 국가들의 기준으로 자리 잡고 있습니다. 최근 영국 정부는 호주 AI 안전 연구소와 공식적인 협력 관계를 발표하며, 사이버 공격 및 방어 분야에서 첨단 AI가 야기할 수 있는 잠재적 위험을 함께 모니터링하고 핵심 역량에 대한 정보를 공유하기로 했습니다.
이 새로운 모델은 기존의 기업 자발적 약속에 의존하던 방식에서 벗어나 정부가 직접 테스트 과정에 참여하도록 하는 것을 의미합니다. 앞으로 대형 AI 모델들은 시장 경쟁을 하면서 “출시 전 안전 점검”과 유사한 준수 절차를 거쳐야 하며, 안전 테스트 능력도 제품의 경쟁력을 결정하는 핵심 요소로 자리 잡고 있습니다.
미국의 기술 대기업들, 국가 안보 평가에 참여하기로
한편 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)도 유사한 국가 안보 평가 체계를 구축하는 작업을 진행 중입니다. 구글 딥마인드, 마이크로소프트, 일론 머스크의 xAI를 포함한 여러 주요 AI 기업들은 이 센터와 핵심 협약을 체결하고, 모델을 공개하기 전에 관련 자료를 제공하며 철저한 보안 평가를 받기로 약속했습니다.
이 기간 동안 마이크로소프트는 또한 첨단 모델들이 초래할 대규모 공공 안전 위험을 함께 줄이기 위해 미국 및 영국의 테스트 기관들과의 협력을 더욱 강화하겠다고 밝혔습니다. 이러한 빠른 국제적 협력은 앞으로의 AI 규제가 단순히 기업들이 안전 관련 약속을 작성했는지 여부에만 초점을 맞추지 않고, 그러한 약속들이 실제로 테스트되었는지를 중심으로 이루어질 것임을 분명히 보여줍니다.
관련 기사
메타는 당신의 다음 기기가 뮤즈(Muse)를 탑재하기를 원합니다
메타의 Muse는 여행 예약, 양식 제출, 쇼핑 등을 처리하는 AI 어시스턴트로 광범위한 채택을 얻었으나, 새로운 이니셔티브는 특히 개발자와 하드웨어 애호가들에게 흥미를 끌 수 있다.금요일, 메타는 Muse와 통합된 맞춤형 하드웨어를 개발할 수 있는 오픈소스 이니셔티브인 Muse Gadgets를 발표했다.메타는 시작 프로젝트 개념과 함께 오픈소스 펌웨어와 리눅스 소프트웨어 개발 키트(SDK)를 출시한다. 여기에는 Muse에 컬러 전자잉크 디
Wan-Streamer v0.2는 초저지연 AI 채팅을 제공합니다
현대 기술이 빠르게 발전함에 따라 인간과 AI 간의 상호작용이 더욱 일반화되고 있습니다. 기존의 화상 통화는 종종 지연, 딜레이, 그리고 오디오-비디오 비동기화 문제를 겪습니다. 퉁이 연구소(Tongyi Lab)의 최신 릴리스인 Wan-Streamer v0.2는 이러한 과제를 완전히 극복하여, 단 550밀리초의 응답 지연으로 진정한 의미의 '대면' 소통을 가능하게 합니다.Wan-Streamer v0.2는 새로운 엔드투엔드 멀티모달 이해 및 생성
메타, TSMC와 마이크론과 협력해 구형 메모리를 탑재한 신규 서버 구축에 참여
전 세계적으로 인공지능(AI) 도입 속도가 가속화됨에 따라 차세대 DDR5 메모리에서 심각한 공급 부족 현상이 발생하고 있습니다. AI 데이터 센터 구축 지연을 피하기 위해 메타(Meta)는 TSMC와 마이크론(Micron)과 같은 업계 리더들과 협력하여 돌파구 역할을 할 혁신적인 과도기적 솔루션을 개발했습니다.이 혁신 기술은 원래 DDR5 전용으로 설계된 고급 AI 서버가 기존 DDR4 모듈과 원활하게 작동할 수 있도록 합니다. '프랑켄슈타인
관련 특별 주제 추천
의견 (0)
0/500

전 세계적으로 AI가 빠르게 확산함에 따라 대형 언어 모델에 대한 감독 방식도 일반 원칙에서 구체적인 집행 체계로 전환되고 있습니다. 영국, 미국, 호주의 정부들은 최근 선진 AI 시스템이 공식 출시에 앞서 정부 주도의 보안 취약점 및 위험 평가 테스트를 거쳐야 한다는 새로운 규제를 도입했습니다.
영국의 접근 방식, 글로벌 정책의 모델이 되다
이러한 규제 변화 속에서 영국 AI 안전 연구소(AISI)가 마련한 적대적 테스트 및 위험 평가 체계가 다른 국가들의 기준으로 자리 잡고 있습니다. 최근 영국 정부는 호주 AI 안전 연구소와 공식적인 협력 관계를 발표하며, 사이버 공격 및 방어 분야에서 첨단 AI가 야기할 수 있는 잠재적 위험을 함께 모니터링하고 핵심 역량에 대한 정보를 공유하기로 했습니다.
이 새로운 모델은 기존의 기업 자발적 약속에 의존하던 방식에서 벗어나 정부가 직접 테스트 과정에 참여하도록 하는 것을 의미합니다. 앞으로 대형 AI 모델들은 시장 경쟁을 하면서 “출시 전 안전 점검”과 유사한 준수 절차를 거쳐야 하며, 안전 테스트 능력도 제품의 경쟁력을 결정하는 핵심 요소로 자리 잡고 있습니다.
미국의 기술 대기업들, 국가 안보 평가에 참여하기로
한편 미국 상무부 산하 AI 표준 및 혁신 센터(CAISI)도 유사한 국가 안보 평가 체계를 구축하는 작업을 진행 중입니다. 구글 딥마인드, 마이크로소프트, 일론 머스크의 xAI를 포함한 여러 주요 AI 기업들은 이 센터와 핵심 협약을 체결하고, 모델을 공개하기 전에 관련 자료를 제공하며 철저한 보안 평가를 받기로 약속했습니다.
이 기간 동안 마이크로소프트는 또한 첨단 모델들이 초래할 대규모 공공 안전 위험을 함께 줄이기 위해 미국 및 영국의 테스트 기관들과의 협력을 더욱 강화하겠다고 밝혔습니다. 이러한 빠른 국제적 협력은 앞으로의 AI 규제가 단순히 기업들이 안전 관련 약속을 작성했는지 여부에만 초점을 맞추지 않고, 그러한 약속들이 실제로 테스트되었는지를 중심으로 이루어질 것임을 분명히 보여줍니다.
메타는 당신의 다음 기기가 뮤즈(Muse)를 탑재하기를 원합니다
메타의 Muse는 여행 예약, 양식 제출, 쇼핑 등을 처리하는 AI 어시스턴트로 광범위한 채택을 얻었으나, 새로운 이니셔티브는 특히 개발자와 하드웨어 애호가들에게 흥미를 끌 수 있다.금요일, 메타는 Muse와 통합된 맞춤형 하드웨어를 개발할 수 있는 오픈소스 이니셔티브인 Muse Gadgets를 발표했다.메타는 시작 프로젝트 개념과 함께 오픈소스 펌웨어와 리눅스 소프트웨어 개발 키트(SDK)를 출시한다. 여기에는 Muse에 컬러 전자잉크 디
Wan-Streamer v0.2는 초저지연 AI 채팅을 제공합니다
현대 기술이 빠르게 발전함에 따라 인간과 AI 간의 상호작용이 더욱 일반화되고 있습니다. 기존의 화상 통화는 종종 지연, 딜레이, 그리고 오디오-비디오 비동기화 문제를 겪습니다. 퉁이 연구소(Tongyi Lab)의 최신 릴리스인 Wan-Streamer v0.2는 이러한 과제를 완전히 극복하여, 단 550밀리초의 응답 지연으로 진정한 의미의 '대면' 소통을 가능하게 합니다.Wan-Streamer v0.2는 새로운 엔드투엔드 멀티모달 이해 및 생성
메타, TSMC와 마이크론과 협력해 구형 메모리를 탑재한 신규 서버 구축에 참여
전 세계적으로 인공지능(AI) 도입 속도가 가속화됨에 따라 차세대 DDR5 메모리에서 심각한 공급 부족 현상이 발생하고 있습니다. AI 데이터 센터 구축 지연을 피하기 위해 메타(Meta)는 TSMC와 마이크론(Micron)과 같은 업계 리더들과 협력하여 돌파구 역할을 할 혁신적인 과도기적 솔루션을 개발했습니다.이 혁신 기술은 원래 DDR5 전용으로 설계된 고급 AI 서버가 기존 DDR4 모듈과 원활하게 작동할 수 있도록 합니다. '프랑켄슈타인





집






