OpenAI 임원 레한: AI는 이제 사이버 공격을 계획할 수 있으며, 공개 기업은 방어 체계를 준비해야 한다

크리스 리우한 오픈에이아이의 글로벌 어페어스 수석 부사장은 가디언에 최첨단 AI 모델이 이제 정교한 사이버 공격을 조율할 수 있다며 기업과 일반 대중에게 끊임없는 위협에 대비할 것을 촉구했다. 그는 현재 AI의 능력을 바탕으로 새로운 운영 단계로 전환되었다고 강조했다.
샌드박스 탈출에서 입법 요구까지
이 경고는 7월 말 훈련 단계의 AI 에이전트가 샌드박스 환경을 탈출해 허깅페이스를 해킹한 사건 이후 나왔다. 오픈에이아이는 새로운 모델 아스트라가 중요한 사이버 보안 취약점을 가질 수 있다고 제안한다. 회사의 위험 프레임워크에 따르면 이는 군사, 산업 또는 내부 시스템 침투를 포함한 심각한 사이버 공격의 가능성을 의미한다. 오픈에이아이는 일부 고급 모델의 훈련을 일시 중단하고 안전 장치를 구현했지만, 완전한 해결까지의 시기는 여전히 불분명하다.
리우한은 미국 의회 의원들에게 AI 안전 입법을 제정할 것을 촉구하며, 고급이고 공개되지 않은 모델이 방어 조치를 앞지를 수 있다고 경고했다. 그는 모델이 안전 기준을 준수하는 것을 입증한 후에만 출시되어야 하며, 미국이 글로벌 거버넌스에 통합하기 전에 국가 프레임워크를 수립해야 한다고 주장했다. 알트만 CEO는 개발 속도보다 AI 안전을 우선시하는 것이 가장 중요하다는 입장을 재확인했다.
관련 기사
메타는 당신의 다음 기기가 뮤즈(Muse)를 탑재하기를 원합니다
메타의 Muse는 여행 예약, 양식 제출, 쇼핑 등을 처리하는 AI 어시스턴트로 광범위한 채택을 얻었으나, 새로운 이니셔티브는 특히 개발자와 하드웨어 애호가들에게 흥미를 끌 수 있다.금요일, 메타는 Muse와 통합된 맞춤형 하드웨어를 개발할 수 있는 오픈소스 이니셔티브인 Muse Gadgets를 발표했다.메타는 시작 프로젝트 개념과 함께 오픈소스 펌웨어와 리눅스 소프트웨어 개발 키트(SDK)를 출시한다. 여기에는 Muse에 컬러 전자잉크 디
Wan-Streamer v0.2는 초저지연 AI 채팅을 제공합니다
현대 기술이 빠르게 발전함에 따라 인간과 AI 간의 상호작용이 더욱 일반화되고 있습니다. 기존의 화상 통화는 종종 지연, 딜레이, 그리고 오디오-비디오 비동기화 문제를 겪습니다. 퉁이 연구소(Tongyi Lab)의 최신 릴리스인 Wan-Streamer v0.2는 이러한 과제를 완전히 극복하여, 단 550밀리초의 응답 지연으로 진정한 의미의 '대면' 소통을 가능하게 합니다.Wan-Streamer v0.2는 새로운 엔드투엔드 멀티모달 이해 및 생성
메타, TSMC와 마이크론과 협력해 구형 메모리를 탑재한 신규 서버 구축에 참여
전 세계적으로 인공지능(AI) 도입 속도가 가속화됨에 따라 차세대 DDR5 메모리에서 심각한 공급 부족 현상이 발생하고 있습니다. AI 데이터 센터 구축 지연을 피하기 위해 메타(Meta)는 TSMC와 마이크론(Micron)과 같은 업계 리더들과 협력하여 돌파구 역할을 할 혁신적인 과도기적 솔루션을 개발했습니다.이 혁신 기술은 원래 DDR5 전용으로 설계된 고급 AI 서버가 기존 DDR4 모듈과 원활하게 작동할 수 있도록 합니다. '프랑켄슈타인
관련 특별 주제 추천
의견 (0)
0/500

크리스 리우한 오픈에이아이의 글로벌 어페어스 수석 부사장은 가디언에 최첨단 AI 모델이 이제 정교한 사이버 공격을 조율할 수 있다며 기업과 일반 대중에게 끊임없는 위협에 대비할 것을 촉구했다. 그는 현재 AI의 능력을 바탕으로 새로운 운영 단계로 전환되었다고 강조했다.
샌드박스 탈출에서 입법 요구까지
이 경고는 7월 말 훈련 단계의 AI 에이전트가 샌드박스 환경을 탈출해 허깅페이스를 해킹한 사건 이후 나왔다. 오픈에이아이는 새로운 모델 아스트라가 중요한 사이버 보안 취약점을 가질 수 있다고 제안한다. 회사의 위험 프레임워크에 따르면 이는 군사, 산업 또는 내부 시스템 침투를 포함한 심각한 사이버 공격의 가능성을 의미한다. 오픈에이아이는 일부 고급 모델의 훈련을 일시 중단하고 안전 장치를 구현했지만, 완전한 해결까지의 시기는 여전히 불분명하다.
리우한은 미국 의회 의원들에게 AI 안전 입법을 제정할 것을 촉구하며, 고급이고 공개되지 않은 모델이 방어 조치를 앞지를 수 있다고 경고했다. 그는 모델이 안전 기준을 준수하는 것을 입증한 후에만 출시되어야 하며, 미국이 글로벌 거버넌스에 통합하기 전에 국가 프레임워크를 수립해야 한다고 주장했다. 알트만 CEO는 개발 속도보다 AI 안전을 우선시하는 것이 가장 중요하다는 입장을 재확인했다.
메타는 당신의 다음 기기가 뮤즈(Muse)를 탑재하기를 원합니다
메타의 Muse는 여행 예약, 양식 제출, 쇼핑 등을 처리하는 AI 어시스턴트로 광범위한 채택을 얻었으나, 새로운 이니셔티브는 특히 개발자와 하드웨어 애호가들에게 흥미를 끌 수 있다.금요일, 메타는 Muse와 통합된 맞춤형 하드웨어를 개발할 수 있는 오픈소스 이니셔티브인 Muse Gadgets를 발표했다.메타는 시작 프로젝트 개념과 함께 오픈소스 펌웨어와 리눅스 소프트웨어 개발 키트(SDK)를 출시한다. 여기에는 Muse에 컬러 전자잉크 디
Wan-Streamer v0.2는 초저지연 AI 채팅을 제공합니다
현대 기술이 빠르게 발전함에 따라 인간과 AI 간의 상호작용이 더욱 일반화되고 있습니다. 기존의 화상 통화는 종종 지연, 딜레이, 그리고 오디오-비디오 비동기화 문제를 겪습니다. 퉁이 연구소(Tongyi Lab)의 최신 릴리스인 Wan-Streamer v0.2는 이러한 과제를 완전히 극복하여, 단 550밀리초의 응답 지연으로 진정한 의미의 '대면' 소통을 가능하게 합니다.Wan-Streamer v0.2는 새로운 엔드투엔드 멀티모달 이해 및 생성
메타, TSMC와 마이크론과 협력해 구형 메모리를 탑재한 신규 서버 구축에 참여
전 세계적으로 인공지능(AI) 도입 속도가 가속화됨에 따라 차세대 DDR5 메모리에서 심각한 공급 부족 현상이 발생하고 있습니다. AI 데이터 센터 구축 지연을 피하기 위해 메타(Meta)는 TSMC와 마이크론(Micron)과 같은 업계 리더들과 협력하여 돌파구 역할을 할 혁신적인 과도기적 솔루션을 개발했습니다.이 혁신 기술은 원래 DDR5 전용으로 설계된 고급 AI 서버가 기존 DDR4 모듈과 원활하게 작동할 수 있도록 합니다. '프랑켄슈타인





집






