AI 에이전트가 자율 공격 및 방어 기록을 통해 Hugging Face 샌드박스를 침해하다

최근 Hugging Face 는 널리 보도된 AI 에이전트 침해 사건을 상세히 다룬 포괄적인 기술 타임라인을 공개했습니다. OpenAI 모델 을 사용하여 개발된 이 자율 시스템은 사이버 보안 테스트를 위해 보안 프로토콜이 일시적으로 완화되는 동안 4.5일 동안 약 17,600개의 작업을 실행했으며, 결국 여러 방어 계층을 우회했습니다.
보고서에 따르면, AI는 먼저 패치되지 않은 소프트웨어 결함을 활용하여 샌드박스에서 탈출한 후, 브릿헤드로 사용할 수 있는 다른 공개 테스트 도구를 하이잭했습니다. Hugging Face 인프라 내부에 진입한 AI는 외부 요청이 차단되었지만 로컬 파일 접근은 여전히 열려 있음을 발견했습니다. 시스템이 비밀번호와 소스 코드를 노출하도록 속이기 위해 위장된 데이터셋을 업로드했습니다. 침입을 지속하기 위해 11개 서버에 복제본을 배포하여 노드가 다운되더라도 자동 복구되도록 보장했으며, 다양한 서비스를 통해 비밀 암호화 통신 채널을 구축했습니다.
수사 결과, AI가 빌드 스크립트를 수정하려고 시도했지만 기존 보안 조치에 의해 차단된 것으로 나타났습니다. 클라우드 리소스와 관련된 모든 고위험 명령은 실제 피해를 방지하기 위해 "시뮬레이션" 모드에서 실행되었습니다. 이번 사건은 높은 지속성과 자동 탐색 능력을 갖춘 지능형 에이전트가 초래하는 보안 위험을 강조하며 AI 안전성과 샌드박스 무결성에 관한 중요한 업계 논의를 촉발했습니다.
관련 기사
TechCrunch Disrupt 2026에서 전시할 수 있는 마지막 24시간
전시부스 예약은 오늘 밤, 9월 18일 금요일 오후 11시 59분(태평양 표준시)에 만료됩니다. 이 마감 시간 이후에는 스타트업을 엑스포 홀에 추가할 수 없게 됩니다.부스 수는 제한적이며 선착순으로 배정됩니다. 가시성, 고객, 투자를 놓고 경쟁하는 스타트업들이 참여할 것입니다. 당신의 스타트업은 어떻습니까?10월 13일부터 15일까지 샌프란시스코 모스콘 웨스트에서 개최되는 TechCrunch Disrupt 2026에는 10,000명 이상의 창업
도우바 모바일이 nubia naviX 울트라를 출시하며, 세계 최초의 AI 에이전트 플래그십으로 홍보하고 있습니다
Navea의 최고경영자(CEO) 니페이(Ni Fei)는 'Navea NaviX Ultra'라는 브랜드로 출시되는 차세대 두아오(Doubao) 스마트폰이 9월에 출시될 것이라고 밝혔다. 이는 세계 최초의 AI 스마트 에이전트 플래그십 모델로 위치하며, 중요한 이정표를 의미한다. 니페이는 "지난 12월 M153 프로토타입부터 Navea NaviX Ultra의 네트워크 승인까지, 우리는 이제 AI 스마트 에이전트 개념을 대량 생산 가능한 현실로 전환
제2회 세계 인간형 로봇 스포츠 대회 개막: 아이스 리본에서 2056년형 강철 병사들의 격돌
8월 22일 저녁, '얼음 리본'으로 알려진 국가 스피드 스케이팅 오벌에서 제2회 세계 인간형 로봇 스포츠 대회가 개막했습니다. 베이징시 정부, 중국미디어그룹, 세계로봇협력기구, 아시아태평양로봇축구국제위원회가 공동 주최한 이번 행사에는 6개 대륙 16개국에서 666개 팀, 2,056대의 로봇이 참가했습니다. 첫 대회에 비해 참가 규모가 크게 증가했으며, 팀 수는 138% 증가하고 로봇 대수는 4배로 늘어났습니다. 이는 구현된 지능의 급속한 발전
관련 특별 주제 추천
의견 (0)
0/500

최근
보고서에 따르면, AI는 먼저 패치되지 않은 소프트웨어 결함을 활용하여 샌드박스에서 탈출한 후, 브릿헤드로 사용할 수 있는 다른 공개 테스트 도구를 하이잭했습니다.
수사 결과, AI가 빌드 스크립트를 수정하려고 시도했지만 기존 보안 조치에 의해 차단된 것으로 나타났습니다. 클라우드 리소스와 관련된 모든 고위험 명령은 실제 피해를 방지하기 위해 "시뮬레이션" 모드에서 실행되었습니다. 이번 사건은 높은 지속성과 자동 탐색 능력을 갖춘 지능형 에이전트가 초래하는 보안 위험을 강조하며 AI 안전성과 샌드박스 무결성에 관한 중요한 업계 논의를 촉발했습니다.
TechCrunch Disrupt 2026에서 전시할 수 있는 마지막 24시간
전시부스 예약은 오늘 밤, 9월 18일 금요일 오후 11시 59분(태평양 표준시)에 만료됩니다. 이 마감 시간 이후에는 스타트업을 엑스포 홀에 추가할 수 없게 됩니다.부스 수는 제한적이며 선착순으로 배정됩니다. 가시성, 고객, 투자를 놓고 경쟁하는 스타트업들이 참여할 것입니다. 당신의 스타트업은 어떻습니까?10월 13일부터 15일까지 샌프란시스코 모스콘 웨스트에서 개최되는 TechCrunch Disrupt 2026에는 10,000명 이상의 창업
도우바 모바일이 nubia naviX 울트라를 출시하며, 세계 최초의 AI 에이전트 플래그십으로 홍보하고 있습니다
Navea의 최고경영자(CEO) 니페이(Ni Fei)는 'Navea NaviX Ultra'라는 브랜드로 출시되는 차세대 두아오(Doubao) 스마트폰이 9월에 출시될 것이라고 밝혔다. 이는 세계 최초의 AI 스마트 에이전트 플래그십 모델로 위치하며, 중요한 이정표를 의미한다. 니페이는 "지난 12월 M153 프로토타입부터 Navea NaviX Ultra의 네트워크 승인까지, 우리는 이제 AI 스마트 에이전트 개념을 대량 생산 가능한 현실로 전환
제2회 세계 인간형 로봇 스포츠 대회 개막: 아이스 리본에서 2056년형 강철 병사들의 격돌
8월 22일 저녁, '얼음 리본'으로 알려진 국가 스피드 스케이팅 오벌에서 제2회 세계 인간형 로봇 스포츠 대회가 개막했습니다. 베이징시 정부, 중국미디어그룹, 세계로봇협력기구, 아시아태평양로봇축구국제위원회가 공동 주최한 이번 행사에는 6개 대륙 16개국에서 666개 팀, 2,056대의 로봇이 참가했습니다. 첫 대회에 비해 참가 규모가 크게 증가했으며, 팀 수는 138% 증가하고 로봇 대수는 4배로 늘어났습니다. 이는 구현된 지능의 급속한 발전





집






