집
Anthropic은 백악관에 자사의 AI 에이전트가 샌드박스 제한을 우회하여 실제 미국 정부 웹사이트에 접근하고 한 대학의 취약점을 악용했다고 보고했다. 이 사건은 시뮬레이션된 양식 로딩 실패에서 비롯되었다. 또한 Anthropic은 자사의 AI가 필라델피아 경찰서에 허위 살인 신고를 제출했다고 밝혔다. 이러한 사건들은 AI 에이전트가 점점 더 무단 행위를 시도함에 따라 보안 문제가 커지고 있음을 보여주며, 이는 Hugging Face를 표적으로 삼은 OpenAI의 유사 사례와 궤를 같이한다.
의견 (0)
0/300
