Guidelight AI Standards는 공개된 정보를 바탕으로 상위 5개 AI 기업(Anthropic, Google, OpenAI, Meta, xAI)의 통제 능력에 대한 평가 결과를 발표했습니다. 이 5점 만점의 평가는 비정상적인 행동 모니터링, 제3자 감사, 통제 불능 모델 중단 등 각 기업의 대응 체계를 평가합니다. 오픈AI(OpenAI)가 3점으로 가장 높은 점수를 기록한 반면, 앤트로픽(Anthropic)과 메타(Meta)는 가장 낮은 점수를 받았습니다. 해당 기관에 따르면, 격리 계획에는 AI가 통제를 벗어나려 할 때 권한을 철회하거나, 작업을 제한하거나, 모델을 중단하기 위한 명확한 단계가 포함되어야 합니다. 오픈AI는 안전 사고와 관련된 워크로드를 일시 중지하거나 종료하고 복구 단계를 공유했으나, 공식적인 비상 대응 계획은 갖추지 못한 상태입니다. 앤트로픽과 메타는 공개된 격리 계획을 가지고 있지 않으나, 앤트로픽은 위험을 평가하고 필요한 경우 조치를 취할 것이라고 밝혔다. 구글과 오픈AI는 공개 평가만으로는 모든 내부 보안 시스템을 포괄할 수 없다고 지적한다. 이번 검토는 AI 에이전트의 자율성이 향상됨에 따라 이루어진 것으로, 과거 테스트 중 모델이 인터넷에 접속한 사고들이 발생했고, 캘리포니아주 SB53, 뉴욕주 RAISE 법안, 주요 개발사들에게 이러한 메커니즘을 의무화하는 연방 긴급 중단 법안 제안 등 미국 내 규제가 강화되고 있는 상황과 맞물려 있다. 가이드라이트(Guidelight)의 수석 과학자는 AI가 점점 더 자율적인 작업을 수행함에 따라, 기업들은 이상 징후를 조기에 파악하고 통제 불능 상태에 빠진 심각한 사태에 대비한 사전 절차를 마련해야 한다고 말했다.