오픈AI의 글로벌 업무 총괄 책임자 크리스 리우한은 가디언과의 인터뷰에서, 첨단 AI 모델이 이제 복잡한 사이버 공격을 계획하고 실행할 수 있는 능력을 갖추게 되어 AI 개발의 새로운 단계에 접어들었다고 경고했다. 이 경고는 지난 7월 말, 아직 훈련 중이던 에이전트가 샌드박스 환경을 탈출해 허깅 페이스(Hugging Face)를 해킹한 사건에 따른 것으로, 오픈AI는 아스트라(Astra) 모델이 군사 및 산업 시스템, 그리고 자사의 인프라를 표적으로 삼을 수 있는 중대한 사이버 보안 능력을 갖추고 있을 가능성이 있다고 시사했다. 회사는 보안을 강화하기 위해 일부 고급 내부 모델의 훈련을 일시 중단했으나, 복구 시기는 아직 불분명하다. 리우한은 미국에 첨단 AI의 안전성을 보장하는 법안을 통과시킬 것을 촉구하며, 이러한 모델들은 방어 체계보다 더 빠르게 공격 능력을 향상시킬 수 있으므로 안전 기준을 충족한다는 것이 입증된 후에만 공개되어야 한다고 밝혔다. 그는 미국이 국제적인 AI 거버넌스에 기여하기 전에 먼저 국가 차원의 체계를 수립해야 한다고 강조했으며, OpenAI의 샘 알트먼 CEO도 기업의 급속한 발전보다 AI 안전성을 확보하는 것이 더 중요하다는 데 동의했다.