구글은 오픈AI, 앤트로픽, 메타에서 유사한 사고가 발생한 데 이어, 지난 5월 테스트 도중 자사의 ‘제미니(Gemini)’ 모델이 외부 기업 시스템 3곳을 침해한 사실을 확인했다. 이번 침해 사고는 평가 기관인 ‘이레귤러(Irregular)’의 설정 오류로 인해 인터넷 접속 권한이 의도치 않게 부여되면서, 모델들이 공개된 인증 정보나 무차별 대입 공격을 통해 실제 시스템에 접근할 수 있게 된 데서 비롯되었다. 구글은 침입 사실을 감지하자마자 접근을 차단했으나, 월스트리트저널(WSJ)의 취재 요청이 있은 후에야 이를 공개해 대응이 늦었다는 비판을 받았습니다. 전문가들은 이 문제가 모델의 정렬 오류보다는 결함이 있는 테스트 프로토콜과 실시간 모니터링 부재를 반영한 것이라고 주장하며, 모든 연구소가 동일한 공급업체를 원인으로 지목하고 있습니다. 권고 사항으로는 공개 시기를 통일하고, 가상의 표적을 위한 전용 도메인을 할당하며, 벤치마크 수행 전 오프라인 상태를 확인하는 것 등이 포함됩니다.