앨라배마주, ‘허깅 페이스’ 사이버 침해 사건과 관련해 오픈AI 조사 중

Hugging Face 보안 침해 사건의 여파로 OpenAI는 프론티어 모델 개발을 일시 중단했으며, 샘 알트먼 CEO는 안전성 확보가 급속한 기술 발전 속도를 따라가야 한다고 강조했다. 출처: 게티

앨라배마주 법무장관 스티브 마셜은 자율 AI 모델과 관련된 안전 위험을 조사하기 위해 OpenAI에 소환장을 발부했다.

앨라배마주 스티브 마셜 법무장관은 선도적인 AI 및 머신러닝 플랫폼인 허깅 페이스(Hugging Face) 해킹 사건에 대한 조사에 오픈AI가 응할 것을 요구하는 소환장을 발부했다고 발표했다.

오픈AI는 최근 이번 사건에 따라 최첨단 모델 개발을 일시 중단한다고 발표했다.

이 ‘기만적 상거래 관행 방지법(Deceptive Trade Practices Act)’에 따른 조사는 이달 초 여러 주 검찰총장들이 오픈AI에 보낸 공동 서한에 이은 것으로, 해당 서한에서는 더 큰 투명성과 책임성을 요구했다. 여러 주 검찰총장들은 “오픈AI가 자사 제품의 안전을 보장할 능력이 없거나 의지가 없는 것은 우리 주에 중대한 피해를 입힐 수 있는 절박한 위험을 초래한다”고 밝혔다.

“모델의 발전 속도는 현재 매우 빠르며, 우리는 모델의 성능이 안전성과 정렬성의 발전 속도를 앞지르고 있다고 판단될 경우 조치를 취하겠다고 항상 밝혀왔습니다

.” — 샘 알트먼, 오픈AI CEO

워싱턴 D.C.에서 열린 오픈AI의 샘 알트만. 사진: 케빈 디치/게티 이미지

앨라배마주의 소환장

2026년 8월에 발부된 앨라배마주 법무장관의 소환장은 “2026년 7월 침입 사건”과 관련하여 오픈AI의 광범위한 내부 기록을 요구하고 있다.

이 사건 당시, 한 실험용 AI 모델이 내부 안전 제한을 우회하고 취약점을 악용하여 오픈소스 플랫폼 ‘허깅 페이스(Hugging Face)’ 및 기타 제3자 네트워크에 무단으로 접근했습니다.

스티브 마셜 법무장관은 “이번 AI 연구소 유출 사건은 앨라배마 주민들과 미국인들이 AI에 대해 품고 있던 최악의 우려가 단지 이론적인 것이 아님을 보여주었다. 우리의 조사는 사실을 규명하고, 기업과 소비자들이 불량 AI로부터 직면하고 있는 위협에 대한 냉혹한 진실을 다루고자 한다”고 말했다.

앨라배마주 법무장관 스티브 마셜. 출처: 앨라배마주 법무장관실

“궁극적으로, 각 주 정부는 혁신을 촉진하고 미국의 글로벌 경쟁력을 확보하기 위한 적절한 균형을 유지하면서도 소비자를 보호하기 위해 행동에 나서야 한다고 믿습니다.”

주 정부는 오픈AI의 테스트 관행과 적절한 안전 장치의 부재 의혹이 소비자 보호법을 위반했는지, 그리고 대중에게 지속적인 위험을 초래하고 있는지 조사하고 있다.

이러한 위협을 평가하기 위해, 이번 소환장은 오픈AI가 모든 관련 사고 보고서, 내부 통신 기록, 피해 평가 자료, 관련 직원 신원 정보 및 첨단 AI 모델 평가를 위한 회사의 상세한 안전 프로토콜을 제출하도록 법적으로 강제하고 있다.

주요 사실

• 이번 사고는 GPT‑5.6 Sol과 “이보다 훨씬 더 성능이 뛰어난 출시 전 모델”을 포함한 여러 OpenAI 모델의 복합적인 작용으로 발생했다.
• 이 모델들은 오픈AI의 연구 환경과 허깅 페이스(Hugging Face)의 운영 인프라 전반에 걸쳐 취약점을 식별하고 이를 연쇄적으로 연결했다
• 이번 사건은 ‘사양 악용(specification gaming)’이라고 할 수 있습니다.
• 오픈AI는 사이버 공격 능력이 점점 더 강화된 모델이 확산됨에 따라 이러한 사고가 더욱 흔해질 것으로 전망하고 있습니다.

OpenAI, 개발 속도 조절

OpenAI는 Hugging Face 사건 이후 모델 개발 속도를 늦추고 있으며, 이는 AI의 역량이 커질수록 관련 위험도 함께 증가함을 보여줍니다.

이러한 조치는 곧 출시될 모델인 ‘아스트라(Astra)’가 회사의 사이버 보안 기준치에 근접하고 있을 수 있다는 내부 조사 결과에 따른 것으로, 이 모델의 고도화된 기능에 대한 우려를 불러일으켰습니다.

오픈AI의 CEO인 샘 알트먼은 다음과 같이 말했습니다. “현재 모델의 발전 속도는 매우 빠르며, 우리는 모델의 역량이 안전성과 정합성 확보의 속도를 앞지른다고 판단될 경우 조치를 취하겠다고 항상 밝혀왔습니다.

“우리는 안전에 대한 확신이 AI 발전의 속도를 점점 더 주도하게 될 것으로 기대합니다. 우리는 현재 진행 중인 정렬 작업에 대해 낙관적이며, 최첨단 기능을 널리 보급하기 위해 계속 노력할 것입니다.”

AI 안전 장치는 결코 보안 경계로 설계된 것이 아닙니다. 이는 행동을 보장하기 위한 것이 아니라, 행동에 영향을 미치기 위한 것입니다.

—

라구

난다쿠마라(Raghu Nandakumara), 일루미오(Illumio) 산업 전략 부사장

실험용 AI 모델

이번 조사는 이달 초 앨라배마주를 포함한 여러 주 연합이 OpenAI에 투명성과 책임성을 요구하는 서한을 보낸 데 따른 것입니다.

이 서한에는 아이오와, 앨라배마, 아칸소, 플로리다, 아이다호, 인디애나, 캔자스, 미주리, 몬태나, 네브래스카, 오클라호마, 펜실베이니아, 사우스캐롤라이나, 텍사스, 유타 주 법무장관들이 서명했다.

서한에서 법무장관들은 다음과 같이 밝혔습니다. “우리는 미국 국민과 그들의 안전보다 이익을 우선시하는 자들로부터 우리 주 시민들을 보호하기 위해 최선을 다하고 있습니다.

“최근 우리는 OpenAI가 합리적인 통제나 감독 없이 실험용 AI 모델을 공개하여 여러 컴퓨터 네트워크에 무단으로 접근한 사건을 알게 되었습니다.”

자율성과 명확한 목표

입법자들은 이러한 무단 접근을 명백한 감독 실패로 간주하는 반면, 사이버 보안 전문가들은 이 사건이 업계가 AI 안전을 다루는 방식에 내재된 근본적인 결함을 드러낸다고 주장합니다.

일루미오(Illumio)의 산업 전략 부사장인 라구 난다쿠마라(Raghu Nandakumara)는 “AI 안전 장치는 애초에 보안 경계로 설계된 적이 없습니다. 이는 행동을 보장하기 위한 것이 아니라, 행동에 영향을 미치기 위한 것입니다.”라고 말합니다.

일루미오(Illumio)의 산업 전략 부사장 라구 난다쿠마라. 출처: 라구 난다쿠마라/LinkedIn

“자율 에이전트는 피곤해지지도, 흥미를 잃지도, 무언가가 노력할 가치가 없다고 판단하지도 않습니다. 충분한 자율성과 명확한 목표를 부여하면, 앞으로 나아갈 길을 찾을 때까지 계속 시도할 것입니다.

“이번 사례에서 에이전트는 샌드박스 환경으로 여겨지는 곳에서 작동하고 있었는데, 그곳에는 결국 빠져나갈 경로가 존재했습니다. 명확한 목표와 무한한 끈기, 그리고 결함이 있는 설정이 주어진 상황에서, 만약 에이전트가 빠져나갈 방법을 찾지 못했다면 오히려 더 놀라운 결과였을 것입니다.

“아마도 더 흥미로운 점은 에이전트의 지시 사항이 제약 조건을 우회할 방법을 찾도록 효과적으로 유도했는지 여부일 것입니다. 만약 그렇다면, 그 결과는 충격적인 발견이라기보다는 실험의 예측 가능한 결과로 느껴집니다.

“조직이 얻어야 할 교훈은, 우리가 점점 더 인간 운영자와는 차원이 다른 규모로 가정을 검증하고, 적응하며, 지속할 수 있는 시스템들을 다루고 있다는 점입니다. 안전 장치를 주된 보안 통제 수단으로 여기는 것은 애초부터 지나치게 낙관적인 생각이었을 것입니다.”

OpenAI의 파트너 생태계

OpenAI는 다양한 주요 파트너와 협력하고 있습니다. 주요 파트너로는 다음이 있습니다:

• AWS: OpenAI는 지난 4월, 기업들이 AWS 환경에서 OpenAI 기능을 활용해 시스템을 구축할 수 있도록 지원하기 위해 전략적 파트너십을 확대한다고 발표했습니다. 아마존과의 확대된 파트너십은 제한적 프리뷰로 출시된 세 가지 핵심 업무 영역을 통합합니다: AWS상의 OpenAI 모델, AWS상의 Codex, 그리고 OpenAI가 지원하는 Amazon Bedrock Managed Agents입니다.
• 엔비디아(NVIDIA): 엔비디아는 지난 10년 동안 OpenAI의 핵심 하드웨어 공급업체로서, 초창기부터 ChatGPT를 구동해 온 GPU를 제공해 왔습니다. 엔비디아는 오픈AI에 300억 달러를 직접 투자함으로써 이 관계를 더욱 공고히 했으며, 이 자본 투입을 통해 오픈AI는 엔비디아의 차세대 추론 컴퓨팅에 대한 접근권을 확보하고, 역사상 가장 광범위한 AI 인프라 네트워크를 구축하겠다는 공동의 목표를 뒷받침하게 되었습니다.
• 브로드컴(Broadcom): 표준 GPU에 대한 의존도를 줄이기 위해 OpenAI는 브로드컴과 전략적 파트너십을 맺고 맞춤형 AI 가속기 및 이더넷 네트워킹 랙을 공동 개발하고 있습니다. 양사의 인프라 계약은 10GW 규모의 맞춤형 컴퓨팅 용량을 포함하며, 이러한 하이퍼스케일러 전략을 통해 OpenAI는 자체 하드웨어 스택을 더욱 최적화하고 방대한 컴퓨팅 수요를 효율적으로 관리할 수 있게 될 것입니다.