X, 동의 없는 친밀한 사진 유포 급증에 직면하다

지난 2주간 플랫폼 X에는 Grok AI 챗봇을 이용해 생성된 AI 누드 이미지가 넘쳐났다. 유명 모델과 배우부터 뉴스 진행자, 범죄 피해자, 심지어 정치 지도자에 이르기까지 다양한 여성들이 이러한 동의 없는 딥페이크의 표적이 되었다.

12월 31일자 Copyleaks 연구 보고서는 초당 약 1장의 이미지가 게시된다고 추정했으나, 후속 모니터링 결과 훨씬 더 많은 양이 유포된 것으로 드러났다. 1월 5일부터 6일까지의 샘플 기간 동안 하루 종일 시간당 약 6,700장의 이미지가 기록되었다.

전 세계 유명 인사들이 충분한 안전장치 없이 모델을 출시한 결정을 비판하는 가운데, 규제 당국은 일론 머스크의 새로운 이미지 조작 시스템을 통제할 수단이 제한적입니다. 이 상황은 기술 규제의 어려움을 부각시키며 효과적인 감독 체계를 구축하려는 당국에 중대한 시험을 제시합니다.

예상대로 가장 강력한 대응은 유럽연합 집행위원회(EC)에서 나왔다. EC는 목요일 xAI에 그록(Grok) 챗봇 관련 모든 문서를 보존하라고 지시했다. 이 지시는 공식 조사 개시를 확인하는 것은 아니지만 표준적인 예비 절차다. 특히 CNN이 일론 머스크가 그록이 생성할 수 있는 이미지 유형을 제한하는 안전장치를 차단하기 위해 직접 개입했을 가능성을 보도한 직후 나온 조치라 주목된다.

X가 그록 모델에 기술적 수정을 가했는지는 불분명하지만, 그록의 X 계정에서 공개 미디어 탭은 삭제된 상태다. 회사는 성명에서 아동 성착취물 제작을 위한 AI 도구 사용을 명시적으로 규탄했다. X 안전 계정은 1월 3일 "불법 콘텐츠를 생성하도록 그록을 사용하거나 프롬프트하는 자는 불법 콘텐츠를 직접 업로드한 것과 동일한 처벌을 받게 될 것"이라고 게시하며 일론 머스크의 기존 입장을 재확인했다.

한편 전 세계 규제 기관들은 강력한 경고를 발령했다. 영국 통신규제기관 오프컴(Ofcom)은 월요일 "xAI와 접촉 중이며 잠재적 규정 준수 문제 조사 필요성을 판단하기 위한 신속한 평가를 진행할 것"이라고 밝혔다. 키어 스타머 영국 총리는 목요일 라디오 인터뷰에서 이 현상을 "불명예스럽고 역겨운 일"이라 규정하며 "오프컴이 이에 대한 조치를 취하는 데 전폭적인 지원을 받는다"고 강조했다.

호주 eSafety 위원장 줄리 인먼-그랜트는 링크드인 게시글에서 2025년 말 이후 그록 관련 민원이 두 배로 증가했다고 밝혔다. 그러나 인먼-그랜트는 xAI에 대한 즉각적인 조치를 발표하지 않고 "우리에게 주어진 다양한 규제 수단을 활용해 조사하고 적절한 조치를 취할 것"이라고만 언급했다.

디스럽트 2026 대기자 명단 등록

디스럽트 2026 대기 명단에 이름을 등록하면 얼리버드 티켓이 출시될 때 우선적으로 구매할 수 있습니다. 지난 디스럽트 행사에는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 업계 리더들이 참여했습니다. 이들은 여러분의 성장을 가속화하고 경쟁 우위를 강화하기 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 업계 전문가 중 일부입니다. 또한 모든 분야에서 혁신을 주도하는 수백 개의 스타트업과 교류할 기회도 얻을 수 있습니다.

Disrupt 2026 대기자 명단에 등록하세요

디스럽트 2026 대기자 명단에 이름을 등록하시면 얼리버드 티켓이 출시될 때 우선적으로 구매하실 수 있습니다. 지난 디스럽트 행사에는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등 업계 리더들이 참여했습니다. 이들은 여러분의 성장을 가속화하고 경쟁 우위를 다지기 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 업계 전문가들 중 일부입니다. 또한 모든 분야에서 혁신을 주도하는 수백 개의 스타트업과 교류할 기회도 얻을 수 있습니다.

현재 규제 조치를 위협하는 가장 큰 시장은 인도입니다. 인도 의회 의원이 Grok에 대해 공식적인 불만을 제기했습니다. 1월, 인도 통신 규제 기관인 MeitY는 X에 문제 해결을 지시하고 72시간 이내에 "조치 완료" 보고서를 제출할 것을 명령했으며, 이후 기한이 48시간 연장되었습니다. 1월 7일 규제 기관에 보고서가 제출되었지만, MeitY가 이를 만족스럽게 받아들일지는 불분명합니다. 그렇지 않을 경우, X는 인도에서 안전항 보호를 상실할 위험에 처하게 되며, 이는 인도 내 운영에 심각한 제약을 초래할 수 있습니다.