미국 상원의원들, X·메타·알파벳에 성적 내용이 담긴 딥페이크 문제 해결 촉구

동의 없이 제작된 성적 딥페이크로 인한 기술 업계의 위기는 이제 X를 훨씬 넘어 확산되고 있다.

미국 상원의원 여러 명은 X, 메타, 알파벳, 스냅, 레딧, 틱톡의 최고 경영진에게 보낸 서한을 통해, 이들 기업이 “철저한 보호 조치와 정책”을 마련했음을 입증할 증거를 제시할 것을 요구했으며, 자사 플랫폼에서 성적 묘사가 포함된 딥페이크의 확산을 어떻게 억제할 계획인지에 대한 명확한 설명도 함께 요구했다.

또한 상원의원들은 모든 기업이 AI로 생성된 성적 묘사가 포함된 이미지의 제작, 탐지, 관리, 수익화와 관련된 모든 문서 및 정보, 그리고 관련 정책을 보관할 것을 요구하고 있다.

이 서한은 X가 Grok을 업데이트하여 실제 인물이 노출이 심한 옷을 입은 모습을 묘사하는 편집을 금지하고, Grok을 통한 이미지 생성 및 편집 기능을 유료 구독자만 이용할 수 있도록 제한했다고 발표한 지 불과 몇 시간 만에 도착했다. (X와 xAI는 동일한 모회사 산하에서 운영된다.)

상원의원들은 Grok이 여성과 아동의 성적 대상화 및 누드 이미지를 얼마나 쉽고 빈번하게 생성했는지를 상세히 다룬 언론 보도를 인용하며, 사용자가 동의 없이 성적 대상화된 이미지를 게시하는 것을 막기 위해 마련된 기존 플랫폼의 안전장치가 불충분할 수 있다고 지적했다.

“우리는 많은 기업이 동의 없는 사적인 이미지와 성적 착취를 금지하는 정책을 유지하고 있으며, 많은 AI 시스템이 노골적인 포르노그래피를 차단한다고 주장한다는 점을 인정합니다. 그러나 실제로는 위의 사례에서 볼 수 있듯이, 사용자들이 이러한 안전장치를 우회하는 방법을 찾고 있거나, 안전장치가 제대로 작동하지 않고 있습니다”라고 서한은 밝히고 있다.

Grok—그리고 더 넓게는 X—는 이러한 추세를 방조했다는 이유로 거센 비판을 받아왔지만, 다른 플랫폼들도 예외는 아닙니다.

Disrupt 2026 대기자 명단에 등록하세요

Disrupt 2026 대기자 명단에 등록하여 얼리버드 티켓 판매 시작 시 우선 구매 기회를 확보하세요. 지난 Disrupt 행사에는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등이 무대에 올랐습니다. 이들은 여러분의 성장을 촉진하고 경쟁력을 강화하기 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 업계 리더 라인업의 일부입니다. 또한, 모든 분야에서 혁신을 주도하는 수백 개의 스타트업과 교류할 수 있습니다.

Disrupt 2026 대기자 명단에 등록하세요

Disrupt 2026 대기자 명단에 등록하여 얼리버드 티켓 판매 시작 시 우선 구매 기회를 확보하세요. 지난 Disrupt 행사에서는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등이 무대에 올랐습니다. 이들은 여러분의 성장을 촉진하고 경쟁력을 강화하기 위해 기획된 200개 이상의 세션을 이끄는 250명 이상의 업계 리더 라인업의 일부입니다. 또한, 모든 분야에서 혁신을 주도하는 수백 개의 스타트업과 교류할 수 있습니다.

딥페이크는 처음 레딧(Reddit)에서 주목받기 시작했는데, 유명인의 합성 포르노 동영상을 게재한 페이지가 2018년 플랫폼 측에 의해 삭제되기 전까지 큰 화제를 모았습니다. 이후 틱톡(TikTok)과 유튜브(YouTube)에서는 유명인 및 정치인을 대상으로 한 성적 딥페이크 콘텐츠가 급증했으나, 이러한 콘텐츠는 대개 다른 곳에서 유래한 것입니다.

메타(Meta)의 감독위원회는 작년에 여성 공인들의 노골적인 AI 이미지 사례 두 건을 지적했으며, 해당 플랫폼에서는 ‘누디파이(nudify)’ 앱들이 서비스 내 광고를 게재해 온 바 있습니다. 다만 메타는 이후 크러시AI(CrushAI)라는 회사를 상대로 소송을 제기했습니다. 또한 스냅챗(Snapchat)에서 어린이들이 동급생의 딥페이크 영상을 유포했다는 보고가 여러 차례 있었습니다. 또한 상원 의원들의 목록에 포함되지 않은 텔레그램(Telegram) 역시 여성 사진에서 옷을 벗기는 기능을 가진 봇을 호스팅하는 것으로 알려져 있다.

이 서한에 대한 응답으로 X는 ‘그록(Grok)’ 업데이트와 관련된 자사의 발표를 언급했다.

레딧 대변인은 이메일 성명을 통해 “우리는 레딧에서 동의 없는 사적인 미디어(NCIM)를 허용하지 않으며 앞으로도 허용하지 않을 것이며, 이를 제작할 수 있는 도구를 제공하지 않고, 이를 찾아내어 제거하기 위한 선제적 조치를 취하고 있다”고 밝혔다. “레딧은 조작되거나 AI로 생성된 묘사를 포함한 NCIM을 엄격히 금지합니다. 또한 타인에게 이러한 콘텐츠를 요구하거나, ‘누디파이(nudify)’ 앱 링크를 공유하거나, 다른 플랫폼에서 해당 콘텐츠를 제작하는 방법을 논의하는 행위도 금지합니다”라고 대변인은 덧붙였다.

알파벳, 스냅, 틱톡, 메타 측은 논평 요청에 즉각적인 답변을 내놓지 않았다.

이 서한은 해당 기업들에게 다음을 제공할 것을 요구하고 있다:

• “딥페이크” 콘텐츠, “동의 없는 사적인 이미지” 또는 이와 유사한 용어에 대한 정책상의 정의.
• 타인의 신체를 대상으로 한 동의 없는 AI 딥페이크, 비누드 사진, 의상 변조, “가상 탈의”에 대한 각 기업의 정책 및 집행 방식에 대한 설명.
• 편집된 미디어 및 노골적인 콘텐츠를 다루는 현행 콘텐츠 정책과, 콘텐츠 검토 담당자에게 제공되는 내부 지침에 대한 설명.
• 현재 정책이 선정적이거나 사적인 콘텐츠와 관련하여 AI 도구 및 이미지 생성기를 어떻게 규제하는지.
• 딥페이크의 생성 및 유포를 방지하기 위해 어떤 필터, 안전장치 또는 조치가 시행되었는지.
• 기업들이 딥페이크 콘텐츠를 식별하고 재업로드를 방지하기 위해 어떤 메커니즘을 사용하는지.
• 사용자가 해당 콘텐츠를 통해 이익을 얻는 것을 어떻게 방지하는지.
• 플랫폼이 동의 없이 생성된 AI 콘텐츠를 통해 수익을 창출하지 못하도록 방지하는 방법.
• 기업들의 이용약관을 통해 딥페이크를 게시하는 사용자를 차단하거나 계정을 정지시키는 방식은 무엇인가.
• 기업들은 동의 없이 제작된 성적 딥페이크의 피해자들에게 이를 알리기 위해 어떤 조치를 취하고 있는가.

이 서한에는 리사 블런트 로체스터(민주당, 델라웨어주), 태미 볼드윈(민주당, 위스콘신주), 리처드 블루멘탈(민주당, 코네티컷주), 커스틴 길리브랜드(민주당, 뉴욕주), 마크 켈리(민주당, 애리조나주), 벤 레이 루잔(민주당, 뉴멕시코주), 브라이언 샤츠(민주당, 하와이주), 아담 쉬프(민주당, 캘리포니아주) 상원의원이 서명했다.

이번 조치는 xAI의 소유주인 일론 머스크가 “Grok에 의해 생성된 미성년자 나체 이미지는 전혀 알지 못한다”고 밝힌 지 불과 하루 만에 이루어졌다. 수요일 늦게, 캘리포니아주 법무장관은 이러한 사건을 가능하게 한 Grok에 대한 안전장치의 부재에 불만을 품은 전 세계 정부들의 압력이 거세지자 xAI의 챗봇에 대한 조사를 개시했다.

xAI는 “[아동 성 착취물(CSAM)] 및 동의 없는 누드 사진을 포함한 X상의 불법 콘텐츠”를 제거하기 위한 조치를 취하고 있다고 주장해 왔으나, 회사 측이나 머스크 모두 애초에 그록이 왜 그러한 편집물을 생성할 수 있도록 허용되었는지에 대해서는 언급하지 않았다.

이 문제는 동의 없이 조작된 성적 이미지에만 국한되지 않습니다. 모든 AI 기반 이미지 생성 및 편집 서비스가 사용자가 인물의 옷을 ‘벗기’도록 허용하는 것은 아니지만, 여전히 딥페이크를 생성하기는 쉽습니다. 예를 들어, 오픈AI의 ‘소라 2(Sora 2)’는 사용자가 아동을 등장시키는 노골적인 동영상을 제작할 수 있게 했다고 보도된 바 있으며, 구글의 ‘나노 바나나(Nano Banana)’는 찰리 커크(Charlie Kirk)가 총에 맞는 이미지를 생성한 것으로 보이며, 구글의 AI 동영상 모델로 제작된 인종차별적 동영상들은 소셜 미디어에서 수백만 건의 조회수를 기록하고 있다.

중국산 이미지 및 동영상 생성기가 등장하면서 이 문제는 더욱 복잡해집니다. 많은 중국 기술 기업과 앱(특히 바이트댄스와 연계된 기업들)은 얼굴, 목소리, 동영상을 쉽게 편집할 수 있는 기능을 제공하며, 이러한 결과물들은 서구 소셜 플랫폼으로까지 확산되었습니다. 중국은 합성 콘텐츠에 대한 더 강력한 표시 요건을 갖추고 있는 반면, 미국 연방 차원에서는 이러한 규정이 존재하지 않아, 미국 국민들은 플랫폼 자체에서 제시하는 단편적이고 일관성 없이 시행되는 정책에 의존할 수밖에 없다.

미국 의원들은 이미 딥페이크 포르노를 근절하기 위한 일부 법안을 통과시켰으나, 그 효과는 제한적이었다. 지난 5월 연방법으로 제정된 ‘테이크 잇 다운 법(Take It Down Act)’은 동의 없이 제작된 성적 이미지를 생성 및 유포하는 행위를 범죄로 규정하기 위한 것이다. 그러나 이 법의 여러 조항으로 인해 이미지 생성 플랫폼에 책임을 묻기 어렵게 되었는데, 대부분의 규제가 오히려 개별 사용자에게 집중되고 있기 때문이다.

한편, 여러 주에서는 소비자와 선거를 보호하기 위해 자체적으로 조치를 취하려 하고 있다. 이번 주, 캐시 호츄(Kathy Hochul) 뉴욕 주지사는 AI로 생성된 콘텐츠에 해당 사실을 명시하도록 의무화하고, 선거를 앞둔 특정 기간 동안 반대 후보를 묘사한 내용을 포함해 동의 없이 제작된 딥페이크를 금지하는 법안을 제안했다.