인도, '음란물' 논란 후 X의 Grok AI에 규정 준수 명령

인도는 일론 머스크의 X(구 트위터)에 인공지능(AI) 챗봇 '그록(Grok)'에 대한 즉각적인 기술적·절차적 변경을 시행하라고 지시했다. 이는 사용자와 의원들이 해당 도구를 통해 생성된 여성의 AI 변조 이미지 등 '음란한' 콘텐츠가 생성된다는 보고에 따른 조치다.

금요일 인도 정보기술부(IT)는 X에 그록에 대한 시정 조치를 취하라는 지침을 내렸다. 여기에는 "노출, 성적 대상화, 노골적인 성적 표현 또는 기타 불법적" 소재가 포함된 콘텐츠 생성을 제한하는 내용이 포함된다. 또한 해당 플랫폼에 72시간 내에 "음란, 포르노, 저속, 외설, 성적 노골성, 소아성애 또는 기타 불법적"으로 간주되는 콘텐츠의 호스팅 또는 확산을 방지하기 위해 취한 조치를 상세히 기술한 보고서를 제출할 것을 요구했다.

테크크런치가 확인한 이 명령서는 불이행 시 X의 '안전항' 보호 조치가 박탈될 수 있다고 경고했다. 이 법적 보호 장치는 일반적으로 인도 법률상 사용자 생성 콘텐츠에 대한 책임 면제를 부여한다.

인도의 이번 조치는 사용자들이 Grok이 주로 여성들의 이미지를 비키니를 입은 것처럼 변형하도록 유도하는 사례를 공유한 데 따른 것이다. 이에 인도 국회의원 프리얀카 차투르베디가 공식 항의를 제기했다. 별도로 최근 보도에서는 AI 챗봇이 미성년자를 포함한 성적 이미지를 생성한 사례가 부각됐다. X는 금요일 초 이러한 오류가 안전장치 실패로 인한 것임을 인정했으며, 해당 이미지는 이후 삭제됐다.

그러나 테크크런치 조사 결과, 그록이 생성한 여성들이 비키니를 입은 것처럼 보이도록 AI로 변형된 이미지들이 기사 게재 시점에도 X에서 여전히 접근 가능한 상태였다.

이번 지침은 인도 IT부가 월요일 소셜미디어 플랫폼에 발령한 광범위한 권고에 따른 것이다. 테크크런치가 검토한 이 권고문은 음란·성적 노골적 콘텐츠 금지법 준수가 사용자 게시물에 대한 법적 면책 유지의 전제 조건임을 기업들에 상기시켰다. 플랫폼에 내부 안전장치 강화를 촉구하며, 이를 이행하지 않을 경우 인도 IT법 및 형법에 따른 법적 조치 가능성을 경고했다.

지침서는 "상기 요건 미준수 시 추가 통보 없이 해당 플랫폼, 책임자 및 법을 위반한 플랫폼 이용자에 대해 엄중한 법적 조치가 취해질 수 있음을 재차 강조한다"고 명시했다.

디스럽트 2026 대기자 명단 등록

디스럽트 2026 대기 목록에 등록하시면 얼리버드 티켓이 출시될 때 가장 먼저 구매하실 수 있습니다. 지난 디스럽트 행사에는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 250명 이상의 업계 리더들이 참여하여 200개 이상의 성장 중심 세션을 이끌었습니다. 또한 모든 산업 분야의 수백 개 혁신적인 스타트업과 교류할 기회도 얻으실 수 있습니다.

Disrupt 2026 대기자 명단 등록하기

조기 할인 티켓이 출시될 때 가장 먼저 구매할 수 있도록 Disrupt 2026 대기자 명단에 등록하세요. 지난 Disrupt 행사에는 Google Cloud, Netflix, Microsoft, Box, Phia, a16z, ElevenLabs, Wayve, Hugging Face, Elad Gil, Vinod Khosla 등 250명 이상의 전문가들이 참여하여 200개 이상의 성장 중심 세션을 진행했습니다. 또한 모든 산업 분야의 수백 개 혁신적인 스타트업과 교류할 기회도 얻으실 수 있습니다.

인도 정부는 이를 준수하지 않을 경우, 해당국의 IT 법 및 형법에 따라 X에 대해 법적 조치가 취해질 수 있다고 밝혔습니다.

세계 최대 디지털 시장 중 하나인 인도는 정부가 AI 생성 콘텐츠를 규제하는 방식에 대한 핵심 시험대가 되었습니다. 해당 국가의 강화된 집행은 다중 관할권에서 운영되는 기술 기업들에게 글로벌 차원의 선례를 만들 수 있습니다.

이번 명령은 X가 정부의 콘텐츠 삭제 권한이 과도할 수 있다고 주장하며 인도 콘텐츠 규제 규칙의 특정 측면에 대해 계속 법적 이의를 제기하는 가운데 내려졌다. 해당 플랫폼은 대부분의 차단 명령을 준수하면서 일부는 이의를 제기해 왔다. 한편, Grok은 실시간 사실 확인 및 뉴스 해설을 위해 X 사용자들에 의해 점점 더 많이 사용되면서 독립형 AI 도구보다 그 출력이 더 가시적이고 정치적으로 민감해지고 있다.

X와 xAI는 인도 정부의 명령에 대한 논평 요청에 즉각 응답하지 않았다.