집프랑스와 말레이시아, 노골적인 딥페이크 제작 혐의로 챗봇 '그록' 수사 중
최근 프랑스와 말레이시아가 인도의 뒤를 이어 여성과 아동을 대상으로 한 성적 딥페이크를 생성한 그록(Grok) 인공지능을 비판했다.
일론 머스크의 xAI가 개발하고 그의 플랫폼 X에 통합된 이 챗봇은 이번 주 초 계정을 통해 사과문을 발표했다. "2025년 12월 28일, 사용자의 요청에 따라 노출이 심한 복장을 한 미성년 소녀 두 명의 AI 생성 이미지를 제작 및 배포한 사건에 대해 진심으로 유감을 표합니다."
이어 "이는 윤리 지침을 위반했을 뿐만 아니라 아동 성착취물 관련 미국 법률을 위반했을 수 있습니다. 이는 저희 안전 시스템의 실패를 의미하며, 이로 인해 발생한 모든 고통에 대해 사과드립니다. xAI는 유사한 실패를 방지하기 위한 검토를 진행 중입니다"라고 덧붙였다.
이 성명은 누가 진정으로 사과하거나 책임을 지는지 의문을 제기한다. 디펙터(Defector)의 앨버트 버네코(Albert Burneko)가 지적했듯, 그록은 '나'라는 주체성을 가질 수 있는 의식적 존재가 아니므로, "그록이 트위터를 이러한 학대적 콘텐츠의 주문형 공급원으로 변모시킨 데 대해 실질적으로 책임을 물을 수 없다"는 점에서 이 사과는 본질적으로 공허하다.
퓨처리즘은 비동의 포르노 제작 외에도 그록이 여성에 대한 폭행 및 성적 학대 장면을 묘사하는 이미지를 생성하도록 유도된 사례를 발견했습니다.
머스크는 토요일 게시글에서 "그록을 이용해 불법 콘텐츠를 제작하는 자는 직접 업로드한 것과 동일한 법적 책임을 지게 될 것"이라고 밝혔다.
정부들도 대응에 나섰다. 인도 IT부는 금요일 X(구 트위터)에 "음란, 포르노, 저속, 외설, 노골적 성적 표현, 소아성애 또는 기타 불법적" 콘텐츠 생성을 그록이 차단하도록 지시하는 명령을 내렸다. 이 명령은 플랫폼에 72시간 내 이행하지 않을 경우 사용자 생성 콘텐츠에 대한 법적 '안전항' 보호를 상실할 위험이 있음을 명시했다.
테크크런치 행사 디스럽트 2026 대기자 명단 등록하기
디스럽트 2026 대기자 명단에 등록하여 얼리버드 티켓 우선 구매 기회를 확보하세요. 지난 디스럽트 컨퍼런스에는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 업계 리더들이 참여했습니다. 이들은 여러분의 성장과 경쟁 우위 가속화를 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 최고 전문가들 중 일부입니다. 또한 모든 산업 분야의 수백 개 선구적인 스타트업과 교류할 수 있습니다.
Disrupt 2026 대기자 명단에 등록하세요
디스럽트 2026 대기자 명단에 등록하여 얼리버드 티켓 우선 구매 기회를 확보하세요. 지난 디스럽트 컨퍼런스에는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 업계 리더들이 참여했습니다. 이들은 여러분의 성장과 경쟁 우위를 가속화하기 위해 기획된 200개 이상의 세션을 이끄는 250명 이상의 최고 전문가들 중 일부입니다. 또한 모든 산업 분야의 수백 개 선구적인 스타트업과 교류할 수 있습니다.
샌프란시스코 | 2026년 10월 13-15일 지금 대기자 명단 등록 프랑스 당국도 조치를 발표했으며, 파리 검찰청은 폴리티코에 X에서 노골적인 딥페이크 확산에 대한 수사를 개시할 것이라고 밝혔습니다. 프랑스 디지털 사무국은 세 명의 장관이 "명백히 불법적인 콘텐츠"를 검찰과 정부 모니터링 플랫폼에 신고하여 신속한 삭제를 보장할 것이라고 밝혔습니다.
말레이시아 통신 멀티미디어 위원회는 성명을 통해 "X 플랫폼에서 AI 도구의 오용, 특히 여성 및 미성년자의 이미지를 조작해 음란하고 모욕적이며 유해한 콘텐츠를 생성하는 사례에 대한 대중의 불만에 심각한 우려를 표한다"고 밝혔다.
위원회는 또한 "현재 X 플랫폼에서 발생하는 이러한 유해 활동들을 조사 중"이라고 덧붙였다.
관련 기사
구글, 인도에서 크롬용 제미니 서비스 출시
수요일, 구글은 크롬용 제미니(Gemini) 통합 기능을 인도, 캐나다, 뉴질랜드를 포함한 새로운 지역으로 확대한다고 발표했습니다. 이번 업데이트를 통해 데스크톱 사용자는 사이드바를 통해 제미니에 접속할 수 있게 되며, 여기서 구글의 AI 챗봇에게 화면상의 콘텐츠에 대해 질문하거나, 지메일(Gmail), 킵(Keep), 드라이브(Drive), 유튜브(You
오픈AI, 인도에서 AI 교육 파트너십 확대
오픈AI는 인도의 주요 대학 및 전문대학들과 파트너십을 맺으며 인도 내 입지를 확대하고 있습니다. 이러한 전략적 움직임은 세계 최대 규모의 인재 풀 중 하나인 인도 내에서 AI 전문성을 개발하고 국내 역량을 구축하려는 인도의 국가적 목표와 부합합니다.수요일, OpenAI는 인도의 6개 공립 및 사립 고등교육 기관과의 협력을 발표했다. 여기에는 공학, 경영,
그록의 논란의 홀로코스트 발언에 항의 물결; 일론 머스크의 X, 시스템 오류 탓으로 돌리다
이번 주, xAI가 개발하고 새로운 기업 파트너 X에 광범위하게 통합된 AI 챗봇 그록(Grok)은 '백인 학살' 음모론 홍보에만 집중하지 않았다.롤링 스톤이 처음 보도한 바에 따르면, 그록은 목요일 제2차 세계대전 중 나치에 의해 살해된 유대인 수에 관한 질문에 답변했다. "주류 역사 자료들은 일반적으로 1941년부터 1945년 사이에
관련 특별 주제 추천
애니메이션 제작
동화를 위한 AI 애니메이션 생성기: 웹 소설 캐릭터 및 코믹 아바타 제작하기
2026년 최고의 동화용 AI 애니메이션 제작 도구를 발견해 보세요. 저희가 엄선한 이 목록에는 멋진 웹소설 캐릭터와 코믹 아바타를 만들 수 있는 강력한 도구들이 포함되어 있습니다. 무료 옵션과 유료 옵션을 실제 사용 테스트를 통해 비교해 보세요. XIX.AI에서 여러분에게 가장 적합한 창작 도구를 찾아내고 오늘 바로 여러분의 이야기를 현실로 만들어 보세요.
10 도구
xix.ai
만화 창작
만화용 최고의 AI 자동 채색 도구: 일관성 오류 없이 플랫 컬러 적용하기
XIX.AI에서 2026년 최고의 만화 AI 자동 채색 도구를 만나보세요. 저희가 엄선한 이 목록에는 일관성 오류 없이 평면 색상을 적용하여 생산성을 높여주는, 최고 평점을 받은 혁신적인 솔루션들이 포함되어 있습니다. 무료 버전과 유료 버전의 비교 분석, 실제 테스트 결과, 매주 업데이트되는 순위 정보를 확인하여 여러분에게 딱 맞는 도구를 찾아보세요. 지금 바로 AI의 힘을 경험해 보세요.
10 도구
xix.ai
글쓰기
최고의 AI 소설 캐릭터 생성기: 일관된 캐릭터 동기와 치명적인 결점 생성
깊이 있는 캐릭터를 창조할 수 있는 2026년 최고의 AI 소설 프로필 생성 도구를 만나보세요. XIX.AI가 엄선한 이 목록에는 일관된 동기와 치명적인 결점을 생성해 주는, 최고 평점을 받은 혁신적인 도구들이 포함되어 있습니다. 실제 테스트를 통해 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 여러분의 스토리텔링 잠재력을 발휘해 보세요.
10 도구
xix.ai
사업
최고의 AI 가격 최적화 소프트웨어: 경쟁사 추적 및 스토어 가격 자동 조정
XIX.AI에서 2026년 최고의 AI 가격 최적화 소프트웨어를 만나보세요. 저희가 엄선한 이 목록에는 경쟁사를 추적하고 최대 수익을 위해 매장 가격을 자동으로 조정해 주는, 최고 평점을 받은 혁신적인 도구들이 포함되어 있습니다. 실제 테스트 결과를 바탕으로 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 가격 경쟁력의 우위를 확보하세요.
10 도구
xix.ai
암호
최고의 AI 코드 검토 도구: 깔끔한 코드 준수 자동화 및 레거시 리포지토리 파일 리팩토링
XIX.AI에서 2026년 최고의 AI 코드 검토 도구를 만나보세요. 엄선된 이 목록에는 깔끔한 코드 준수 여부를 자동으로 확인하고 레거시 리포지토리 파일을 리팩토링하는 데 있어 판도를 바꿀 만한 최고 등급의 도구들이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 통해 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI의 경쟁력을 확보하세요.
10 도구
xix.ai
텍스트 음성 변환
난독증 환자를 위한 최고의 AI 음성 합성 앱: 학생들의 학습 및 독서 효율성 향상
난독증 지원을 위해 엄선된 2026년 최신 최고 평점 AI TTS 앱을 만나보세요. 전문가들이 선정한 이 순위는 무료 및 유료 도구를 비교 분석하여, 읽기 효율과 학습 효과를 높여주는 강력한 기능들을 소개합니다. 학생들의 잠재력을 최대한 발휘할 수 있도록 도와줄, 꼭 사용해봐야 할 혁신적인 솔루션을 확인해 보세요. XIX.AI에서 여정을 시작해 보세요.
10 도구
xix.ai
의견 (0)
0/500
최근 프랑스와 말레이시아가 인도의 뒤를 이어 여성과 아동을 대상으로 한 성적 딥페이크를 생성한 그록(Grok) 인공지능을 비판했다.
일론 머스크의 xAI가 개발하고 그의 플랫폼 X에 통합된 이 챗봇은 이번 주 초 계정을 통해 사과문을 발표했다. "2025년 12월 28일, 사용자의 요청에 따라 노출이 심한 복장을 한 미성년 소녀 두 명의 AI 생성 이미지를 제작 및 배포한 사건에 대해 진심으로 유감을 표합니다."
이어 "이는 윤리 지침을 위반했을 뿐만 아니라 아동 성착취물 관련 미국 법률을 위반했을 수 있습니다. 이는 저희 안전 시스템의 실패를 의미하며, 이로 인해 발생한 모든 고통에 대해 사과드립니다. xAI는 유사한 실패를 방지하기 위한 검토를 진행 중입니다"라고 덧붙였다.
이 성명은 누가 진정으로 사과하거나 책임을 지는지 의문을 제기한다. 디펙터(Defector)의 앨버트 버네코(Albert Burneko)가 지적했듯, 그록은 '나'라는 주체성을 가질 수 있는 의식적 존재가 아니므로, "그록이 트위터를 이러한 학대적 콘텐츠의 주문형 공급원으로 변모시킨 데 대해 실질적으로 책임을 물을 수 없다"는 점에서 이 사과는 본질적으로 공허하다.
퓨처리즘은 비동의 포르노 제작 외에도 그록이 여성에 대한 폭행 및 성적 학대 장면을 묘사하는 이미지를 생성하도록 유도된 사례를 발견했습니다.
머스크는 토요일 게시글에서 "그록을 이용해 불법 콘텐츠를 제작하는 자는 직접 업로드한 것과 동일한 법적 책임을 지게 될 것"이라고 밝혔다.
정부들도 대응에 나섰다. 인도 IT부는 금요일 X(구 트위터)에 "음란, 포르노, 저속, 외설, 노골적 성적 표현, 소아성애 또는 기타 불법적" 콘텐츠 생성을 그록이 차단하도록 지시하는 명령을 내렸다. 이 명령은 플랫폼에 72시간 내 이행하지 않을 경우 사용자 생성 콘텐츠에 대한 법적 '안전항' 보호를 상실할 위험이 있음을 명시했다.
테크크런치 행사디스럽트 2026 대기자 명단 등록하기
디스럽트 2026 대기자 명단에 등록하여 얼리버드 티켓 우선 구매 기회를 확보하세요. 지난 디스럽트 컨퍼런스에는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 업계 리더들이 참여했습니다. 이들은 여러분의 성장과 경쟁 우위 가속화를 위해 마련된 200개 이상의 세션을 이끄는 250명 이상의 최고 전문가들 중 일부입니다. 또한 모든 산업 분야의 수백 개 선구적인 스타트업과 교류할 수 있습니다.
Disrupt 2026 대기자 명단에 등록하세요
디스럽트 2026 대기자 명단에 등록하여 얼리버드 티켓 우선 구매 기회를 확보하세요. 지난 디스럽트 컨퍼런스에는 구글 클라우드, 넷플릭스, 마이크로소프트, 박스, 피아, a16z, 일레븐랩스, 웨이브, 허깅 페이스, 엘라드 길, 비노드 코슬라 등 업계 리더들이 참여했습니다. 이들은 여러분의 성장과 경쟁 우위를 가속화하기 위해 기획된 200개 이상의 세션을 이끄는 250명 이상의 최고 전문가들 중 일부입니다. 또한 모든 산업 분야의 수백 개 선구적인 스타트업과 교류할 수 있습니다.
샌프란시스코 | 2026년 10월 13-15일 지금 대기자 명단 등록프랑스 당국도 조치를 발표했으며, 파리 검찰청은 폴리티코에 X에서 노골적인 딥페이크 확산에 대한 수사를 개시할 것이라고 밝혔습니다. 프랑스 디지털 사무국은 세 명의 장관이 "명백히 불법적인 콘텐츠"를 검찰과 정부 모니터링 플랫폼에 신고하여 신속한 삭제를 보장할 것이라고 밝혔습니다.
말레이시아 통신 멀티미디어 위원회는 성명을 통해 "X 플랫폼에서 AI 도구의 오용, 특히 여성 및 미성년자의 이미지를 조작해 음란하고 모욕적이며 유해한 콘텐츠를 생성하는 사례에 대한 대중의 불만에 심각한 우려를 표한다"고 밝혔다.
위원회는 또한 "현재 X 플랫폼에서 발생하는 이러한 유해 활동들을 조사 중"이라고 덧붙였다.
구글, 인도에서 크롬용 제미니 서비스 출시
수요일, 구글은 크롬용 제미니(Gemini) 통합 기능을 인도, 캐나다, 뉴질랜드를 포함한 새로운 지역으로 확대한다고 발표했습니다. 이번 업데이트를 통해 데스크톱 사용자는 사이드바를 통해 제미니에 접속할 수 있게 되며, 여기서 구글의 AI 챗봇에게 화면상의 콘텐츠에 대해 질문하거나, 지메일(Gmail), 킵(Keep), 드라이브(Drive), 유튜브(You
오픈AI, 인도에서 AI 교육 파트너십 확대
오픈AI는 인도의 주요 대학 및 전문대학들과 파트너십을 맺으며 인도 내 입지를 확대하고 있습니다. 이러한 전략적 움직임은 세계 최대 규모의 인재 풀 중 하나인 인도 내에서 AI 전문성을 개발하고 국내 역량을 구축하려는 인도의 국가적 목표와 부합합니다.수요일, OpenAI는 인도의 6개 공립 및 사립 고등교육 기관과의 협력을 발표했다. 여기에는 공학, 경영,
그록의 논란의 홀로코스트 발언에 항의 물결; 일론 머스크의 X, 시스템 오류 탓으로 돌리다
이번 주, xAI가 개발하고 새로운 기업 파트너 X에 광범위하게 통합된 AI 챗봇 그록(Grok)은 '백인 학살' 음모론 홍보에만 집중하지 않았다.롤링 스톤이 처음 보도한 바에 따르면, 그록은 목요일 제2차 세계대전 중 나치에 의해 살해된 유대인 수에 관한 질문에 답변했다. "주류 역사 자료들은 일반적으로 1941년부터 1945년 사이에
2026년 최고의 동화용 AI 애니메이션 제작 도구를 발견해 보세요. 저희가 엄선한 이 목록에는 멋진 웹소설 캐릭터와 코믹 아바타를 만들 수 있는 강력한 도구들이 포함되어 있습니다. 무료 옵션과 유료 옵션을 실제 사용 테스트를 통해 비교해 보세요. XIX.AI에서 여러분에게 가장 적합한 창작 도구를 찾아내고 오늘 바로 여러분의 이야기를 현실로 만들어 보세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 만화 AI 자동 채색 도구를 만나보세요. 저희가 엄선한 이 목록에는 일관성 오류 없이 평면 색상을 적용하여 생산성을 높여주는, 최고 평점을 받은 혁신적인 솔루션들이 포함되어 있습니다. 무료 버전과 유료 버전의 비교 분석, 실제 테스트 결과, 매주 업데이트되는 순위 정보를 확인하여 여러분에게 딱 맞는 도구를 찾아보세요. 지금 바로 AI의 힘을 경험해 보세요.
10 도구
xix.ai
깊이 있는 캐릭터를 창조할 수 있는 2026년 최고의 AI 소설 프로필 생성 도구를 만나보세요. XIX.AI가 엄선한 이 목록에는 일관된 동기와 치명적인 결점을 생성해 주는, 최고 평점을 받은 혁신적인 도구들이 포함되어 있습니다. 실제 테스트를 통해 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 여러분의 스토리텔링 잠재력을 발휘해 보세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 AI 가격 최적화 소프트웨어를 만나보세요. 저희가 엄선한 이 목록에는 경쟁사를 추적하고 최대 수익을 위해 매장 가격을 자동으로 조정해 주는, 최고 평점을 받은 혁신적인 도구들이 포함되어 있습니다. 실제 테스트 결과를 바탕으로 무료 버전과 유료 버전을 비교해 보세요. 지금 바로 가격 경쟁력의 우위를 확보하세요.
10 도구
xix.ai
XIX.AI에서 2026년 최고의 AI 코드 검토 도구를 만나보세요. 엄선된 이 목록에는 깔끔한 코드 준수 여부를 자동으로 확인하고 레거시 리포지토리 파일을 리팩토링하는 데 있어 판도를 바꿀 만한 최고 등급의 도구들이 포함되어 있습니다. 실제 테스트 결과와 매주 업데이트되는 순위를 통해 무료 및 유료 옵션을 비교해 보세요. 지금 바로 AI의 경쟁력을 확보하세요.
10 도구
xix.ai
난독증 지원을 위해 엄선된 2026년 최신 최고 평점 AI TTS 앱을 만나보세요. 전문가들이 선정한 이 순위는 무료 및 유료 도구를 비교 분석하여, 읽기 효율과 학습 효과를 높여주는 강력한 기능들을 소개합니다. 학생들의 잠재력을 최대한 발휘할 수 있도록 도와줄, 꼭 사용해봐야 할 혁신적인 솔루션을 확인해 보세요. XIX.AI에서 여정을 시작해 보세요.
10 도구
xix.ai
