캘리포니아주 법무장관, 딥페이크 포르노 관련 xAI를 상대로 소송 제기

이번 주 초, 캘리포니아주 법무장관은 xAI의 챗봇 ‘그록(Grok)’이 여성과 미성년자의 동의 없는 성적 이미지를 생성하는 데 악용되고 있다는 보도가 나온 후 xAI에 대한 조사에 착수했다. 금요일, 주 정부는 해당 기업에 이러한 사적인 이미지와 아동 성착취물(CSAM)의 제작을 즉시 중단할 것을 요구하는 중단 및 철회 통지서를 발송하며 대응 수위를 높였다.
캘리포니아주 법무장관 롭 본타는 보도자료를 통해 "오늘 저는 xAI에 딥페이크, 동의 없는 사적인 이미지 및 아동 성 착취물(CSAM)의 제작과 배포를 즉시 중단할 것을 요구하는 중단 및 금지 통지서를 발송했습니다"라고 밝혔다. "이러한 행위는 불법입니다. 저는 xAI가 즉시 이에 따를 것으로 확신합니다. 캘리포니아주는 CSAM에 대해 절대 용납하지 않습니다."
검찰청은 또한 xAI가 동의 없는 누드 이미지의 "대규모 제작을 조장"하고 있으며, 이러한 이미지가 이후 "온라인에서 여성과 소녀들을 괴롭히는 데 이용되고 있다"고 주장했다. 검찰청은 xAI에 이 문제들을 해결하기 위한 구체적인 조치를 취하고 있음을 입증할 수 있도록 5일의 기한을 부여했다.
논란의 중심에는 xAI가 노골적인 콘텐츠를 생성하도록 설계한 Grok의 '스파이시(spicy)' 모드가 있다. 반발은 캘리포니아를 넘어 일본, 캐나다, 영국까지 확산되어 이들 국가에서도 Grok에 대한 자체 조사를 개시했다. 말레이시아와 인도네시아는 해당 플랫폼에 대한 접속을 일시적으로 전면 차단했다. xAI가 수요일 늦게 이미지 편집 기능에 일부 제한을 적용했음에도 불구하고, 캘리포니아 법무장관은 중단 명령을 강행했다.
X의 안전 팀은 이전에 이러한 유형의 사용자 활동을 규탄하며, "그록을 이용해 불법 콘텐츠를 생성하는 사람은 이를 직접 업로드한 것과 동일한 처벌을 받게 될 것"이라고 밝힌 바 있다. 테크크런치가 xAI에 논평을 요청하자, "레거시 미디어는 거짓말을 한다(Legacy Media Lies)"는 내용의 자동 응답 이메일을 받았다. 테크크런치는 추가적인 맥락을 파악하기 위해 캘리포니아주 법무장관실에도 연락을 취했다.
무료로 이용 가능한 생성형 AI 도구의 확산은 동의 없는 성적 자료의 우려스러운 증가를 부추기고 있다. 이는 X뿐만 아니라 많은 플랫폼이 직면한 과제다. 이 문제는 주 정부 관계자와 연방 의원들의 주목을 받고 있다. 실제로 목요일, 의회는 X, 레딧(Reddit), 스냅(Snap), 틱톡(TikTok), 알파벳(Alphabet), 메타(Meta) 등 주요 기술 기업 임원들에게 서한을 보내, 성적 딥페이크 확산을 막기 위한 계획에 대해 질의했다.
관련 기사
전 OpenAI 수석 과학자 일리아의 SSI가 첫 모델을 공개하다
AI는 또 다른 주요 이정표를 달성했습니다. 오픈AI를 떠난 전 수석 과학자 일야 수트케버는 세이프 슈퍼인텔리전스 인크.(SSI)를 설립했으며, 이 회사는 최근 첫 번째 모델에 대한 세부 사항을 공개했습니다. 해외 소셜 미디어의 보도에 따르면, 이 팀은 안전한 슈퍼인텔리전스 추구를 위한 중요한 진전인 TTT(테스트 중 학습)를 활용한 컴팩트한 추론 엔진을 개발하고 있습니다.이 새로운 아키텍처는 모델이 '학습 방법을 학습'할 수 있도록 하는 데
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026년 5월 14일, AI 애플리케이션 개발 플랫폼 라블러블(Lovable)은 덴마크 하드웨어 스타트업 Atech의 80만 달러 시드 투자 라운드 참여를 발표했습니다. 라블러블이 주도한 이번 투자에는 a16z 스카우트 펀드, 시에리야 스카우트 펀드, 노르딕 메이커스(Nordic Makers) 등 최상위 벤처캐피탈 기업들이 참여했습니다. 이번 투자는 라블러블이 순수 소프트웨어 개발을 넘어 하드웨어 엔지니어링 영역으로 '바이브 코딩(Vibe C
Anthropic, 클로드 AI 코딩 도구를 일본으로 확장하여 해외 성장 추진
미국의 대표적인 인공지능 기업인 앤트로픽(Anthropic)이 글로벌 마케팅을 강화하고 있다. 수요일, 이 회사는 도쿄에서 약 500명의 소프트웨어 엔지니어가 참석한 대규모 개발자 행사인 '클로드로 코딩(Code with Claude)'을 개최했다. 이번 행사는 자율적 코딩 기능의 핵심 이점을 강조하며, 클로도 AI 도구와 관련 제품을 일본 시장에 적극적으로 도입하여 기업의 생산성을 높이는 것을 목표로 한다.자동 코드 생성 강조행사 동안 앤
관련 특별 주제 추천
의견 (0)
0/500

이번 주 초, 캘리포니아주 법무장관은 xAI의 챗봇 ‘그록(Grok)’이 여성과 미성년자의 동의 없는 성적 이미지를 생성하는 데 악용되고 있다는 보도가 나온 후 xAI에 대한 조사에 착수했다. 금요일, 주 정부는 해당 기업에 이러한 사적인 이미지와 아동 성착취물(CSAM)의 제작을 즉시 중단할 것을 요구하는 중단 및 철회 통지서를 발송하며 대응 수위를 높였다.
캘리포니아주 법무장관 롭 본타는 보도자료를 통해 "오늘 저는 xAI에 딥페이크, 동의 없는 사적인 이미지 및 아동 성 착취물(CSAM)의 제작과 배포를 즉시 중단할 것을 요구하는 중단 및 금지 통지서를 발송했습니다"라고 밝혔다. "이러한 행위는 불법입니다. 저는 xAI가 즉시 이에 따를 것으로 확신합니다. 캘리포니아주는 CSAM에 대해 절대 용납하지 않습니다."
검찰청은 또한 xAI가 동의 없는 누드 이미지의 "대규모 제작을 조장"하고 있으며, 이러한 이미지가 이후 "온라인에서 여성과 소녀들을 괴롭히는 데 이용되고 있다"고 주장했다. 검찰청은 xAI에 이 문제들을 해결하기 위한 구체적인 조치를 취하고 있음을 입증할 수 있도록 5일의 기한을 부여했다.
논란의 중심에는 xAI가 노골적인 콘텐츠를 생성하도록 설계한 Grok의 '스파이시(spicy)' 모드가 있다. 반발은 캘리포니아를 넘어 일본, 캐나다, 영국까지 확산되어 이들 국가에서도 Grok에 대한 자체 조사를 개시했다. 말레이시아와 인도네시아는 해당 플랫폼에 대한 접속을 일시적으로 전면 차단했다. xAI가 수요일 늦게 이미지 편집 기능에 일부 제한을 적용했음에도 불구하고, 캘리포니아 법무장관은 중단 명령을 강행했다.
X의 안전 팀은 이전에 이러한 유형의 사용자 활동을 규탄하며, "그록을 이용해 불법 콘텐츠를 생성하는 사람은 이를 직접 업로드한 것과 동일한 처벌을 받게 될 것"이라고 밝힌 바 있다. 테크크런치가 xAI에 논평을 요청하자, "레거시 미디어는 거짓말을 한다(Legacy Media Lies)"는 내용의 자동 응답 이메일을 받았다. 테크크런치는 추가적인 맥락을 파악하기 위해 캘리포니아주 법무장관실에도 연락을 취했다.
무료로 이용 가능한 생성형 AI 도구의 확산은 동의 없는 성적 자료의 우려스러운 증가를 부추기고 있다. 이는 X뿐만 아니라 많은 플랫폼이 직면한 과제다. 이 문제는 주 정부 관계자와 연방 의원들의 주목을 받고 있다. 실제로 목요일, 의회는 X, 레딧(Reddit), 스냅(Snap), 틱톡(TikTok), 알파벳(Alphabet), 메타(Meta) 등 주요 기술 기업 임원들에게 서한을 보내, 성적 딥페이크 확산을 막기 위한 계획에 대해 질의했다.
전 OpenAI 수석 과학자 일리아의 SSI가 첫 모델을 공개하다
AI는 또 다른 주요 이정표를 달성했습니다. 오픈AI를 떠난 전 수석 과학자 일야 수트케버는 세이프 슈퍼인텔리전스 인크.(SSI)를 설립했으며, 이 회사는 최근 첫 번째 모델에 대한 세부 사항을 공개했습니다. 해외 소셜 미디어의 보도에 따르면, 이 팀은 안전한 슈퍼인텔리전스 추구를 위한 중요한 진전인 TTT(테스트 중 학습)를 활용한 컴팩트한 추론 엔진을 개발하고 있습니다.이 새로운 아키텍처는 모델이 '학습 방법을 학습'할 수 있도록 하는 데
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026년 5월 14일, AI 애플리케이션 개발 플랫폼 라블러블(Lovable)은 덴마크 하드웨어 스타트업 Atech의 80만 달러 시드 투자 라운드 참여를 발표했습니다. 라블러블이 주도한 이번 투자에는 a16z 스카우트 펀드, 시에리야 스카우트 펀드, 노르딕 메이커스(Nordic Makers) 등 최상위 벤처캐피탈 기업들이 참여했습니다. 이번 투자는 라블러블이 순수 소프트웨어 개발을 넘어 하드웨어 엔지니어링 영역으로 '바이브 코딩(Vibe C
Anthropic, 클로드 AI 코딩 도구를 일본으로 확장하여 해외 성장 추진
미국의 대표적인 인공지능 기업인 앤트로픽(Anthropic)이 글로벌 마케팅을 강화하고 있다. 수요일, 이 회사는 도쿄에서 약 500명의 소프트웨어 엔지니어가 참석한 대규모 개발자 행사인 '클로드로 코딩(Code with Claude)'을 개최했다. 이번 행사는 자율적 코딩 기능의 핵심 이점을 강조하며, 클로도 AI 도구와 관련 제품을 일본 시장에 적극적으로 도입하여 기업의 생산성을 높이는 것을 목표로 한다.자동 코드 생성 강조행사 동안 앤





집






