미성년자들, 일론 머스크의 xAI를 고소하다: 그로크의 불법 이미지 생성 기술에 대해

일론 머스크의 AI 회사 xAI가 현재 심각한 법적 문제에 직면해 있습니다. 보도에 따르면 테네시주의 세 명의 청소년이 이 회사를 상대로 집단 소송을 제기했으며, xAI의 챗봇 ‘Grok’이 미성년자를 대상으로 한 음란한 이미지와 영상을 생성하는 데 사용되었다고 주장하고 있습니다.
안전성 테스트의 부재와 설계상의 결함
원고들은 머스크와 xAI 경영진이 ‘Grok’이 “자극 모드”가 활성화될 때 불법 콘텐츠를 생성할 수 있다는 것을 알고 있었음에도 불구하고 이 기능에 대한 적절한 안전성 테스트를 실시하지 않았다고 주장합니다. 법원 문서에 따르면 한 피해자는 디스코드에서 최대 18개의 AI가 생성한 미성년자의 음란 이미지를 발견했으며, 그중 일부는 암호화된 그룹에서 용의자들이 “교환 아이템”으로 사용된 것으로 알려졌습니다.
원고 측 변호사는 ‘Grok’에는 미성년자를 대상으로 한 딥페이크 요청을 효과적으로 차단할 수 없는 근본적인 설계상의 결함이 있다고 주장합니다. 용의자들은 이미 체포되었지만, 그들이 사용한 범죄 도구들은 xAI의 기술 덕분에 가능했습니다.
증가하는 규제 압력
‘Grok’은 이전에도 지나치게 관대한 콘텐츠 검열 정책으로 인해 많은 비판을 받았으며, 유명인사와 일반 개인들과 관련된 가짜 민감 콘텐츠를 쉽게 생성한다는 지적을 받았습니다. xAI가 이후 일부 제한 조치를 시행했지만, 이번 아동 안전 관련 집단 소송으로 인해 머스크와 xAI는 규제 기관과 윤리적인 검토의 대상이 되었습니다.
이 사건은 xAI에 큰 타격을 주는 것은 물론, 생성형 AI 분야에서 개인 정보 보호와 아동 안전에 관한 더 광범위한 업계 논의를 촉발할 것으로 예상됩니다.
관련 기사
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026년 5월 14일, AI 애플리케이션 개발 플랫폼 라블러블(Lovable)은 덴마크 하드웨어 스타트업 Atech의 80만 달러 시드 투자 라운드 참여를 발표했습니다. 라블러블이 주도한 이번 투자에는 a16z 스카우트 펀드, 시에리야 스카우트 펀드, 노르딕 메이커스(Nordic Makers) 등 최상위 벤처캐피탈 기업들이 참여했습니다. 이번 투자는 라블러블이 순수 소프트웨어 개발을 넘어 하드웨어 엔지니어링 영역으로 '바이브 코딩(Vibe C
Anthropic, 클로드 AI 코딩 도구를 일본으로 확장하여 해외 성장 추진
미국의 대표적인 인공지능 기업인 앤트로픽(Anthropic)이 글로벌 마케팅을 강화하고 있다. 수요일, 이 회사는 도쿄에서 약 500명의 소프트웨어 엔지니어가 참석한 대규모 개발자 행사인 '클로드로 코딩(Code with Claude)'을 개최했다. 이번 행사는 자율적 코딩 기능의 핵심 이점을 강조하며, 클로도 AI 도구와 관련 제품을 일본 시장에 적극적으로 도입하여 기업의 생산성을 높이는 것을 목표로 한다.자동 코드 생성 강조행사 동안 앤
인도의 소프트웨어 거대 기업이 채용을 축소하고 AI 에이전트 확대에 따라 해고를 약속하지 않음
인공지능이 전통적인 노동집약적 비즈니스 모델을 재편함에 따라, 인도 최고의 소프트웨어 아웃소싱 기업인 타타 컨설팅 서비스스(TCS)는 전략적 대응책을 공개했습니다. 화요일 열린 정기주주총회에서 회장은 인간과 기계의 협력을 비전으로 제시하고, AI 시대의 회사 인력 전략을 명확히 했습니다.해고는 없지만 채용은 느려질 것TCS 회장은 AI 도입으로 인한 직원 해고 계획이 없다고 명시하면서도, 전체 채용 속도는 늦출 것이라고 밝혔습니다. TCS는
관련 특별 주제 추천
의견 (0)
0/500

일론 머스크의 AI 회사 xAI가 현재 심각한 법적 문제에 직면해 있습니다. 보도에 따르면 테네시주의 세 명의 청소년이 이 회사를 상대로 집단 소송을 제기했으며, xAI의 챗봇 ‘Grok’이 미성년자를 대상으로 한 음란한 이미지와 영상을 생성하는 데 사용되었다고 주장하고 있습니다.
안전성 테스트의 부재와 설계상의 결함
원고들은 머스크와 xAI 경영진이 ‘Grok’이 “자극 모드”가 활성화될 때 불법 콘텐츠를 생성할 수 있다는 것을 알고 있었음에도 불구하고 이 기능에 대한 적절한 안전성 테스트를 실시하지 않았다고 주장합니다. 법원 문서에 따르면 한 피해자는 디스코드에서 최대 18개의 AI가 생성한 미성년자의 음란 이미지를 발견했으며, 그중 일부는 암호화된 그룹에서 용의자들이 “교환 아이템”으로 사용된 것으로 알려졌습니다.
원고 측 변호사는 ‘Grok’에는 미성년자를 대상으로 한 딥페이크 요청을 효과적으로 차단할 수 없는 근본적인 설계상의 결함이 있다고 주장합니다. 용의자들은 이미 체포되었지만, 그들이 사용한 범죄 도구들은 xAI의 기술 덕분에 가능했습니다.
증가하는 규제 압력
‘Grok’은 이전에도 지나치게 관대한 콘텐츠 검열 정책으로 인해 많은 비판을 받았으며, 유명인사와 일반 개인들과 관련된 가짜 민감 콘텐츠를 쉽게 생성한다는 지적을 받았습니다. xAI가 이후 일부 제한 조치를 시행했지만, 이번 아동 안전 관련 집단 소송으로 인해 머스크와 xAI는 규제 기관과 윤리적인 검토의 대상이 되었습니다.
이 사건은 xAI에 큰 타격을 주는 것은 물론, 생성형 AI 분야에서 개인 정보 보호와 아동 안전에 관한 더 광범위한 업계 논의를 촉발할 것으로 예상됩니다.
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026년 5월 14일, AI 애플리케이션 개발 플랫폼 라블러블(Lovable)은 덴마크 하드웨어 스타트업 Atech의 80만 달러 시드 투자 라운드 참여를 발표했습니다. 라블러블이 주도한 이번 투자에는 a16z 스카우트 펀드, 시에리야 스카우트 펀드, 노르딕 메이커스(Nordic Makers) 등 최상위 벤처캐피탈 기업들이 참여했습니다. 이번 투자는 라블러블이 순수 소프트웨어 개발을 넘어 하드웨어 엔지니어링 영역으로 '바이브 코딩(Vibe C
Anthropic, 클로드 AI 코딩 도구를 일본으로 확장하여 해외 성장 추진
미국의 대표적인 인공지능 기업인 앤트로픽(Anthropic)이 글로벌 마케팅을 강화하고 있다. 수요일, 이 회사는 도쿄에서 약 500명의 소프트웨어 엔지니어가 참석한 대규모 개발자 행사인 '클로드로 코딩(Code with Claude)'을 개최했다. 이번 행사는 자율적 코딩 기능의 핵심 이점을 강조하며, 클로도 AI 도구와 관련 제품을 일본 시장에 적극적으로 도입하여 기업의 생산성을 높이는 것을 목표로 한다.자동 코드 생성 강조행사 동안 앤
인도의 소프트웨어 거대 기업이 채용을 축소하고 AI 에이전트 확대에 따라 해고를 약속하지 않음
인공지능이 전통적인 노동집약적 비즈니스 모델을 재편함에 따라, 인도 최고의 소프트웨어 아웃소싱 기업인 타타 컨설팅 서비스스(TCS)는 전략적 대응책을 공개했습니다. 화요일 열린 정기주주총회에서 회장은 인간과 기계의 협력을 비전으로 제시하고, AI 시대의 회사 인력 전략을 명확히 했습니다.해고는 없지만 채용은 느려질 것TCS 회장은 AI 도입으로 인한 직원 해고 계획이 없다고 명시하면서도, 전체 채용 속도는 늦출 것이라고 밝혔습니다. TCS는





집






