유출 된 데이터로 노출 된 중국 AI 검열

검열 능력을 향상시키기 위해 중국의 AI를 사용하는 것은 중국 정부의 민감성을 위해 133,000 건의 콘텐츠를 포함하는 유출 된 데이터베이스에 의해 밝혀진 바와 같이 새로운 차원에 도달했다. 이 정교한 대형 언어 모델 (LLM)은 농촌 지역의 빈곤에서 공산당 내 부패, 심지어 미묘한 정치적 풍자에 이르기까지 광범위한 주제와 관련된 내용을 자동으로 감지하고 검열하도록 설계되었습니다.

중국 검열을 전문으로하는 UC Berkeley의 연구원 인 Xiao Qiang에 따르면,이 데이터베이스는 중국 정부 나 그 계열사가 LLM을 사용하여 억압 노력을 강화하고 있다는 명확한 증거입니다. 인간 중재자 및 키워드 필터링에 의존하는 전통적인 방법과 달리이 AI 중심 접근 방식은 상태 제어 정보 관리의 효율성과 정밀도를 크게 향상시킬 수 있습니다.

Baidu 서버에서 호스팅 된 무담보 엘라스틱 검색 데이터베이스에서 보안 연구원 Netaskari가 발견 한 데이터 세트에는 2024 년 12 월의 최근 항목이 포함되어 있습니다. 누가 데이터 세트를 정확히 만들었는지는 확실하지 않지만, 그 목적은 분명합니다. 정치 풍자, 특히 역사적 비유 나 대만에 대한 언급이 포함될 때 우선 순위가 높은 목표입니다.

훈련 데이터에는 부패한 경찰관에 대한 불만, 농촌 빈곤에 대한 보고서, 추방 된 공산당 공무원에 대한 뉴스와 같은 사회적 불안을 불러 일으킬 수있는 다양한 콘텐츠의 예가 포함됩니다. 이 데이터 세트에는 대만과 군사 관련 주제에 대한 광범위한 언급이 포함되어 있으며, 대만에 대한 중국어 단어 (台湾)는 15,000 번 이상 나타납니다.

데이터 세트의 의도 된 사용은 제 19 조의 Michael Caster가 일반적으로 중국의 사이버 공간 관리 (CAC)와 관련이 있으며 검열 및 선전 노력과 관련이있는 "여론 공사"로 설명됩니다. 이것은 Xi Jinping의 중국 대통령의 인터넷에 대한 관점과 공산당의 여론 조사의 "최전선"과 일치합니다.

이 발전은 억압 목적으로 AI 기술을 채택하는 권위주의 체제의 광범위한 경향의 일부입니다. Openai는 최근 중국 출신의 미확인 행위자가 소셜 미디어를 모니터링하고 반정부 지위를 중국 정부에 전달하기 위해 생성 AI를 사용했다고보고했다. 같은 기술이 저명한 중국 반체제 인 Cai Xia에 대한 비판적 의견을 생성하는 데 사용되었습니다.

중국의 전통적인 검열 방법은 블랙리스트 용어를 차단하기 위해 기본 알고리즘에 의존하지만 LLM의 사용은 상당한 발전을 나타냅니다. 이러한 AI 시스템은 대규모 규모로 미묘한 비판을 감지하고 더 많은 데이터를 처리함에 따라 지속적으로 개선 할 수 있습니다.

Xiao Qiang은 "AI 중심 검열이 어떻게 발전하고 있는지 강조하는 것이 중요하다고 생각합니다. 특히 DeepSeek와 같은 중국 AI 모델이 헤드 웨이브를 만들 때 공공 담론에 대한 국가를 통제하는 것이 더욱 정교합니다."Xiao Qiang은 TechCrunch에 말했다.