Censura da IA ​​chinesa exposta por dados vazados

O uso da IA ​​da China para aprimorar seus recursos de censura atingiu um novo nível, conforme revelado por um banco de dados vazado contendo 133.000 exemplos de conteúdo sinalizado para sensibilidade pelo governo chinês. Este sofisticado modelo de grande linguagem (LLM) foi projetado para detectar e censurar automaticamente o conteúdo relacionado a uma ampla gama de tópicos, da pobreza nas áreas rurais à corrupção dentro do Partido Comunista e até mesmo sátira política.

Segundo Xiao Qiang, pesquisador da UC Berkeley especializado em censura chinesa, esse banco de dados é "evidência clara" de que o governo chinês ou suas afiliadas estão usando LLMs para reforçar seus esforços de repressão. Diferentemente dos métodos tradicionais que dependem de moderadores humanos e filtragem de palavras-chave, essa abordagem orientada a IA pode aumentar significativamente a eficiência e a precisão do gerenciamento de informações controlado pelo estado.

O conjunto de dados, descoberto pelo pesquisador de segurança Netaskari em um banco de dados de Elasticsearch não garantido hospedado em um servidor Baidu, inclui entradas recentes de dezembro de 2024. Não está claro quem exatamente criou o conjunto de dados, mas seu objetivo é evidente: treinar um LLM para identificar e sinalizar conteúdo relacionado e sensibilidade, como poluição, segurança alimentar, fraudes financeiras, fraudes financeiras, fraudes financeiras, fraudes financeiras, fraudes financeiras, fraudes financeiras, fraudes financeiras, fraudes financeiras, fraudes, fraudes financeiras, fraudes, fraudes financeiras, llm para identificar e sinalizar conteúdo e sinalização relacionados à sensibilidade, como poluição, segurança alimentar. A sátira política, especialmente quando envolve analogias históricas ou referências a Taiwan, também é um alvo de alta prioridade.

Os dados de treinamento incluem vários exemplos de conteúdo que podem potencialmente provocar agitação social, como reclamações sobre policiais corruptos, relatórios sobre pobreza rural e notícias sobre funcionários do Partido Comunista Expelido. O conjunto de dados também contém referências extensas a tópicos relacionados a Taiwan e relacionados a militares, com a palavra chinesa para Taiwan (台湾) aparecendo mais de 15.000 vezes.

O uso pretendido do conjunto de dados é descrito como "trabalho de opinião pública", um termo que Michael Caster do artigo 19 explica normalmente está associado à administração do ciberespaço da China (CAC) e envolve esforços de censura e propaganda. Isso se alinha com a visão do presidente chinês Xi Jinping da Internet como a "linha de frente" do trabalho de opinião pública do Partido Comunista.

Esse desenvolvimento faz parte de uma tendência mais ampla de regimes autoritários que adotam a tecnologia de IA para fins repressivos. O Openai relatou recentemente que um ator não identificado, provavelmente da China, usou IA generativa para monitorar as mídias sociais e avançar os cargos antigovernamentais para o governo chinês. A mesma tecnologia também foi usada para gerar comentários críticos sobre um importante dissidente chinês, Cai Xia.

Embora os métodos tradicionais de censura da China dependam de algoritmos básicos para bloquear os termos na lista negra, o uso do LLMS representa um avanço significativo. Esses sistemas de IA podem detectar críticas sutis em uma escala enorme e melhorar continuamente à medida que processam mais dados.

"Eu acho crucial destacar como a censura orientada pela IA está evoluindo, tornando o controle do estado sobre o discurso público ainda mais sofisticado, especialmente em um momento em que modelos de IA chineses, como Deepseek, estão fazendo ondas de cabeça", disse Xiao Qiang ao TechCrunch.