Censure de l'IA chinoise exposée par des données divulguées

L'utilisation de l'IA par la Chine pour améliorer ses capacités de censure a atteint un nouveau niveau, comme l'a révélé une base de données divulguée contenant 133 000 exemples de contenu signalé pour la sensibilité par le gouvernement chinois. Ce modèle sophistiqué de grand langage (LLM) est conçu pour détecter et censurer automatiquement le contenu lié à un large éventail de sujets, de la pauvreté dans les zones rurales à la corruption au sein du Parti communiste et même de la satire politique subtile.

Selon Xiao Qiang, chercheur à UC Berkeley qui se spécialise dans la censure chinoise, cette base de données est "une preuve claire" que le gouvernement chinois ou ses affiliés utilisent les LLM pour renforcer leurs efforts de répression. Contrairement aux méthodes traditionnelles qui dépendent des modérateurs humains et du filtrage des mots clés, cette approche axée sur l'IA peut améliorer considérablement l'efficacité et la précision de la gestion de l'information contrôlée par l'État.

L'ensemble de données, découvert par le chercheur en sécurité Netaskari sur une base de données Elasticsearch non sécurisée hébergée sur un serveur Baidu, comprend des entrées récentes de décembre 2024. Il n'est pas clair qui a exactement créé l'ensemble de données, mais son objectif est évident: former une LLM pour identifier et signaler le contenu lié à des sujets sensibles tels que la pollution, la sécurité alimentaire, la fraude financière, les différends travailliste et les matières militaires. La satire politique, en particulier lorsqu'elle implique des analogies historiques ou des références à Taïwan, est également une cible de grande priorité.

Les données de formation comprennent divers exemples de contenu qui pourraient potentiellement susciter des troubles sociaux, tels que les plaintes concernant des policiers corrompus, des rapports sur la pauvreté rurale et des nouvelles concernant les fonctionnaires expulsés du Parti communiste. L'ensemble de données contient également de nombreuses références à Taïwan et à des sujets liés à l'armée, le mot chinois pour Taïwan (台湾) apparaissant plus de 15 000 fois.

L'utilisation prévue de l'ensemble de données est décrite comme un «travail d'opinion publique», un terme que Michael Caster de l'article 19 explique est généralement associé à l'administration du cyberespace de la Chine (CAC) et implique des efforts de censure et de propagande. Cela s'aligne sur la vision du président chinois Xi Jinping sur Internet comme la "première ligne" du travail d'opinion publique du Parti communiste.

Cette évolution fait partie d'une tendance plus large des régimes autoritaires adoptant la technologie d'IA à des fins répressives. OpenAI a récemment rapporté qu'un acteur non identifié, probablement en provenance de Chine, a utilisé une AI générative pour surveiller les médias sociaux et transmettre des postes antigouvernementaux au gouvernement chinois. La même technologie a également été utilisée pour générer des commentaires critiques sur un dissident chinois de premier plan, Cai Xia.

Alors que les méthodes de censure traditionnelles de la Chine reposent sur des algorithmes de base pour bloquer les termes mis sur liste noire, l'utilisation de LLMS représente un progrès significatif. Ces systèmes d'IA peuvent détecter des critiques encore subtiles à une échelle massive et s'améliorer continuellement à mesure qu'elles traitent plus de données.

"Je pense qu'il est crucial de souligner comment l'évolution de la censure axée sur l'IA, ce qui rend le contrôle de l'État sur le discours public encore plus sophistiqué, en particulier à un moment où des modèles d'IA chinois tels que Deepseek font des ondes", a déclaré Xiao Qiang à TechCrunch.