Chinesische KI -Zensur, die durch durchgesickerte Daten ausgesetzt ist

Chinas Einsatz von KI zur Verbesserung seiner Zensurfähigkeiten hat ein neues Niveau erreicht, wie eine durchgesickerte Datenbank mit 133.000 Beispielen von Inhalten zeigt, die von der chinesischen Regierung als sensibel eingestuft wurden. Dieses ausgeklügelte große Sprachmodell (LLM) ist darauf ausgelegt, Inhalte zu einer Vielzahl von Themen automatisch zu erkennen und zu zensieren, von Armut in ländlichen Gebieten über Korruption innerhalb der Kommunistischen Partei bis hin zu subtiler politischer Satire.

Laut Xiao Qiang, einem Forscher an der UC Berkeley, der sich auf chinesische Zensur spezialisiert hat, ist diese Datenbank ein „klarer Beweis“ dafür, dass die chinesische Regierung oder ihre Partner LLMs nutzen, um ihre Repressionsbemühungen zu verstärken. Im Gegensatz zu traditionellen Methoden, die auf menschliche Moderatoren und Schlüsselwortfilter angewiesen sind, kann dieser KI-gestützte Ansatz die Effizienz und Präzision der staatlich kontrollierten Informationsverwaltung erheblich steigern.

Das Datenset, das vom Sicherheitsforscher NetAskari auf einer ungesicherten Elasticsearch-Datenbank entdeckt wurde, die auf einem Baidu-Server gehostet wird, enthält aktuelle Einträge vom Dezember 2024. Es ist unklar, wer genau das Datenset erstellt hat, aber sein Zweck ist offensichtlich: ein LLM zu trainieren, um Inhalte zu sensiblen Themen wie Umweltverschmutzung, Lebensmittelsicherheit, Finanzbetrug, Arbeitskonflikten und militärischen Angelegenheiten zu identifizieren und zu kennzeichnen. Politische Satire, insbesondere wenn sie historische Analogien oder Bezüge zu Taiwan enthält, ist ebenfalls ein vorrangiges Ziel.

Die Trainingsdaten umfassen verschiedene Beispiele für Inhalte, die potenziell soziale Unruhen auslösen könnten, wie Beschwerden über korrupte Polizeibeamte, Berichte über Armut in ländlichen Gebieten und Nachrichten über ausgeschlossene Funktionäre der Kommunistischen Partei. Das Datenset enthält auch umfangreiche Bezüge zu Taiwan und militärischen Themen, wobei das chinesische Wort für Taiwan (台湾) über 15.000 Mal vorkommt.

Die beabsichtigte Verwendung des Datensets wird als „Arbeit an der öffentlichen Meinung“ beschrieben, ein Begriff, den Michael Caster von Article 19 erklärt, der typischerweise mit der Cyberspace Administration of China (CAC) in Verbindung gebracht wird und Zensur- sowie Propaganda-Bemühungen umfasst. Dies steht im Einklang mit der Sichtweise des chinesischen Präsidenten Xi Jinping, der das Internet als die „Frontlinie“ der Arbeit der Kommunistischen Partei an der öffentlichen Meinung betrachtet.

Diese Entwicklung ist Teil eines breiteren Trends, bei dem autoritäre Regime KI-Technologie für repressive Zwecke einsetzen. OpenAI berichtete kürzlich, dass ein unbekannter Akteur, vermutlich aus China, generative KI nutzte, um soziale Medien zu überwachen und regierungskritische Beiträge an die chinesische Regierung weiterzuleiten. Dieselbe Technologie wurde auch verwendet, um kritische Kommentare über die prominente chinesische Dissidentin Cai Xia zu generieren.

Während Chinas traditionelle Zensurmethoden auf einfache Algorithmen angewiesen sind, um gesperrte Begriffe zu blockieren, stellt der Einsatz von LLMs einen bedeutenden Fortschritt dar. Diese KI-Systeme können selbst subtile Kritik in großem Maßstab erkennen und sich kontinuierlich verbessern, während sie mehr Daten verarbeiten.

„Ich denke, es ist entscheidend, hervorzuheben, wie sich die KI-gestützte Zensur weiterentwickelt und die staatliche Kontrolle über den öffentlichen Diskurs noch ausgefeilter macht, insbesondere zu einer Zeit, in der chinesische KI-Modelle wie DeepSeek Wellen schlagen“, sagte Xiao Qiang gegenüber TechCrunch.