Chinesische KI -Zensur, die durch durchgesickerte Daten ausgesetzt ist

Chinas Einsatz von KI zur Verbesserung seiner Zensurfunktionen hat ein neues Niveau erreicht, wie eine durchgesickerte Datenbank mit 133.000 Beispielen für inhaltliche Inhalte enthielt, die durch die chinesische Regierung für die Sensibilität gemeldet wurden. Dieses anspruchsvolle Großsprachmodell (LLM) soll automatisch Inhalte in Bezug auf eine breite Palette von Themen erkennen und zensiert, von Armut in ländlichen Gebieten bis hin zu Korruption innerhalb der kommunistischen Partei und sogar subtile politische Satire.

Laut Xiao Qiang, einem Forscher an der UC Berkeley, der sich auf die chinesische Zensur spezialisiert hat, ist diese Datenbank "eindeutige Beweise", dass die chinesische Regierung oder ihre verbundenen Unternehmen LLMs verwenden, um ihre Repressionsbemühungen zu stärken. Im Gegensatz zu herkömmlichen Methoden, die von menschlichen Moderatoren und Keyword-Filterung abhängen, kann dieser kI-gesteuerte Ansatz die Effizienz und Präzision des staatlich kontrollierten Informationsmanagements erheblich verbessern.

Der Datensatz, der vom Sicherheitsforscher Netaskari auf einer ungesicherten Elasticsearch -Datenbank entdeckt wurde, die auf einem Baidu -Server gehostet wird, enthält die jüngsten Einträge ab Dezember 2024. Es ist unklar, wer genau den Datensatz erstellt hat, aber sein Zweck ist offensichtlich: Um einen LLM zu identifizieren, um in Bezug auf sensible Themen wie Verschmutzung, Lebensmittelsicherheit, finanzielle, lernfabaude und militärische Streitigkeiten, und Lernstritten, Lernstritten und Streitkräfte zu flagten. Die politische Satire, insbesondere wenn sie historische Analogien oder Verweise auf Taiwan beinhaltet, ist ebenfalls ein Ziel mit hoher Priorität.

Die Schulungsdaten umfassen verschiedene Beispiele für Inhalte, die möglicherweise soziale Unruhen aufregen könnten, wie Beschwerden über korrupte Polizeibeamte, Berichte über ländliche Armut und Nachrichten über die Beamten der ausgewiesenen Kommunistischen Partei. Der Datensatz enthält auch umfangreiche Verweise auf taiwanesische und militärische Themen, wobei das chinesische Wort für Taiwan (台湾) über 15.000 Mal erscheinen.

Die beabsichtigte Verwendung des Datensatzes wird als "öffentliche Meinungsarbeiten" bezeichnet. Ein Begriff, den Michael Caster aus Artikel 19 erklärt, ist typischerweise mit der Cyberspace -Verwaltung Chinas (CAC) verbunden und beinhaltet Zensur- und Propaganda -Bemühungen. Dies entspricht dem Sicht des chinesischen Präsidenten Xi Jinping im Internet als "Front" der öffentlichen Meinungsarbeiten der kommunistischen Partei.

Diese Entwicklung ist Teil eines breiteren Trends autoritärer Regime, die die KI -Technologie für repressive Zwecke einsetzen. OpenAI berichtete kürzlich, dass ein nicht identifizierter Akteur, wahrscheinlich aus China, generative KI zur Überwachung sozialer Medien und zur Weiterleitung gegen Regierungsstellen an die chinesische Regierung verwendete. Die gleiche Technologie wurde auch verwendet, um kritische Kommentare zu einem prominenten chinesischen Dissidenten, Cai Xia, zu generieren.

Während Chinas traditionelle Zensurmethoden auf grundlegenden Algorithmen angewiesen sind, um schwarze Liste zu blockieren, stellt die Verwendung von LLMs einen signifikanten Fortschritt dar. Diese KI -Systeme können selbst subtile Kritik in massivem Maßstab erkennen und sich kontinuierlich verbessern, wenn sie mehr Daten verarbeiten.

"Ich denke, es ist entscheidend, hervorzuheben, wie sich die KI-gesteuerte Zensur weiterentwickelt und die staatliche Kontrolle über den öffentlichen Diskurs noch anspruchsvoller macht, insbesondere zu einer Zeit, in der chinesische KI-Modelle wie Deepseek Kopfwellen machen", sagte Xiao Qiang gegenüber TechCrunch.