Censura de IA china expuesta por datos filtrados

El uso de AI por parte de China para mejorar sus capacidades de censura ha alcanzado un nuevo nivel, como lo revela una base de datos filtrada que contiene 133,000 ejemplos de contenido marcado por sensibilidad por parte del gobierno chino. Este sofisticado modelo de lenguaje grande (LLM) está diseñado para detectar y censurar automáticamente el contenido relacionado con una amplia gama de temas, desde la pobreza en las zonas rurales hasta la corrupción dentro del Partido Comunista e incluso sutiles sátira política.

Según Xiao Qiang, un investigador de UC Berkeley que se especializa en censura china, esta base de datos es "evidencia clara" de que el gobierno chino o sus afiliados están utilizando LLM para reforzar sus esfuerzos de represión. A diferencia de los métodos tradicionales que dependen de los moderadores humanos y el filtrado de palabras clave, este enfoque impulsado por la IA puede mejorar significativamente la eficiencia y la precisión de la gestión de la información controlada por el estado.

El conjunto de datos, descubierto por el investigador de seguridad Netaskari en una base de datos Elasticsearch no segura alojada en un servidor de Baidu, incluye entradas recientes de diciembre de 2024. No está claro quién creó exactamente el conjunto de datos, pero su propósito es evidente: para capacitar a una LLM para identificar y marcar el contenido relacionado con temas sensibles como la contaminación, la seguridad alimentaria, el craude financiero, las disputas laborales y las materias militares y las materias militares. La sátira política, especialmente cuando involucra analogías históricas o referencias a Taiwán, también es un objetivo de alta prioridad.

Los datos de capacitación incluyen varios ejemplos de contenido que podrían provocar disturbios sociales, como quejas sobre oficiales de policía corruptos, informes sobre la pobreza rural y noticias sobre funcionarios expulsados ​​del Partido Comunista. El conjunto de datos también contiene referencias extensas a Taiwán y temas relacionados con el ejército, con la palabra china para Taiwán (台湾) que aparece más de 15,000 veces.

El uso previsto del conjunto de datos se describe como "trabajo de opinión pública", un término que Michael Caster del artículo 19 explica se asocia típicamente con la administración del ciberespacio de China (CAC) e implica censura y esfuerzos de propaganda. Esto se alinea con la visión del presidente chino Xi Jinping de Internet como la "primera línea" del trabajo de opinión pública del Partido Comunista.

Este desarrollo es parte de una tendencia más amplia de regímenes autoritarios que adoptan la tecnología de IA para fines represivos. Operai informó recientemente que un actor no identificado, probablemente de China, utilizó IA generativa para monitorear las redes sociales y los puestos antigubernamentales avanzados al gobierno chino. La misma tecnología también se utilizó para generar comentarios críticos sobre un disidente chino destacado, Cai Xia.

Si bien los métodos de censura tradicionales de China dependen de algoritmos básicos para bloquear los términos con la lista negra, el uso de LLM representa un avance significativo. Estos sistemas de IA pueden detectar incluso críticas sutiles a gran escala y mejorar continuamente a medida que procesan más datos.

"Creo que es crucial resaltar cómo está evolucionando la censura de IA, haciendo que el control estatal sobre el discurso público sea aún más sofisticado, especialmente en un momento en que los modelos de IA chinos como Deepseek están haciendo ondas de cabeza", dijo Xiao Qiang a TechCrunch.