Китайская цензура ИИ, выявленная просочившимися данными

Использование ИИ в Китае для повышения его цензуры достигло нового уровня, как показано в просочившейся базе данных, содержащей 133 000 примеров контента, отмеченного для чувствительности правительством Китая. Эта сложная большая языковая модель (LLM) предназначена для автоматического обнаружения и цензуры, связанного с широким спектром тем, от бедности в сельских районах до коррупции в Коммунистической партии и даже тонкой политической сатиры.

По словам Сяо Цянь, исследователя в Калифорнийском университете в Беркли, который специализируется на китайской цензуре, эта база данных является «четким доказательством», что правительство Китая или его филиалы используют LLM для поддержки их усилий по репрессии. В отличие от традиционных методов, которые зависят от модераторов человека и фильтрации ключевых слов, этот подход, управляемый AI, может значительно повысить эффективность и точность управления информацией, контролируемой состоянием.

Набор данных, обнаруженный исследователем безопасности Netaskari в незащищенной базе данных Elasticsearch, размещенной на сервере Baidu, включает в себя недавние записи с декабря 2024 года. Неясно, кто точно создал набор данных, но его цель очевидна: обучить LLM для выявления и флаги, связанных с чувствительными темами, такими как загрязнение, безопасность пищевых продуктов, финансовые районы, трудовые диспы и военные материи. Политическая сатира, особенно когда она включает в себя исторические аналогии или ссылки на Тайвань, также является высокой целью.

Данные обучения включают в себя различные примеры содержания, которые потенциально могут вызвать социальные волнения, такие как жалобы на коррумпированные полицейские, сообщения о бедности в сельской местности и новости о изгнанных чиновниках коммунистической партии. Набор данных также содержит обширные ссылки на Тайвань и связанные с военными темами, а китайское слово для Тайваня (台湾) появляется более 15 000 раз.

Предполагаемое использование набора данных описывается как «работа общественного мнения», термин, который объясняет Майкл Кастер из статьи 19, обычно связан с управлением киберпространством Китая (CAC) и включает в себя цензуру и усилия по пропаганде. Это согласуется с представлением президента Китая Си Цзиньпина на Интернет как «фронт» работы общественного мнения Коммунистической партии.

Это развитие является частью более широкой тенденции авторитарных режимов, принимающих технологию ИИ в репрессивных целях. Openai недавно сообщил, что неопознанный актер, вероятно, из Китая, использовал генеративный ИИ для мониторинга социальных сетей и форвардных антиправительственных должностей для правительства Китая. Та же технология также использовалась для создания критических комментариев о выдающемся китайском диссиденте, Cai Xia.

В то время как традиционные методы цензуры Китая основаны на основных алгоритмах для блокировки терминов с черным списком, использование LLMS представляет собой значительный прогресс. Эти системы ИИ могут обнаружить даже тонкую критику в масштабе и постоянно улучшаться по мере их обработки большего количества данных.

«Я думаю, что крайне важно подчеркнуть, как развивается цензура, управляемая ИИ, что делает государственный контроль над публичным дискурсом еще более сложным, особенно в то время, когда китайские модели ИИ, такие как DeedSeek, делают головные волны»,-сказал Сяо Цянь.