Китайская цензура ИИ, выявленная просочившимися данными

Использование Китаем искусственного интеллекта для усиления своих цензурных возможностей достигло нового уровня, как показывает утёкшая база данных, содержащая 133 000 примеров контента, помеченного как чувствительный китайским правительством. Эта сложная большая языковая модель (LLM) разработана для автоматического обнаружения и цензурирования контента, связанного с широким спектром тем, от бедности в сельских районах до коррупции в Коммунистической партии и даже тонкой политической сатиры.

По словам Сяо Цяна, исследователя из UC Berkeley, специализирующегося на китайской цензуре, эта база данных является "явным доказательством" того, что китайское правительство или его аффилированные структуры используют LLM для усиления своих репрессивных усилий. В отличие от традиционных методов, зависящих от модераторов-людей и фильтрации по ключевым словам, этот подход, основанный на искусственном интеллекте, значительно повышает эффективность и точность государственного управления информацией.

Набор данных, обнаруженный исследователем безопасности NetAskari в незащищённой базе данных Elasticsearch, размещённой на сервере Baidu, включает недавние записи от декабря 2024 года. Неясно, кто именно создал этот набор данных, но его цель очевидна: обучить LLM выявлять и помечать контент, связанный с чувствительными темами, такими как загрязнение окружающей среды, безопасность пищевых продуктов, финансовые махинации, трудовые споры и военные вопросы. Политическая сатира, особенно если она включает исторические аналогии или упоминания Тайваня, также является приоритетной целью.

Обучающие данные включают различные примеры контента, который потенциально может вызвать социальные волнения, такие как жалобы на коррумпированных полицейских, сообщения о бедности в сельской местности и новости об исключённых из Коммунистической партии чиновниках. Набор данных также содержит множество ссылок на Тайвань и военные темы, при этом китайское слово для Тайваня (台湾) встречается более 15 000 раз.

Предполагаемое использование набора данных описывается как "работа с общественным мнением", термин, который, по словам Майкла Кастера из Article 19, обычно ассоциируется с Управлением киберпространства Китая (CAC) и включает усилия по цензуре и пропаганде. Это соответствует взглядам президента Китая Си Цзиньпина, который считает интернет "передовой линией" работы Коммунистической партии с общественным мнением.

Это развитие является частью более широкой тенденции, когда авторитарные режимы используют технологии искусственного интеллекта в репрессивных целях. OpenAI недавно сообщила, что неустановленный субъект, вероятно из Китая, использовал генеративный ИИ для мониторинга социальных сетей и пересылки антиправительственных постов китайскому правительству. Та же технология использовалась для генерации критических комментариев о известной китайской диссидентке Цай Ся.

Хотя традиционные методы цензуры в Китае полагаются на базовые алгоритмы для блокировки запрещённых терминов, использование LLM представляет значительный прогресс. Эти системы ИИ способны обнаруживать даже тонкую критику в массовом масштабе и постоянно совершенствуются по мере обработки большего объёма данных.

"Я считаю важным подчеркнуть, как развивается цензура, основанная на искусственном интеллекте, делая государственный контроль над общественным дискурсом ещё более изощрённым, особенно в то время, когда китайские модели ИИ, такие как DeepSeek, вызывают волну интереса", — сказал Сяо Цян в интервью TechCrunch.