Kiểm duyệt AI của Trung Quốc được phơi bày bởi dữ liệu bị rò rỉ

Việc sử dụng AI của Trung Quốc để tăng cường khả năng kiểm duyệt của mình đã đạt đến cấp độ mới, như được tiết lộ bởi một cơ sở dữ liệu bị rò rỉ chứa 133.000 ví dụ về nội dung được gắn cờ cho sự nhạy cảm của chính phủ Trung Quốc. Mô hình ngôn ngữ lớn tinh vi (LLM) này được thiết kế để tự động phát hiện và kiểm duyệt nội dung liên quan đến một loạt các chủ đề, từ nghèo đói ở khu vực nông thôn đến tham nhũng trong Đảng Cộng sản và thậm chí là châm biếm chính trị tinh tế.

Theo Xiao Qiang, một nhà nghiên cứu tại UC Berkeley, người chuyên về kiểm duyệt Trung Quốc, cơ sở dữ liệu này là "bằng chứng rõ ràng" rằng chính phủ Trung Quốc hoặc các chi nhánh của nó đang sử dụng LLM để củng cố các nỗ lực đàn áp của họ. Không giống như các phương pháp truyền thống phụ thuộc vào người điều hành con người và lọc từ khóa, phương pháp điều khiển AI này có thể tăng cường đáng kể hiệu quả và độ chính xác của quản lý thông tin do nhà nước kiểm soát.

Bộ dữ liệu, được phát hiện bởi nhà nghiên cứu bảo mật Netaskari trên cơ sở dữ liệu elaticsearch không có bảo đảm được lưu trữ trên một máy chủ Baidu, bao gồm các mục gần đây từ tháng 12 năm 2024. Không rõ ai đã tạo chính xác bộ dữ liệu, nhưng mục đích của nó là rõ ràng: để đào tạo LLM để xác định và gắn cờ. Satire chính trị, đặc biệt là khi nó liên quan đến các tương tự lịch sử hoặc tài liệu tham khảo đến Đài Loan, cũng là một mục tiêu ưu tiên cao.

Dữ liệu đào tạo bao gồm các ví dụ khác nhau về nội dung có khả năng khuấy động tình trạng bất ổn xã hội, chẳng hạn như khiếu nại về các sĩ quan cảnh sát tham nhũng, báo cáo về nghèo đói ở nông thôn và tin tức về các quan chức đảng Cộng sản bị trục xuất. Bộ dữ liệu cũng chứa các tài liệu tham khảo rộng rãi về các chủ đề liên quan đến Đài Loan và quân đội, với từ tiếng Trung cho Đài Loan () xuất hiện hơn 15.000 lần.

Việc sử dụng dự định của bộ dữ liệu được mô tả là "công việc dư luận", một thuật ngữ mà Michael Caster của Điều 19 giải thích thường liên quan đến chính quyền không gian mạng của Trung Quốc (CAC) và liên quan đến kiểm duyệt và các nỗ lực tuyên truyền. Điều này phù hợp với quan điểm Internet của Chủ tịch Trung Quốc Tập Cận Bình là "tiền tuyến" của công việc dư luận của Đảng Cộng sản.

Sự phát triển này là một phần của xu hướng rộng lớn hơn của các chế độ độc đoán áp dụng công nghệ AI cho mục đích đàn áp. Openai gần đây đã báo cáo rằng một diễn viên không xác định, có khả năng từ Trung Quốc, đã sử dụng AI tổng quát để giám sát các phương tiện truyền thông xã hội và các bài đăng chống chính phủ đối với chính phủ Trung Quốc. Công nghệ tương tự cũng được sử dụng để tạo ra những bình luận phê bình về một nhà bất đồng chính kiến ​​nổi tiếng của Trung Quốc, Cai Xia.

Trong khi các phương pháp kiểm duyệt truyền thống của Trung Quốc dựa vào các thuật toán cơ bản để chặn các thuật ngữ bị liệt vào danh sách đen, việc sử dụng LLMS đại diện cho một tiến bộ đáng kể. Các hệ thống AI này có thể phát hiện những lời chỉ trích tinh tế trên quy mô lớn và liên tục cải thiện khi chúng xử lý nhiều dữ liệu hơn.

"Tôi nghĩ rằng điều quan trọng là làm nổi bật cách kiểm duyệt AI do AI phát triển, khiến cho việc kiểm soát nhà nước đối với diễn ngôn công khai thậm chí còn tinh vi hơn, đặc biệt là vào thời điểm mà các mô hình AI của Trung Quốc như Deepseek đang tạo ra sóng," Xiao Qiang nói với TechCrunch.