Kiểm duyệt AI của Trung Quốc được phơi bày bởi dữ liệu bị rò rỉ

Việc Trung Quốc sử dụng AI để nâng cao khả năng kiểm duyệt của mình đã đạt đến một cấp độ mới, như được tiết lộ bởi một cơ sở dữ liệu bị rò rỉ chứa 133.000 ví dụ về nội dung bị chính phủ Trung Quốc gắn cờ vì tính nhạy cảm. Mô hình ngôn ngữ lớn (LLM) tinh vi này được thiết kế để tự động phát hiện và kiểm duyệt nội dung liên quan đến nhiều chủ đề khác nhau, từ nghèo đói ở khu vực nông thôn đến tham nhũng trong Đảng Cộng sản và thậm chí cả những câu chuyện châm biếm chính trị tinh tế.

Theo Xiao Qiang, một nhà nghiên cứu tại UC Berkeley chuyên về kiểm duyệt ở Trung Quốc, cơ sở dữ liệu này là "bằng chứng rõ ràng" rằng chính phủ Trung Quốc hoặc các tổ chức liên quan đang sử dụng LLM để tăng cường nỗ lực đàn áp của họ. Không giống như các phương pháp truyền thống phụ thuộc vào người kiểm duyệt và lọc từ khóa, cách tiếp cận dựa trên AI này có thể nâng cao đáng kể hiệu quả và độ chính xác của việc quản lý thông tin do nhà nước kiểm soát.

Bộ dữ liệu, được nhà nghiên cứu bảo mật NetAskari phát hiện trên một cơ sở dữ liệu Elasticsearch không được bảo mật lưu trữ trên máy chủ Baidu, bao gồm các mục nhập gần đây từ tháng 12 năm 2024. Không rõ ai chính xác đã tạo ra bộ dữ liệu này, nhưng mục đích của nó rất rõ ràng: để huấn luyện một LLM xác định và gắn cờ nội dung liên quan đến các chủ đề nhạy cảm như ô nhiễm, an toàn thực phẩm, gian lận tài chính, tranh chấp lao động và các vấn đề quân sự. Châm biếm chính trị, đặc biệt khi liên quan đến các so sánh lịch sử hoặc nhắc đến Đài Loan, cũng là mục tiêu ưu tiên cao.

Dữ liệu huấn luyện bao gồm nhiều ví dụ về nội dung có thể gây bất ổn xã hội, chẳng hạn như các khiếu nại về cảnh sát tham nhũng, báo cáo về nghèo đói ở nông thôn và tin tức về các quan chức Đảng Cộng sản bị trục xuất. Bộ dữ liệu cũng chứa nhiều tham chiếu đến Đài Loan và các chủ đề liên quan đến quân sự, với từ tiếng Trung cho Đài Loan (台湾) xuất hiện hơn 15.000 lần.

Mục đích sử dụng của bộ dữ liệu được mô tả là "công tác dư luận," một thuật ngữ mà Michael Caster của Article 19 giải thích thường được liên kết với Cục Quản lý Không gian mạng Trung Quốc (CAC) và liên quan đến các nỗ lực kiểm duyệt và tuyên truyền. Điều này phù hợp với quan điểm của Chủ tịch Trung Quốc Tập Cận Bình về internet như là "mặt trận" của công tác dư luận của Đảng Cộng sản.

Sự phát triển này là một phần của xu hướng rộng lớn hơn khi các chế độ độc tài áp dụng công nghệ AI cho các mục đích đàn áp. OpenAI gần đây báo cáo rằng một tác nhân không xác định, có khả năng từ Trung Quốc, đã sử dụng AI tạo sinh để giám sát mạng xã hội và chuyển tiếp các bài đăng chống chính phủ cho chính phủ Trung Quốc. Công nghệ này cũng được sử dụng để tạo ra các bình luận chỉ trích về một nhà bất đồng chính kiến nổi tiếng của Trung Quốc, Cai Xia.

Trong khi các phương pháp kiểm duyệt truyền thống của Trung Quốc dựa vào các thuật toán cơ bản để chặn các thuật ngữ bị liệt vào danh sách đen, việc sử dụng LLM đại diện cho một bước tiến đáng kể. Những hệ thống AI này có thể phát hiện cả những lời chỉ trích tinh tế trên quy mô lớn và liên tục cải thiện khi chúng xử lý thêm dữ liệu.

"Tôi nghĩ điều quan trọng là phải nhấn mạnh cách kiểm duyệt dựa trên AI đang phát triển, khiến việc kiểm soát của nhà nước đối với diễn ngôn công cộng trở nên tinh vi hơn, đặc biệt là vào thời điểm các mô hình AI Trung Quốc như DeepSeek đang tạo ra sóng gió," Xiao Qiang nói với TechCrunch.