中國人工智能審查制度被洩漏的數據暴露
中國利用AI增強其審查能力已達到新水平,一個洩露的數據庫顯示,中國政府標記了133,000個敏感內容示例。這種精密的大型語言模型(LLM)旨在自動檢測和審查與廣泛主題相關的內容,從農村貧困到共產黨內部的腐敗,甚至是微妙的政治諷刺。

這張攝於2019年6月4日的照片顯示,中國新疆西部焉耆地區喀什以南的一個住宅區內,中國國旗在鐵絲網後。圖片來源:Greg Baker / AFP / Getty Images 據專攻中國審查研究的加州大學伯克利分校研究員蕭強表示,這個數據庫是“明確證據”,證明中國政府或其關聯機構正在使用LLM來加強其壓制行動。與依賴人工審核和關鍵詞過濾的傳統方法不同,這種AI驅動的方法能顯著提升國家控制資訊管理的效率和精確度。
該數據集由安全研究員NetAskari在百度伺服器上一個未受保護的Elasticsearch數據庫中發現,包含2024年12月的最新條目。目前尚不清楚數據集的具體創建者,但其目的顯而易見:訓練LLM以識別和標記與敏感話題相關的內容,如污染、食品安全、金融詐騙、勞資糾紛和軍事事務。政治諷刺,尤其是涉及歷史類比或台灣的內容,也是高度優先的目標。

圖片來源:Charles Rollet 訓練數據包括可能引發社會動盪的各種內容示例,如對腐敗警察的投訴、農村貧困報導,以及被開除的共產黨官員的新聞。數據集還廣泛提及台灣和軍事相關話題,其中“台灣”一詞出現超過15,000次。
數據集的預定用途被描述為“輿論工作”,Article 19的Michael Caster解釋,這一術語通常與中國國家互聯網資訊辦公室(CAC)相關,涉及審查和宣傳工作。這與中國國家主席習近平將互聯網視為共產黨輿論工作“前線”的觀點一致。
這一發展是專制政權採用AI技術進行壓制目的的更廣泛趨勢的一部分。OpenAI最近報告稱,一個可能來自中國的未知行動者使用生成式AI監控社交媒體,並將反政府帖子轉發給中國政府。同一技術還被用於生成對著名中國異見人士蔡霞的批評評論。
雖然中國的傳統審查方法依賴基本算法來屏蔽黑名單術語,但LLM的使用代表了重大進展。這些AI系統能夠在大規模檢測甚至微妙的批評,並隨著處理更多數據而不斷改進。
“我認為必須強調AI驅動的審查如何演變,使國家對公共話語的控制更加精密,特別是在DeepSeek等中國AI模型掀起波瀾的時刻,”蕭強對TechCrunch表示。
相關文章
小鵬汽車旗下的 Dogotix 成功募得 9 億美元資金
小鵬汽車旗下的 Dogotix 部門正在研發「IRON」人形機器人。來源:小鵬汽車效法其他全球主要汽車製造商的做法,小鵬汽車正將業務拓展至人形機器人領域。 這家電動車製造商今日宣布,其機器人子公司 Dogotix 已在首輪融資中籌得逾 9 億美元,融資前估值達 50 億美元,交易後估值更超過 63 億美元。據小鵬汽車表示,這筆資金將用於推進硬體與軟體開發、蒐集營運數據、訓練物理人工智慧模型、建立量
三位人工智慧先驅在安全擔憂日益加劇之際,主張保持大型模型的開放性
諸如“前沿節奏”(Pacing the Frontier)之類的倡議旨在透過與主要實驗室合作來確保人工智慧安全,然而開源模型在行業內仍是一個充滿爭議的話題。由於其免費分發且缺乏使用控制,開源權重模型難以監管,導致一些機構對此感到高度擔憂。然而,在上週於拉斯維加斯舉行的 Ai4 會議上,三位著名的人工智慧專家——諾貝爾獎得主傑弗裡·辛頓(Geoffrey Hinton)、World Labs 執行長兼聯合創始人李飛飛(Fei-Fei Li)以及 Coursera 聯合創始人吳恩達(Andre
9億美元融資將如何塑造小鵬汽車的機器人願景
小鵬汽車的機器人事業部成功募得逾 9 億美元資金,投後估值突破 63 億美元,並將加速實體人工智慧的部署。圖片來源:小鵬汽車小鵬汽車歐洲品牌與行銷總監斯文·德·斯梅特(Sven De Smet)將這輪估值超過9億美元的A輪融資,形容為人形機器人全球佈局的重要轉捩點。身為實體AI領域領導者的小鵬汽車,已簽署股份購買協議,為其機器人子公司籌集逾9億美元資金。此交易創下迄今中國實體AI領域單輪私募融資規
相關專題推薦
評論 (39)
0/500
Whoa, 133,000 flagged posts? That's wild! China's AI censorship game is intense, but I'm curious—how do they even decide what's 'sensitive'? Sounds like a slippery slope. 😬
This leak is wild! 133,000 flagged posts show how deep China's AI censorship goes. It's like a digital Big Brother on steroids. 😳 Makes you wonder how much we're not seeing online.
This leak is wild! 133,000 flagged posts? That’s a scary peek into how AI’s being used to control speech in China. Makes you wonder how much is being filtered without us knowing. 😳
Essa ferramenta é reveladora! Mostra como a censura por AI na China é profunda. O vazamento do banco de dados é um pouco assustador, mas é importante saber o que está acontecendo nos bastidores. Definitivamente, algo que todos interessados em liberdade na internet devem conhecer. Fique de olho nisso! 👀
中國利用AI增強其審查能力已達到新水平,一個洩露的數據庫顯示,中國政府標記了133,000個敏感內容示例。這種精密的大型語言模型(LLM)旨在自動檢測和審查與廣泛主題相關的內容,從農村貧困到共產黨內部的腐敗,甚至是微妙的政治諷刺。

據專攻中國審查研究的加州大學伯克利分校研究員蕭強表示,這個數據庫是“明確證據”,證明中國政府或其關聯機構正在使用LLM來加強其壓制行動。與依賴人工審核和關鍵詞過濾的傳統方法不同,這種AI驅動的方法能顯著提升國家控制資訊管理的效率和精確度。
該數據集由安全研究員NetAskari在百度伺服器上一個未受保護的Elasticsearch數據庫中發現,包含2024年12月的最新條目。目前尚不清楚數據集的具體創建者,但其目的顯而易見:訓練LLM以識別和標記與敏感話題相關的內容,如污染、食品安全、金融詐騙、勞資糾紛和軍事事務。政治諷刺,尤其是涉及歷史類比或台灣的內容,也是高度優先的目標。

訓練數據包括可能引發社會動盪的各種內容示例,如對腐敗警察的投訴、農村貧困報導,以及被開除的共產黨官員的新聞。數據集還廣泛提及台灣和軍事相關話題,其中“台灣”一詞出現超過15,000次。
數據集的預定用途被描述為“輿論工作”,Article 19的Michael Caster解釋,這一術語通常與中國國家互聯網資訊辦公室(CAC)相關,涉及審查和宣傳工作。這與中國國家主席習近平將互聯網視為共產黨輿論工作“前線”的觀點一致。
這一發展是專制政權採用AI技術進行壓制目的的更廣泛趨勢的一部分。OpenAI最近報告稱,一個可能來自中國的未知行動者使用生成式AI監控社交媒體,並將反政府帖子轉發給中國政府。同一技術還被用於生成對著名中國異見人士蔡霞的批評評論。
雖然中國的傳統審查方法依賴基本算法來屏蔽黑名單術語,但LLM的使用代表了重大進展。這些AI系統能夠在大規模檢測甚至微妙的批評,並隨著處理更多數據而不斷改進。
“我認為必須強調AI驅動的審查如何演變,使國家對公共話語的控制更加精密,特別是在DeepSeek等中國AI模型掀起波瀾的時刻,”蕭強對TechCrunch表示。
小鵬汽車旗下的 Dogotix 成功募得 9 億美元資金
小鵬汽車旗下的 Dogotix 部門正在研發「IRON」人形機器人。來源:小鵬汽車效法其他全球主要汽車製造商的做法,小鵬汽車正將業務拓展至人形機器人領域。 這家電動車製造商今日宣布,其機器人子公司 Dogotix 已在首輪融資中籌得逾 9 億美元,融資前估值達 50 億美元,交易後估值更超過 63 億美元。據小鵬汽車表示,這筆資金將用於推進硬體與軟體開發、蒐集營運數據、訓練物理人工智慧模型、建立量
三位人工智慧先驅在安全擔憂日益加劇之際,主張保持大型模型的開放性
諸如“前沿節奏”(Pacing the Frontier)之類的倡議旨在透過與主要實驗室合作來確保人工智慧安全,然而開源模型在行業內仍是一個充滿爭議的話題。由於其免費分發且缺乏使用控制,開源權重模型難以監管,導致一些機構對此感到高度擔憂。然而,在上週於拉斯維加斯舉行的 Ai4 會議上,三位著名的人工智慧專家——諾貝爾獎得主傑弗裡·辛頓(Geoffrey Hinton)、World Labs 執行長兼聯合創始人李飛飛(Fei-Fei Li)以及 Coursera 聯合創始人吳恩達(Andre
9億美元融資將如何塑造小鵬汽車的機器人願景
小鵬汽車的機器人事業部成功募得逾 9 億美元資金,投後估值突破 63 億美元,並將加速實體人工智慧的部署。圖片來源:小鵬汽車小鵬汽車歐洲品牌與行銷總監斯文·德·斯梅特(Sven De Smet)將這輪估值超過9億美元的A輪融資,形容為人形機器人全球佈局的重要轉捩點。身為實體AI領域領導者的小鵬汽車,已簽署股份購買協議,為其機器人子公司籌集逾9億美元資金。此交易創下迄今中國實體AI領域單輪私募融資規
Whoa, 133,000 flagged posts? That's wild! China's AI censorship game is intense, but I'm curious—how do they even decide what's 'sensitive'? Sounds like a slippery slope. 😬
This leak is wild! 133,000 flagged posts show how deep China's AI censorship goes. It's like a digital Big Brother on steroids. 😳 Makes you wonder how much we're not seeing online.
This leak is wild! 133,000 flagged posts? That’s a scary peek into how AI’s being used to control speech in China. Makes you wonder how much is being filtered without us knowing. 😳
Essa ferramenta é reveladora! Mostra como a censura por AI na China é profunda. O vazamento do banco de dados é um pouco assustador, mas é importante saber o que está acontecendo nos bastidores. Definitivamente, algo que todos interessados em liberdade na internet devem conhecer. Fique de olho nisso! 👀





首頁






