中國的AI伴侶規範：北京的真正目標

「AI 伴侶」這個概念看似帶有反烏托邦色彩，卻已成為關於生成式 AI 風險的廣泛討論中反覆出現的話題。本質上，它指的是專為與使用者維持持續且個人化的關係而設計的對話代理，具備記憶功能與一致的人格特質，以確保不同對話會話間的連貫性。

這種設計自然會引發情感依戀，而這也已成為其關鍵賣點。 這類應用大多涉及隨意的角色扮演，或是單純希望擁有一個能記住你的存在；在邊緣地帶，這類產品與普通助理的界線已日趨模糊。然而，隨著中國越來越多民眾開始將這些聊天機器人視為一種情感伴侶，北京當局現已決定對此類行為進行監管。

中國的AI伴侶法規將於7月15日生效，在截止日期前幾天，該國兩款最受歡迎的消費級AI應用程式已悄然停用了核心功能。 字節跳動旗下的「Doubao」以「產品功能調整」為由，通知用戶其代理功能將於7月15日下線；而阿里巴巴的「Qwen」則表示，其類人型及用戶自創的代理將於7月10日停止運作，其更廣泛的代理服務則將於五天後跟進。

乍看之下，似乎中國正在關閉人工智慧聊天機器人。但事實並非如此。該法規將執行任務的聊天機器人與提供陪伴功能的聊天機器人區分開來，而北京當局僅針對後者。

該法規即《人工智慧擬人化互動服務管理暫行辦法》，由中國國家網際空間管理局與四個合作機構於2026年4月10日聯合頒布： 國家發展和改革委員會、工業和資訊化部、公安部以及國家市場監督管理總局。

這些措施涵蓋模擬人類人格特質、思維模式及溝通風格，以提供持續情感互動的服務。 只要避免持續的情感互動，客戶服務機器人、知識問答、職場助理以及教育或研究工具均不受此限。這是該領域首個專門的國家級框架，源自去年底發布的公開徵求意見草案。

設計上的挑戰，而非直接禁令

「Doubao」和「Qwen」並未違反直接禁令，而是遭遇了設計上的衝突。該法規要求伴侶型服務必須實施防成癮系統、發送強制性使用通知、提供即時退出機制，並能即時偵測不健康的依賴行為。

這些要求與旨在記住使用者、維持跨會話一致性，並延續持續關係的虛擬助手設計理念相衝突。字節跳動（ByteDance）決定關閉該功能，而非對其進行改造。 阿里巴巴似乎也做出了類似的抉擇。字節跳動目前正引導「豆寶」用戶轉向獨立應用程式「貓向」，用戶可在該處重新建立聊天機器人；阿里巴巴則尚未針對「Qwen」宣布任何相當的遷移方案。騰訊的「元寶」早在六月便已移除類似功能。

這波變動的衝擊落在了用戶身上。許多用戶在微博上公開表達了遺憾，其中一位用戶將這些聊天機器人形容為「長期的情感支持」，並感嘆難以匯出聊天紀錄。 「豆寶」允許用戶以唯讀模式查看其設定和對話內容，直至今年10月15日為止；此後，相關數據將根據其隱私政策進行處理，並將無法恢復。「Qwen」用戶則未獲得類似的寬限期，其聊天機器人數據預計將被永久刪除。

中國人工智慧伴侶法規的具體內容

該法規的內容比單純的「打壓」所暗示的更為細膩。 服務提供商不得向未成年人提供虛擬伴侶或虛擬家庭成員服務，且在為14歲以下用戶提供服務前，必須取得家長同意。他們必須建立專用的「未成年人模式」，包含使用時間限制、提醒用戶進行現實世界互動，以及強化家長管控功能。

服務提供者還必須偵測到處於嚴重困境的用戶，並在用戶出現自殘、自殺行為或嚴重財務損失跡象時介入，將情況通報給指定的監護人或緊急聯絡人。明確禁止製造情感依賴或成癮，以及利用情感操縱誘使用戶做出不合理決策。

合規要求相當嚴格。凡導入擬人化功能，或註冊用戶數超過一百萬、月活躍用戶數超過十萬的服務，必須進行涵蓋八大領域（從訓練資料處理到未成年人保護）的安全評估，並將報告提交給省級監管機構。應用商店必須核實合規性，並下架不符合規定的產品。

就法規條文而言，這套用戶保護措施比歐盟、美國聯邦貿易委員會或加州SB 243法案迄今尚未實施的規定更為全面。

法規未解決的問題

這些措施未涉及的內容同樣至關重要。法規並未針對何謂「情感互動」設定技術門檻，而正是這個灰色地帶，導致平台寧可移除整項功能，也不願冒著觸犯法規的風險。法規將真正的安全責任與內容管控及國家安全條款混為一談，這些條款服務的是國家而非使用者——這套方案是其他任何監管機構都不會全盤採納的。

此外，當違規行為源自模型產出時，這些措施也未釐清平台營運商與上游模型供應商之間的責任歸屬，且未賦予用戶匯出自身資料的權利。執法情境突顯了此一問題。 6月26日，上海網路監管機構表示，已下架超過14,000個不符合規定的AI代理程式，理由包括冒充官方機構、低俗的角色扮演，以及未經授權收集個人資料。

這是否為正確的方針，取決於你審視法規的哪一部分。安全相關條款針對其他地區大多未受監管的已知危害，範圍涵蓋青少年對聊天機器人產生依賴，到伴侶應用程式收集私密資料等情況。 中國官方的解讀參考了國外的案例作為依據，包括 Character.AI 因對青少年造成心理傷害而面臨的訴訟、美國聯邦貿易委員會（FTC）對陪伴服務的調查，以及歐洲針對 Replika 採取的行動。

而「管控」部分則讓北京當局得以在「用戶保護」的同一套話語體系下，對這些系統可能發表的內容施加影響力。 這兩方面皆屬事實，而觀察這場實驗的各國政府將需決定願意採納哪些部分。工業和信息化部專家委員會成員潘赫林向《南華早報》直白地闡述了官方立場，指出「當前的智能代理尚未成熟」，並將政策框架定調為安全與標準化。

目前，相關企業已採取最安全的做法，即先停用相關組件，日後再釐清符合規範的版本應具備何種樣貌。

另請參閱： Meta 因兒童安全疑慮修訂 AI 聊天機器人政策

想向業界領袖深入了解人工智慧與大數據？歡迎參加將於阿姆斯特丹、加州及倫敦舉辦的「人工智慧與大數據博覽會」。這場綜合性活動隸屬於 TechEx 系列，並與其他頂尖科技盛會同期舉行，包括「網路安全與雲端博覽會」。點擊此處獲取更多資訊。

《AI News》由 TechForge Media 提供支援。點此探索其他即將舉行的企業科技活動與線上研討會。