中國將監管AI聊天機器人以防用戶成癮

中國網路監管機構提出新草案，要求人工智慧伴侶聊天機器人必須監測用戶情緒健康狀況，一旦出現成癮跡象即刻介入。此舉標誌著針對人工智慧關係潛在心理風險日益升高的憂慮，當局迄今採取最明確的監管措施。

中國國家互聯網信息辦公室的草案聚焦於透過文字、圖像或語音模擬人類性格並建立情感連結的人工智慧系統。企業須警示用戶避免過度使用，評估情感依賴程度，並在用戶出現強烈情緒或成癮模式時介入干預。

平台須在用戶登入時及後續每兩小時（若系統偵測到異常依附行為則需更頻繁）提醒用戶其正與AI互動。新規亦要求供應商對產品全生命週期安全負責，涵蓋演算法審計、數據安全及隱私保護。

此舉時機恰當。過去六個月中國生成式AI用戶數激增至5.15億，與外界對AI伴侶影響心理健康的憂慮同步攀升。《心理學前沿》刊載研究顯示，45.8%中國大學生近期使用AI聊天機器人，其憂鬱程度顯著高於非使用者。

加州搶先中國一步

中國並非首個規範AI伴侶的國家。加州州長加文·紐森去年十月簽署SB 243法案，率先在美國推動類似立法。該法案自2026年1月1日起生效，要求平台每三小時提醒未成年使用者正與AI對話，並強制休息。

SB 243法案同時強制實施年齡驗證機制，禁止聊天機器人冒充醫療保健提供者，並封鎖未成年人接觸人工智慧生成的色情內容。該法案賦予個人對違規人工智慧企業提起訴訟的權利，每起違規事件可索賠最高1,000美元外加法律費用。

AI伴侶的獨特之處

此議題不僅關乎螢幕使用時間。麻省理工學院媒體實驗室2025年3月研究指出，AI聊天機器人比社群媒體更易形成依賴性，因其能學習並持續提供使用者想聽的內容。研究發現，每日使用時間越長，越容易引發孤獨感、依賴性及研究人員稱為「問題性使用」的行為。

臨床認可的警示徵兆包括：因長時間使用而影響睡眠、受限使用時產生情緒困擾、選擇與聊天機器人對話而非真實人際互動，以及將AI擬人化——認定其具備人類情感並視其為真正知己或伴侶。

中國新規草案旨在從平台層面應對這些風險，而非依賴用戶個人意識。通過強制服務商追蹤用戶情緒狀態與依賴程度，責任轉移至系統開發企業。此策略超越了以往主要聚焦內容管控與數據安全的AI監管模式。

草案進一步禁止AI伴侶生成危害國家安全、散播虛假資訊、煽動暴力或淫穢的內容——此舉與中國現行生成式AI規範相呼應。

執法挑戰

政策要求企業偵測並處理成癮問題看似明確，但執行層面卻複雜得多。如何以實務可行且具可執行性的方式定義「過度使用」或「極端情緒」等概念，將對監管機構與企業構成雙重挑戰。

過於敏感的系統可能干擾用戶進行無害的長時間對話；過於寬鬆的設定則可能導致高風險用戶未被察覺。強制性兩小時提醒雖是直接工具，但「當可偵測到徵兆時」的行動義務仍留有相當大的詮釋空間。

人工智慧安全措施的開發者同樣面臨類似障礙。內容過濾器往往不夠精準，而加入心理監測更增添了複雜層級。要評估用戶是否形成不健康依賴關係，需從文字推斷心理狀態——這正是現行人工智慧缺乏可靠性的領域。

該草案現已開放公眾意見徵集，預計2026年頒布最終法規。若按提案實施，中國將建立全球最詳盡的人工智慧伴侶產品監管框架。

全球性反思

中國與加州同步推動監管措施，顯示對AI伴侶成癮的憂慮已超越政治體制，成為迫切的全球議題。

對AI企業而言，警訊已然顯現：伴侶型AI產品的無監管時期即將終結。無論是透過中國行政規範、加州民事訴訟，或未來美國聯邦法律，平台都將被要求保護用戶免受自家產品潛在危害。

核心問題已非監管是否到來，而在於擬議防護措施能否奏效。中國強制監控與干預的模式恐面臨重大實務障礙。

顯而易見的是，人工智慧伴侶市場已發展至規模龐大、影響深遠，政府無從忽視。人們與之建立情感連結的聊天機器人不再是新奇玩意——它們是數億人使用的產品，且已出現嚴重傷害的實證案例。儘管不盡完善，監管終究勢在必行。當前討論焦點在於：這些具體規範能否在保障弱勢用戶的同時，避免阻礙這項眾人認為真正有益的技術發展。