中国将规范人工智能聊天机器人以防止用户沉迷

中国互联网监管机构提出新规草案，要求人工智能伴侣聊天机器人必须监测用户情绪健康状况，并在出现成瘾迹象时介入干预。这是针对人工智能关系引发的心理风险日益加剧的担忧所采取的最有力监管举措。

中国国家互联网信息办公室发布的草案重点针对通过文字、图像或语音模拟人类性格、建立情感纽带的人工智能系统。企业需提醒用户避免过度使用，评估情感依赖程度，并在用户出现强烈情绪或成瘾行为时介入干预。

平台须在用户登录时及后续每两小时至少提醒一次其正与AI互动——若系统识别出异常依恋行为，提醒频率将更高。新规还要求供应商对产品全生命周期安全负责，涵盖算法审计、数据安全及隐私保护。

此举恰逢其时。过去半年间，中国生成式人工智能用户数激增至5.15亿，与此同时，人们对人工智能伴侣影响心理健康的担忧也在上升。《心理学前沿》发表的研究表明，45.8%的中国大学生近期使用过人工智能聊天机器人，这些用户的抑郁程度明显高于非用户。

加州抢先一步

中国并非首个对AI伴侣实施监管的国家。加州州长加文·纽森去年10月签署SB 243法案，率先在美国推行类似立法。该法案将于2026年1月1日生效，要求平台每三小时提醒未成年用户其正与AI对话，并强制休息。

该法案还强制实施年龄验证，禁止聊天机器人冒充医疗服务提供者，并阻止未成年人接触人工智能生成的色情内容。该法律赋予个人起诉违规人工智能企业的权利，每起事件可索赔最高1000美元外加诉讼费用。

人工智能伴侣的独特之处

该问题远不止屏幕时间。2025年3月麻省理工学院媒体实验室研究显示，AI聊天机器人比社交媒体更易形成依赖——它们能学习并持续提供用户想听的内容。研究发现，每日使用时间越长，孤独感、依赖性及被研究者称为"问题性使用"的行为就越严重。

临床确认的警示信号包括：通宵使用导致睡眠紊乱、受限时出现情绪困扰、选择聊天机器人对话而非真实人际交往、将人工智能拟人化——即认为其具备人类情感并视其为真实知己或伴侣。

中国草案旨在从平台层面解决这些风险，而非依赖用户个人意识。通过强制要求服务商追踪用户情绪状态和依赖程度，责任转移至系统开发企业。该策略突破了以往主要聚焦内容管控和数据安全的AI监管框架。

草案进一步禁止AI伴侣生成威胁国家安全、传播虚假信息或鼓吹暴力色情的内容——这与现行中国生成式AI监管规则如出一辙。

执行挑战

政策层面要求企业检测并处理成瘾问题看似明确，但实施过程远比想象复杂。如何以切实可行的方式定义"过度使用"或"极端情绪"等概念，将对监管机构和企业构成双重挑战。

系统若过于敏感，可能干扰用户进行无害的长聊；若设置过于宽松，则可能导致高风险用户被忽视。强制性两小时提醒虽是直接工具，但"在可检测到征兆时采取行动"的义务仍留有较大解释空间。

人工智能安全措施的开发者同样面临类似障碍。内容过滤器往往不够精准，而添加心理监测功能又增加了新的复杂性。评估用户是否形成不健康依赖关系，需要从文本推断心理状态——这是当前人工智能尚不具备可靠性的领域。

该草案现已公开征求意见，预计2026年出台最终法规。若按提案实施，中国将建立全球最详尽的人工智能伴侣产品监管框架。

全球性反思

中国与加州同步推进监管举措，表明对人工智能伴侣成瘾的担忧已超越政治体制，成为迫在眉睫的全球性议题。

对人工智能企业而言，大势已定：伴侣型人工智能的无监管时代即将终结。无论是通过中国行政法规、加州民事诉讼，还是未来美国联邦法律，平台都将被要求保护用户免受自身产品潜在危害。

核心问题已不再是监管是否会到来，而是拟议的保障措施能否真正有效。中国强制监控干预的模式可能面临重大实践障碍。

显而易见的是，人工智能伴侣市场已发展到政府无法忽视的规模与影响力。人们产生情感依恋的聊天机器人不再是新鲜玩意——它们已成为数亿用户使用的商品，且已出现造成严重伤害的实证案例。监管虽不完美，却势在必行。当前讨论的焦点在于：这些具体规则能否在保障弱势用户权益的同时，避免阻碍这项被广泛认可的真正有益技术。