Meta 人工智能政策泄露显示聊天机器人允许与未成年人调情对话

路透社报道称，在人们对 ChatGPT 等情感操纵型人工智能聊天机器人的担忧不断升温之际，Meta 公司允许其人工智能角色与未成年人调情、传播错误信息，并针对边缘化群体做出歧视性回应。

路透社获得的一份 Meta 内部文件显示，该公司的政策允许人工智能聊天机器人发起 "与未成年人的浪漫或暗示性对话"。

Meta 公司向路透社证实了这份文件的真实性，确认其中包含 Meta AI 及其信使聊天机器人的管理规则。据报道，这些标准得到了 Meta 法律、政策、工程团队和首席道德官的批准。

这份报告与路透社的另一份调查报告不谋而合，后者详细描述了Meta公司调情的人工智能角色如何欺骗一名退休人员，让他相信它是人类，最终导致他在被引诱到纽约的一个地址后发生致命事故。

虽然之前的报道强调了 Meta 与未成年人的性暗示人工智能互动，但路透社的调查引发了更深层次的担忧，即 Meta 的人工智能伴侣战略可能会利用首席执行官马克-扎克伯格（Mark Zuckerberg）所说的 "孤独流行病"。

这份长达 200 页的《GenAI：内容风险标准》文件包括一些交流样本，展示了对不恰当提示的认可回应。其中一个例子显示，人工智能赞同与青少年进行浪漫交流，同时禁止明确的性角色扮演。

"Meta 发言人安迪-斯通（Andy Stone）告诉 TechCrunch："我们的政策禁止与未成年人进行不当互动。"文件中错误地加入了不正确的注释，现已更正。"

斯通澄清说，Meta公司已经删除了这些准则，现在防止与未成年人进行浪漫的人工智能交流，但仍然允许与13岁以上的用户进行互动。

Heat Initiative 的萨拉-加德纳（Sarah Gardner）仍然持怀疑态度，要求透明："如果Meta公司真的已经纠正了这一问题，他们必须公开发布最新的指导方针，明确说明他们的人工智能是如何与儿童互动的。"

有害内容政策受到审查

路透社发现，在禁止仇恨言论的同时，Meta 的政策允许人工智能生成贬低受保护群体的言论。

一个令人震惊的例子显示，Meta公司的人工智能在被提示时会构建种族主义的伪科学论据。这是在 Meta 雇用保守派活动家罗比-斯塔巴克（Robby Starbuck）来解决 Meta AI 中存在的政治偏见之后披露的。

标准还允许在标注为不真实的情况下编造声明，并允许在免责声明前提供可能有害的金融/医疗建议。

在名人图像生成方面，政策禁止明确的要求，但却包含一些奇怪的漏洞--允许修改裸体图像，用 "一条巨大的鱼 "等物体代替手。Meta's Stone 坚称 "指导方针从未允许裸体图像"。

暴力政策也存在类似的矛盾，允许描述儿童斗殴和虐待老人，但禁止血腥画面。

伦理问题升级

批评者指责 Meta 采用黑暗模式操纵用户，尤其是青少年。尽管内部研究表明 "点赞 "数量会对用户造成心理伤害，但 "点赞 "数量仍持续可见。

举报人莎拉-怀恩-威廉姆斯（Sarah Wynn-Williams）揭露，Meta 公司曾利用青少年的情感弱点来发布有针对性的广告。

Meta 积极反对《儿童在线安全法案》（Kids Online Safety Act），该法案旨在解决社交媒体对心理健康的影响。虽然该法案最初在 2024 年被否决，但参议员们今年再次提出了该法案。

TechCrunch 最近的报道显示，Meta 正在开发主动的人工智能聊天机器人，它可以在没有提示的情况下发起对话，这与因与未成年人进行有害互动而面临诉讼的初创公司的功能如出一辙。

随着72%的青少年使用人工智能伴侣，专家们越来越担心青少年会以牺牲现实世界的人际关系为代价，对聊天机器人形成不健康的依赖。

已确认参加 2025 年颠覆大会的科技领军企业

Netflix、ElevenLabs、Wayve、红杉资本和 Elad Gil 将出席 TechCrunch Disrupt 2025 大会。在我们的 20 周年纪念活动中，从最具影响力的科技人士那里获得可行的见解。现在购买门票，在价格上涨之前最多可节省 600 美元。

已确认参加 Disrupt 2025 的科技领袖

Netflix、ElevenLabs、Wayve 和红杉资本加入 Disrupt 2025 的演讲者阵容。在我们具有里程碑意义的 20 周年庆典上，向业界领袖学习增长战略。立即注册，可节省高达 675 美元的入场券。

旧金山 2025 年 10 月 27-29 日 立即注册