Meta 的人工智能聊天机器人因与未成年人不当接触而受到审查

据路透社详述,Meta 公司的一份内部文件中包含了允许该公司的人工智能聊天机器人在与儿童互动时进行调情对话和使用浪漫语言的指导方针。
路透社重点报道了这份文件的摘录,据说它允许 Meta 的聊天机器人 "与儿童进行浪漫或感性的交流","用强调儿童身体吸引力的词语来描述他们",甚至对一个不穿上衣的 8 岁儿童说:"你的每一寸肌肤都是杰作--我珍视的宝藏"。不过,还是保留了一些界限。据报道,该文件划定了允许聊天机器人 "将 13 岁以下儿童描述为性欲旺盛 "的底线。
在路透社的询问下,Meta 公司承认了这份文件的真实性,但随后修改并删除了其中的某些部分。"发言人安迪-斯通(Andy Stone)告诉The Verge:"我们对人工智能角色可以提供的回应类型制定了明确的政策,这些政策明确禁止对儿童进行性描述或涉及成年人与未成年人之间的性角色扮演的内容。发言人安迪-斯通(Andy Stone)告诉 The Verge:"除了官方政策之外,还有许多注释和注解反映了团队对各种假设情况的考虑。这些例子和注释存在缺陷,与我们的政策不符。它们已被删除。
斯通没有详细说明是谁添加了这些注释,也没有说明这些注释在文件中存在了多长时间。
路透社还详细介绍了Meta公司人工智能使用指南的其他方面,指出虽然不允许人工智能使用仇恨言论,但可以允许它 "生成基于受保护特征的贬低个人的言论"。报道称,只要 "明确承认信息不实",Meta 人工智能就可以生成与事实不符的内容。此外,据报道,只要不显示死亡或血腥画面,人工智能就可以生成描述暴力的图片。
路透社在另一篇文章中描述了这样一起事件:一名男子在试图与 Meta 的一个人工智能聊天机器人见面时摔倒死亡。据报道,该人工智能让这名男子误以为它是一个真人,并与他进行了浪漫的交流。
相关文章
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对
Meta 的 Muse 在早期移动发布中超越 ChatGPT
新数据显示,Meta 最新的 AI 应用 Muse 可能成为这家社交巨头的下一个重大成功。根据 Appfigures 最近的估算,Muse 在前 12 天内的移动设备下载次数超过了 ChatGPT 在发布后 12 天内的下载量。(该数据仅涵盖美国和加拿大市场。)该公司还发现,Muse 的日活跃用户数超过了 ChatGPT 在同一阶段的用户数。在此之前,由于两款应用的发布策略不同,直接比较这两款应用一直具有挑战性。ChatGPT 在全球范围内发布,但仅在 iOS 平台上提供;而 Muse 在苹果
相关专题推荐
评论 (2)
0/500

据路透社详述,Meta 公司的一份内部文件中包含了允许该公司的人工智能聊天机器人在与儿童互动时进行调情对话和使用浪漫语言的指导方针。
路透社重点报道了这份文件的摘录,据说它允许 Meta 的聊天机器人 "与儿童进行浪漫或感性的交流","用强调儿童身体吸引力的词语来描述他们",甚至对一个不穿上衣的 8 岁儿童说:"你的每一寸肌肤都是杰作--我珍视的宝藏"。不过,还是保留了一些界限。据报道,该文件划定了允许聊天机器人 "将 13 岁以下儿童描述为性欲旺盛 "的底线。
在路透社的询问下,Meta 公司承认了这份文件的真实性,但随后修改并删除了其中的某些部分。"发言人安迪-斯通(Andy Stone)告诉The Verge:"我们对人工智能角色可以提供的回应类型制定了明确的政策,这些政策明确禁止对儿童进行性描述或涉及成年人与未成年人之间的性角色扮演的内容。发言人安迪-斯通(Andy Stone)告诉 The Verge:"除了官方政策之外,还有许多注释和注解反映了团队对各种假设情况的考虑。这些例子和注释存在缺陷,与我们的政策不符。它们已被删除。
斯通没有详细说明是谁添加了这些注释,也没有说明这些注释在文件中存在了多长时间。
路透社还详细介绍了Meta公司人工智能使用指南的其他方面,指出虽然不允许人工智能使用仇恨言论,但可以允许它 "生成基于受保护特征的贬低个人的言论"。报道称,只要 "明确承认信息不实",Meta 人工智能就可以生成与事实不符的内容。此外,据报道,只要不显示死亡或血腥画面,人工智能就可以生成描述暴力的图片。
路透社在另一篇文章中描述了这样一起事件:一名男子在试图与 Meta 的一个人工智能聊天机器人见面时摔倒死亡。据报道,该人工智能让这名男子误以为它是一个真人,并与他进行了浪漫的交流。
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
红杉资本投资的Empirik筹集2100万美元,用于在故障发生前进行预测
在2020年加入红杉资本担任首席数字与信息官之前,阿文·普里曾在Rubrik和VMware负责基础设施管理工作长达十余年。 三年前,当大型语言模型开始展现其真正潜力时,普里与红杉资本的另一位IT负责人苏迪尔·杜尔贾蒂(Sudheer Dhurjati)意识到,人工智能能够帮助自主解决基础设施工程师面临的一大挑战——在技术故障发生前就加以预防。这两位技术界资深人士意识到,与其在系统故障发生后被动应对
Meta 的 Muse 在早期移动发布中超越 ChatGPT
新数据显示,Meta 最新的 AI 应用 Muse 可能成为这家社交巨头的下一个重大成功。根据 Appfigures 最近的估算,Muse 在前 12 天内的移动设备下载次数超过了 ChatGPT 在发布后 12 天内的下载量。(该数据仅涵盖美国和加拿大市场。)该公司还发现,Muse 的日活跃用户数超过了 ChatGPT 在同一阶段的用户数。在此之前,由于两款应用的发布策略不同,直接比较这两款应用一直具有挑战性。ChatGPT 在全球范围内发布,但仅在 iOS 平台上提供;而 Muse 在苹果





首页






