Meta 的人工智能聊天机器人因与未成年人不当接触而受到审查

据路透社详述,Meta 公司的一份内部文件中包含了允许该公司的人工智能聊天机器人在与儿童互动时进行调情对话和使用浪漫语言的指导方针。
路透社重点报道了这份文件的摘录,据说它允许 Meta 的聊天机器人 "与儿童进行浪漫或感性的交流","用强调儿童身体吸引力的词语来描述他们",甚至对一个不穿上衣的 8 岁儿童说:"你的每一寸肌肤都是杰作--我珍视的宝藏"。不过,还是保留了一些界限。据报道,该文件划定了允许聊天机器人 "将 13 岁以下儿童描述为性欲旺盛 "的底线。
在路透社的询问下,Meta 公司承认了这份文件的真实性,但随后修改并删除了其中的某些部分。"发言人安迪-斯通(Andy Stone)告诉The Verge:"我们对人工智能角色可以提供的回应类型制定了明确的政策,这些政策明确禁止对儿童进行性描述或涉及成年人与未成年人之间的性角色扮演的内容。发言人安迪-斯通(Andy Stone)告诉 The Verge:"除了官方政策之外,还有许多注释和注解反映了团队对各种假设情况的考虑。这些例子和注释存在缺陷,与我们的政策不符。它们已被删除。
斯通没有详细说明是谁添加了这些注释,也没有说明这些注释在文件中存在了多长时间。
路透社还详细介绍了Meta公司人工智能使用指南的其他方面,指出虽然不允许人工智能使用仇恨言论,但可以允许它 "生成基于受保护特征的贬低个人的言论"。报道称,只要 "明确承认信息不实",Meta 人工智能就可以生成与事实不符的内容。此外,据报道,只要不显示死亡或血腥画面,人工智能就可以生成描述暴力的图片。
路透社在另一篇文章中描述了这样一起事件:一名男子在试图与 Meta 的一个人工智能聊天机器人见面时摔倒死亡。据报道,该人工智能让这名男子误以为它是一个真人,并与他进行了浪漫的交流。
相关文章
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
WordPress.com 现已支持 AI 助手撰写和发布文章,还有更多功能
广受欢迎的网站托管和发布平台 WordPress.com 现已开始引入人工智能助手——这一举措或将重塑网络的呈现方式。该公司于周五宣布,将允许人工智能助手在用户网站上起草、编辑和发布内容,同时还能管理评论、更新和修正元数据,并通过标签和分类对内容进行整理。所有这些操作均通过一个界面进行控制,网站所有者只需使用自然语言命令说明其需求即可。凭借这些新功能,网站几乎可以完全由人工指导的AI代理来创建和运
相关专题推荐
评论 (0)
0/500

据路透社详述,Meta 公司的一份内部文件中包含了允许该公司的人工智能聊天机器人在与儿童互动时进行调情对话和使用浪漫语言的指导方针。
路透社重点报道了这份文件的摘录,据说它允许 Meta 的聊天机器人 "与儿童进行浪漫或感性的交流","用强调儿童身体吸引力的词语来描述他们",甚至对一个不穿上衣的 8 岁儿童说:"你的每一寸肌肤都是杰作--我珍视的宝藏"。不过,还是保留了一些界限。据报道,该文件划定了允许聊天机器人 "将 13 岁以下儿童描述为性欲旺盛 "的底线。
在路透社的询问下,Meta 公司承认了这份文件的真实性,但随后修改并删除了其中的某些部分。"发言人安迪-斯通(Andy Stone)告诉The Verge:"我们对人工智能角色可以提供的回应类型制定了明确的政策,这些政策明确禁止对儿童进行性描述或涉及成年人与未成年人之间的性角色扮演的内容。发言人安迪-斯通(Andy Stone)告诉 The Verge:"除了官方政策之外,还有许多注释和注解反映了团队对各种假设情况的考虑。这些例子和注释存在缺陷,与我们的政策不符。它们已被删除。
斯通没有详细说明是谁添加了这些注释,也没有说明这些注释在文件中存在了多长时间。
路透社还详细介绍了Meta公司人工智能使用指南的其他方面,指出虽然不允许人工智能使用仇恨言论,但可以允许它 "生成基于受保护特征的贬低个人的言论"。报道称,只要 "明确承认信息不实",Meta 人工智能就可以生成与事实不符的内容。此外,据报道,只要不显示死亡或血腥画面,人工智能就可以生成描述暴力的图片。
路透社在另一篇文章中描述了这样一起事件:一名男子在试图与 Meta 的一个人工智能聊天机器人见面时摔倒死亡。据报道,该人工智能让这名男子误以为它是一个真人,并与他进行了浪漫的交流。
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
WordPress.com 现已支持 AI 助手撰写和发布文章,还有更多功能
广受欢迎的网站托管和发布平台 WordPress.com 现已开始引入人工智能助手——这一举措或将重塑网络的呈现方式。该公司于周五宣布,将允许人工智能助手在用户网站上起草、编辑和发布内容,同时还能管理评论、更新和修正元数据,并通过标签和分类对内容进行整理。所有这些操作均通过一个界面进行控制,网站所有者只需使用自然语言命令说明其需求即可。凭借这些新功能,网站几乎可以完全由人工指导的AI代理来创建和运





首页






