Meta 推出新的 AI 内容监管系统,同时减少对第三方供应商的依赖
Meta周四宣布,该公司已开始部署更先进的人工智能系统用于内容审核,旨在减少对外部供应商的依赖。这些系统将处理诸如识别和删除与恐怖主义、儿童色情、毒品、欺诈及诈骗相关的内容等任务。
该公司表示,一旦这些先进的人工智能工具在表现上持续优于现有的内容审核方法,便将将其整合到旗下各款应用中。与此同时,Meta计划减少在这些审核任务上对第三方供应商的依赖。
“虽然人工审核员仍将是该流程的一部分,但这些系统将负责更适合由技术处理的任务,例如对血腥内容的重复审核,或是恶意行为者经常调整其策略的领域,如非法毒品销售或诈骗,”Meta在一篇博客文章中解释道。
Meta坚称,这些AI系统能够以更高的准确率检测更多违规行为,更有效地防范诈骗,更迅速地应对现实世界中的事件,并减少过度执法。
对这些AI系统的早期测试显示了令人鼓舞的结果:在检测违规的成人性招揽内容方面,其检测数量是人工审核团队的两倍,同时将错误率降低了60%以上。 该系统还能识别并阻止更多冒充名人及其他公众人物的账号,并通过检测来自新位置的登录、密码更改或个人资料编辑等信号,帮助阻止账号被劫持。
此外,Meta表示,这些系统每天可识别并遏制约5,000起诈骗企图,此类诈骗中,诈骗者试图诱骗用户泄露登录凭据。
“专家将负责设计、训练、监督和评估我们的AI系统,衡量系统性能并做出最复杂、影响最大的决策,”Meta在博客文章中写道。“例如,在做出风险最高、最关键的决策时,人类将继续发挥关键作用,例如处理账户停用申诉或向执法部门报案。”

此举紧随Meta过去一年来逐步放宽内容审核规则的步伐,恰逢唐纳德·特朗普总统重返白宫。 去年,该公司终止了第三方事实核查计划,转而采用与X平台类似的“社区注释”(Community Notes)模式。此外,该公司还放宽了对“属于主流讨论范畴的话题”的限制,并鼓励用户对政治内容采取“个性化”处理方式。
这一变化发生之际,Meta及其他主要科技公司正面临多起诉讼,这些诉讼旨在追究社交媒体平台对儿童和年轻用户造成伤害的责任。
Meta 还于周四宣布推出 Meta AI 客服助手,为用户提供全天候支持服务。该助手正在全球范围内向 iOS 和 Android 版本的 Facebook 及 Instagram 应用推出,同时也面向桌面端用户的 Facebook 和 Instagram 帮助中心提供服务。
相关文章
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
马克·扎克伯格真的相信人工智能是面向每个人的吗?
正在加载播放器…Meta 本周推出了 Glimmer,这是一个开源权重的 AI 模型,任何人都可以下载并在个人硬件上运行——这与该公司更强大的模型 Muse Spark 形成了鲜明对比,后者仍锁定在其自有 API 之后。此次发布伴随着马克·扎克伯格(Mark Zuckerberg)的一封公开信,他在信中主张人工智能应向所有人开放,而非由少数几家实验室控制。但正如 Equity 节目主持人所指出的那样,这一愿景附带了几个重要的限制条件。在本期 TechCrunch 的 Equity 播客中,K
Facebook推出面向创作者的AI辅助应用
Facebook周三透露,该公司正将“创作者工作室”(Creator Studio)转型为一款专用的AI辅助应用,以帮助创作者扩大在该平台上的影响力。通过提供这款由人工智能驱动的工具,Meta 旨在在 TikTok 和 YouTube 的激烈竞争中留住 Facebook 上的创作者。该公司还希望该应用能减少对 ChatGPT 等外部工具在内容构思和表现分析方面的依赖。该新应用目前正面向部分创作者进
相关专题推荐
评论 (0)
0/500
Meta周四宣布,该公司已开始部署更先进的人工智能系统用于内容审核,旨在减少对外部供应商的依赖。这些系统将处理诸如识别和删除与恐怖主义、儿童色情、毒品、欺诈及诈骗相关的内容等任务。
该公司表示,一旦这些先进的人工智能工具在表现上持续优于现有的内容审核方法,便将将其整合到旗下各款应用中。与此同时,Meta计划减少在这些审核任务上对第三方供应商的依赖。
“虽然人工审核员仍将是该流程的一部分,但这些系统将负责更适合由技术处理的任务,例如对血腥内容的重复审核,或是恶意行为者经常调整其策略的领域,如非法毒品销售或诈骗,”Meta在一篇博客文章中解释道。
Meta坚称,这些AI系统能够以更高的准确率检测更多违规行为,更有效地防范诈骗,更迅速地应对现实世界中的事件,并减少过度执法。
对这些AI系统的早期测试显示了令人鼓舞的结果:在检测违规的成人性招揽内容方面,其检测数量是人工审核团队的两倍,同时将错误率降低了60%以上。 该系统还能识别并阻止更多冒充名人及其他公众人物的账号,并通过检测来自新位置的登录、密码更改或个人资料编辑等信号,帮助阻止账号被劫持。
此外,Meta表示,这些系统每天可识别并遏制约5,000起诈骗企图,此类诈骗中,诈骗者试图诱骗用户泄露登录凭据。
“专家将负责设计、训练、监督和评估我们的AI系统,衡量系统性能并做出最复杂、影响最大的决策,”Meta在博客文章中写道。“例如,在做出风险最高、最关键的决策时,人类将继续发挥关键作用,例如处理账户停用申诉或向执法部门报案。”

此举紧随Meta过去一年来逐步放宽内容审核规则的步伐,恰逢唐纳德·特朗普总统重返白宫。 去年,该公司终止了第三方事实核查计划,转而采用与X平台类似的“社区注释”(Community Notes)模式。此外,该公司还放宽了对“属于主流讨论范畴的话题”的限制,并鼓励用户对政治内容采取“个性化”处理方式。
这一变化发生之际,Meta及其他主要科技公司正面临多起诉讼,这些诉讼旨在追究社交媒体平台对儿童和年轻用户造成伤害的责任。
Meta 还于周四宣布推出 Meta AI 客服助手,为用户提供全天候支持服务。该助手正在全球范围内向 iOS 和 Android 版本的 Facebook 及 Instagram 应用推出,同时也面向桌面端用户的 Facebook 和 Instagram 帮助中心提供服务。
Frontier AI Labs 拒绝透露针对失控模型的遏制策略
最新研究表明,极少数领先的人工智能实验室曾公布或演示过遏制响应计划。遏制计划规定了当人工智能系统试图颠覆人类控制时应采取的程序,明确了哪些访问权限将被撤销,以及何时应彻底关闭系统。这些发现来自致力于推动前沿人工智能安全开发实践的组织“Guidelight AI Standards”,该组织对五家主要实验室应对此类情景的准备情况进行了评估。 OpenAI 排名最高,而 Anthropic 和 Met
马克·扎克伯格真的相信人工智能是面向每个人的吗?
正在加载播放器…Meta 本周推出了 Glimmer,这是一个开源权重的 AI 模型,任何人都可以下载并在个人硬件上运行——这与该公司更强大的模型 Muse Spark 形成了鲜明对比,后者仍锁定在其自有 API 之后。此次发布伴随着马克·扎克伯格(Mark Zuckerberg)的一封公开信,他在信中主张人工智能应向所有人开放,而非由少数几家实验室控制。但正如 Equity 节目主持人所指出的那样,这一愿景附带了几个重要的限制条件。在本期 TechCrunch 的 Equity 播客中,K
Facebook推出面向创作者的AI辅助应用
Facebook周三透露,该公司正将“创作者工作室”(Creator Studio)转型为一款专用的AI辅助应用,以帮助创作者扩大在该平台上的影响力。通过提供这款由人工智能驱动的工具,Meta 旨在在 TikTok 和 YouTube 的激烈竞争中留住 Facebook 上的创作者。该公司还希望该应用能减少对 ChatGPT 等外部工具在内容构思和表现分析方面的依赖。该新应用目前正面向部分创作者进





首页






