YouTube加强了针对政界人士、官员和记者的AI深度伪造防护措施
YouTube周二宣布,将把其用于识别AI生成深度伪造内容的肖像检测技术,扩展至针对政府官员、政治候选人和记者的试点项目。该试点项目的参与者将能够使用一款工具,查找未经授权且使用其肖像的AI生成内容,并可在内容违反YouTube政策时提交删除请求。
该技术最初于去年面向YouTube合作伙伴计划中的约400万创作者推出,此前已进行过测试。
该肖像检测功能的工作原理与YouTube现有的版权内容识别系统类似,专门用于扫描AI模拟的面部图像。此类AI工具有时会被滥用,通过制作逼真的名人深伪视频(例如政客或官员)来传播虚假信息,这些视频往往虚构了当事人从未发生过的言行。
通过这项新试点计划,YouTube旨在在保护言论自由与应对AI技术带来的风险之间寻求平衡,因为该技术能够生成公众人物逼真的仿冒形象。
YouTube政府事务与公共政策副总裁莱斯利·米勒(Leslie Miller)在新闻发布会上表示:“此次扩展的核心在于维护公共言论的完整性。”她补充道:“我们认识到,对于担任公共职务的人士而言,AI冒充带来的风险正在加剧。在提供这项新保护措施的同时,我们也在审慎地推进其实施。”

图片来源:YouTube
米勒澄清道,并非所有被检测出的匹配内容都会在收到请求后自动删除。YouTube将根据现行隐私政策评估每个案例,以确定该内容是否属于受保护的表达,例如戏仿或政治批评。
该公司还表示支持联邦层面的保护措施,并赞同华盛顿特区提出的《NO FAKES法案》等立法,该法案旨在规范未经授权的人工智能复制个人声音和视觉形象的行为。
符合条件的试点测试者必须通过提供自拍照和政府签发的身份证件来验证身份,方可使用该工具。随后,他们可以创建个人资料、查看检测到的匹配内容,并选择申请删除。YouTube计划最终允许用户在违规内容发布前将其屏蔽,或可能主张货币化权利,这与该平台的Content ID系统功能相似。
YouTube 未透露首批试点用户名单,但表示未来将致力于让这项技术广泛普及。

图片来源:YouTube
被识别为AI生成的视频将附带标签,但标签位置会有所不同。对于部分内容,标签将出现在视频描述中;而涉及“敏感话题”的视频则会在视频播放器上直接显示更醒目的标签。这种做法与YouTube对所有AI生成内容的标注方式保持一致。
“虽然大量内容由AI生成,但这一事实并不总是内容的核心目的,”YouTube创作者产品副总裁阿姆贾德·哈尼夫(Amjad Hanif)在解释标签位置时表示。“例如,这可能是一部AI生成的动画片。我们会根据具体情况判断哪些类别需要醒目的免责声明。”
YouTube 尚未披露自向创作者推出该技术以来,通过该技术下架的 AI 深度伪造视频的确切数量,但指出迄今为止下架的数量“微乎其微”。
“对许多创作者而言,主要好处在于提高了对上传内容的警惕性。实际的下架请求数量仍然非常低,因为大多数内容相当无害,甚至对他们的频道有补充作用,”哈尼夫表示。
针对政府官员、政客或记者的深度伪造内容,这一情况可能有所不同。
展望未来,YouTube计划将深度伪造检测技术扩展至其他领域,包括可识别的语音以及热门虚构角色等知识产权。
相关文章
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
亚马逊推出“Alexa for Shopping”,同时将Rufus边缘化
亚马逊推出了“Alexa for Shopping”,将 Rufus 购物聊天机器人 Alexa+ 整合到应用程序、网站和 Echo Show 设备中。该助手回答产品查询、比较商品、跟踪价格,并支持购物提醒。它还处理计划中的购物操作和符合条件的自动购买。据该公司称,“Alexa for Shopping”将 Rufus 的产品专业知识与 Alexa+ 的个性化助手上下文相结合。亚马逊表示,Rufus 在 2025 年协助了超过 3 亿客户进行产品研究、比较和购买。GeekWire 报道称,
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美
相关专题推荐
评论 (0)
0/500
YouTube周二宣布,将把其用于识别AI生成深度伪造内容的肖像检测技术,扩展至针对政府官员、政治候选人和记者的试点项目。该试点项目的参与者将能够使用一款工具,查找未经授权且使用其肖像的AI生成内容,并可在内容违反YouTube政策时提交删除请求。
该技术最初于去年面向YouTube合作伙伴计划中的约400万创作者推出,此前已进行过测试。
该肖像检测功能的工作原理与YouTube现有的版权内容识别系统类似,专门用于扫描AI模拟的面部图像。此类AI工具有时会被滥用,通过制作逼真的名人深伪视频(例如政客或官员)来传播虚假信息,这些视频往往虚构了当事人从未发生过的言行。
通过这项新试点计划,YouTube旨在在保护言论自由与应对AI技术带来的风险之间寻求平衡,因为该技术能够生成公众人物逼真的仿冒形象。
YouTube政府事务与公共政策副总裁莱斯利·米勒(Leslie Miller)在新闻发布会上表示:“此次扩展的核心在于维护公共言论的完整性。”她补充道:“我们认识到,对于担任公共职务的人士而言,AI冒充带来的风险正在加剧。在提供这项新保护措施的同时,我们也在审慎地推进其实施。”

图片来源:YouTube
米勒澄清道,并非所有被检测出的匹配内容都会在收到请求后自动删除。YouTube将根据现行隐私政策评估每个案例,以确定该内容是否属于受保护的表达,例如戏仿或政治批评。
该公司还表示支持联邦层面的保护措施,并赞同华盛顿特区提出的《NO FAKES法案》等立法,该法案旨在规范未经授权的人工智能复制个人声音和视觉形象的行为。
符合条件的试点测试者必须通过提供自拍照和政府签发的身份证件来验证身份,方可使用该工具。随后,他们可以创建个人资料、查看检测到的匹配内容,并选择申请删除。YouTube计划最终允许用户在违规内容发布前将其屏蔽,或可能主张货币化权利,这与该平台的Content ID系统功能相似。
YouTube 未透露首批试点用户名单,但表示未来将致力于让这项技术广泛普及。

图片来源:YouTube
被识别为AI生成的视频将附带标签,但标签位置会有所不同。对于部分内容,标签将出现在视频描述中;而涉及“敏感话题”的视频则会在视频播放器上直接显示更醒目的标签。这种做法与YouTube对所有AI生成内容的标注方式保持一致。
“虽然大量内容由AI生成,但这一事实并不总是内容的核心目的,”YouTube创作者产品副总裁阿姆贾德·哈尼夫(Amjad Hanif)在解释标签位置时表示。“例如,这可能是一部AI生成的动画片。我们会根据具体情况判断哪些类别需要醒目的免责声明。”
YouTube 尚未披露自向创作者推出该技术以来,通过该技术下架的 AI 深度伪造视频的确切数量,但指出迄今为止下架的数量“微乎其微”。
“对许多创作者而言,主要好处在于提高了对上传内容的警惕性。实际的下架请求数量仍然非常低,因为大多数内容相当无害,甚至对他们的频道有补充作用,”哈尼夫表示。
针对政府官员、政客或记者的深度伪造内容,这一情况可能有所不同。
展望未来,YouTube计划将深度伪造检测技术扩展至其他领域,包括可识别的语音以及热门虚构角色等知识产权。
华纳音乐收购AI归因初创公司Sureel AI
华纳音乐集团(WMG)于周三确认,其正在收购Sureel AI,一家专注于人工智能归因的初创公司。Sureel的专有技术为音乐曲目生成“AI DNA”,将其分解为各个组成部分,以追踪人工智能模型如何利用这些元素。通过此次收购,WMG旨在增强其监控其艺术家和词曲创作者的作品在人工智能生成内容中被使用或用于训练人工智能模型的能力。“将Sureel整合到WMG中,增强了我们的保护、控制和变现能力,确保创意社区保留对其知识产权、姓名、肖像、形象和声音的控制权,”WMG首席执行官Robert Kync
微软、Azure 和人工智能技术共同应对加利福尼亚州野火风险
微软投资于人工智能驱动的山火监测技术,其首席副总裁兼首席数据科学家胡安·拉维斯塔·费雷斯(Juan Lavista Ferres)探讨了减轻环境损害的策略。据美国国家航空航天局(NASA)称,气候变化影响着地球上的每个人,其表现为气温上升、降雨模式改变以及海平面上升。NASA指出,有确凿证据表明地球正以史无前例的速度变暖,而人类活动是其主要驱动因素。随着全球气温上升,野火构成的威胁日益加剧。 在美





首页






