YouTube加强了针对政界人士、官员和记者的AI深度伪造防护措施
YouTube周二宣布,将把其用于识别AI生成深度伪造内容的肖像检测技术,扩展至针对政府官员、政治候选人和记者的试点项目。该试点项目的参与者将能够使用一款工具,查找未经授权且使用其肖像的AI生成内容,并可在内容违反YouTube政策时提交删除请求。
该技术最初于去年面向YouTube合作伙伴计划中的约400万创作者推出,此前已进行过测试。
该肖像检测功能的工作原理与YouTube现有的版权内容识别系统类似,专门用于扫描AI模拟的面部图像。此类AI工具有时会被滥用,通过制作逼真的名人深伪视频(例如政客或官员)来传播虚假信息,这些视频往往虚构了当事人从未发生过的言行。
通过这项新试点计划,YouTube旨在在保护言论自由与应对AI技术带来的风险之间寻求平衡,因为该技术能够生成公众人物逼真的仿冒形象。
YouTube政府事务与公共政策副总裁莱斯利·米勒(Leslie Miller)在新闻发布会上表示:“此次扩展的核心在于维护公共言论的完整性。”她补充道:“我们认识到,对于担任公共职务的人士而言,AI冒充带来的风险正在加剧。在提供这项新保护措施的同时,我们也在审慎地推进其实施。”

图片来源:YouTube
米勒澄清道,并非所有被检测出的匹配内容都会在收到请求后自动删除。YouTube将根据现行隐私政策评估每个案例,以确定该内容是否属于受保护的表达,例如戏仿或政治批评。
该公司还表示支持联邦层面的保护措施,并赞同华盛顿特区提出的《NO FAKES法案》等立法,该法案旨在规范未经授权的人工智能复制个人声音和视觉形象的行为。
符合条件的试点测试者必须通过提供自拍照和政府签发的身份证件来验证身份,方可使用该工具。随后,他们可以创建个人资料、查看检测到的匹配内容,并选择申请删除。YouTube计划最终允许用户在违规内容发布前将其屏蔽,或可能主张货币化权利,这与该平台的Content ID系统功能相似。
YouTube 未透露首批试点用户名单,但表示未来将致力于让这项技术广泛普及。

图片来源:YouTube
被识别为AI生成的视频将附带标签,但标签位置会有所不同。对于部分内容,标签将出现在视频描述中;而涉及“敏感话题”的视频则会在视频播放器上直接显示更醒目的标签。这种做法与YouTube对所有AI生成内容的标注方式保持一致。
“虽然大量内容由AI生成,但这一事实并不总是内容的核心目的,”YouTube创作者产品副总裁阿姆贾德·哈尼夫(Amjad Hanif)在解释标签位置时表示。“例如,这可能是一部AI生成的动画片。我们会根据具体情况判断哪些类别需要醒目的免责声明。”
YouTube 尚未披露自向创作者推出该技术以来,通过该技术下架的 AI 深度伪造视频的确切数量,但指出迄今为止下架的数量“微乎其微”。
“对许多创作者而言,主要好处在于提高了对上传内容的警惕性。实际的下架请求数量仍然非常低,因为大多数内容相当无害,甚至对他们的频道有补充作用,”哈尼夫表示。
针对政府官员、政客或记者的深度伪造内容,这一情况可能有所不同。
展望未来,YouTube计划将深度伪造检测技术扩展至其他领域,包括可识别的语音以及热门虚构角色等知识产权。
相关文章
Google 相册借助人工智能,将《绯闻女孩》中那间标志性的衣帽间重现于世
谷歌相册于周三宣布推出一项基于人工智能的新功能,该功能将很快把你的服装照片转化为一个数字衣橱,让你能够搭配出全新的穿搭组合,甚至可以进行虚拟试穿。这一概念显然借鉴了电影《绯闻女孩》中雪儿(Cher)那标志性的虚拟衣橱,她在其中可以浏览众多套装,从而决定穿什么。谷歌表示,该功能将利用人工智能技术,根据用户Google相册中的衣物自动构建一个数字衣橱。在应用内,用户可以按类别(如上装、下装、首饰等)筛
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam
相关专题推荐
评论 (0)
0/500
YouTube周二宣布,将把其用于识别AI生成深度伪造内容的肖像检测技术,扩展至针对政府官员、政治候选人和记者的试点项目。该试点项目的参与者将能够使用一款工具,查找未经授权且使用其肖像的AI生成内容,并可在内容违反YouTube政策时提交删除请求。
该技术最初于去年面向YouTube合作伙伴计划中的约400万创作者推出,此前已进行过测试。
该肖像检测功能的工作原理与YouTube现有的版权内容识别系统类似,专门用于扫描AI模拟的面部图像。此类AI工具有时会被滥用,通过制作逼真的名人深伪视频(例如政客或官员)来传播虚假信息,这些视频往往虚构了当事人从未发生过的言行。
通过这项新试点计划,YouTube旨在在保护言论自由与应对AI技术带来的风险之间寻求平衡,因为该技术能够生成公众人物逼真的仿冒形象。
YouTube政府事务与公共政策副总裁莱斯利·米勒(Leslie Miller)在新闻发布会上表示:“此次扩展的核心在于维护公共言论的完整性。”她补充道:“我们认识到,对于担任公共职务的人士而言,AI冒充带来的风险正在加剧。在提供这项新保护措施的同时,我们也在审慎地推进其实施。”

图片来源:YouTube
米勒澄清道,并非所有被检测出的匹配内容都会在收到请求后自动删除。YouTube将根据现行隐私政策评估每个案例,以确定该内容是否属于受保护的表达,例如戏仿或政治批评。
该公司还表示支持联邦层面的保护措施,并赞同华盛顿特区提出的《NO FAKES法案》等立法,该法案旨在规范未经授权的人工智能复制个人声音和视觉形象的行为。
符合条件的试点测试者必须通过提供自拍照和政府签发的身份证件来验证身份,方可使用该工具。随后,他们可以创建个人资料、查看检测到的匹配内容,并选择申请删除。YouTube计划最终允许用户在违规内容发布前将其屏蔽,或可能主张货币化权利,这与该平台的Content ID系统功能相似。
YouTube 未透露首批试点用户名单,但表示未来将致力于让这项技术广泛普及。

图片来源:YouTube
被识别为AI生成的视频将附带标签,但标签位置会有所不同。对于部分内容,标签将出现在视频描述中;而涉及“敏感话题”的视频则会在视频播放器上直接显示更醒目的标签。这种做法与YouTube对所有AI生成内容的标注方式保持一致。
“虽然大量内容由AI生成,但这一事实并不总是内容的核心目的,”YouTube创作者产品副总裁阿姆贾德·哈尼夫(Amjad Hanif)在解释标签位置时表示。“例如,这可能是一部AI生成的动画片。我们会根据具体情况判断哪些类别需要醒目的免责声明。”
YouTube 尚未披露自向创作者推出该技术以来,通过该技术下架的 AI 深度伪造视频的确切数量,但指出迄今为止下架的数量“微乎其微”。
“对许多创作者而言,主要好处在于提高了对上传内容的警惕性。实际的下架请求数量仍然非常低,因为大多数内容相当无害,甚至对他们的频道有补充作用,”哈尼夫表示。
针对政府官员、政客或记者的深度伪造内容,这一情况可能有所不同。
展望未来,YouTube计划将深度伪造检测技术扩展至其他领域,包括可识别的语音以及热门虚构角色等知识产权。
Google 相册借助人工智能,将《绯闻女孩》中那间标志性的衣帽间重现于世
谷歌相册于周三宣布推出一项基于人工智能的新功能,该功能将很快把你的服装照片转化为一个数字衣橱,让你能够搭配出全新的穿搭组合,甚至可以进行虚拟试穿。这一概念显然借鉴了电影《绯闻女孩》中雪儿(Cher)那标志性的虚拟衣橱,她在其中可以浏览众多套装,从而决定穿什么。谷歌表示,该功能将利用人工智能技术,根据用户Google相册中的衣物自动构建一个数字衣橱。在应用内,用户可以按类别(如上装、下装、首饰等)筛
Notion 将其工作区转变为人工智能代理的枢纽
生产力软件公司 Notion 正迈入智能代理时代。在周三的一场直播产品发布会上,以协作式笔记应用而闻名的 Notion 推出了一款全新的开发者平台。该平台不仅扩展了其定制 AI 代理的功能,还能与外部代理连接,并允许团队构建能够从任何数据库提取数据的自动化多步骤工作流。通过构建一个编排层——即一个能在多个工具和数据源之间协调AI工作的系统——Notion将自身定位为不仅仅是一款具备AI功能的笔记应
ElevenLabs宣布黑石集团、杰米·福克斯和伊娃·朗格利亚成为新投资者
语音人工智能公司ElevenLabs披露了其5亿美元D轮融资的更多投资者名单,该轮融资最初于2月宣布。 其中包括贝莱德(BlackRock)、威灵顿(Wellington)、D.E. Shaw和施罗德(Schroders)等机构投资者;英伟达(NVIDIA)、Salesforce、桑坦德银行(Santander)、KPN和德国电信(Deutsche Telekom)等企业;以及杰米·福克斯(Jam





首页






