美国参议员就性化深度伪造内容向X、Meta和Alphabet施压

科技行业面临的、涉及未经同意且带有性暗示的深度伪造视频危机，如今已远远超出了X平台的范围。

在致X、Meta、Alphabet、Snap、Reddit和TikTok高管的信函中，数名美国参议员要求这些公司提供证据，证明其已制定“强有力的保护措施和政策”，并明确说明它们打算如何遏制平台上性化深度伪造视频的传播。

参议员们还要求所有公司保留与生成、检测、审核及AI生成的色情图像变现相关的任何文件和信息，以及任何相关政策。

这封信的发出，恰逢X宣布已更新Grok功能，禁止编辑展示真实人物穿着暴露服装的图像，并将Grok的图像生成和编辑功能限制为付费订阅用户专享，仅数小时之后。（X和xAI隶属于同一家公司。）

参议员们援引了媒体报道，这些报道详细描述了Grok生成女性和儿童色情及裸露图像的频率之高、操作之简单，并指出现有平台为防止用户发布未经同意的色情图像而设计的防护措施可能不够充分。

“我们承认，许多公司都制定了反对未经同意的私密图像和性剥削的政策，许多AI系统也声称能够屏蔽露骨的色情内容。但在实践中，正如上述例子所示，用户总能找到绕过这些防护措施的方法。或者，这些防护措施本身已经失效，”信中写道。

Grok——以及其母公司X——因助长这一趋势而面临严厉批评，但其他平台也未能幸免。

加入 Disrupt 2026 候补名单

立即加入 Disrupt 2026 候补名单，以便在早鸟票开售时优先获取入场资格。往届 Disrupt 活动曾邀请 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、 Hugging Face、Elad Gil 和 Vinod Khosla 等嘉宾登台亮相——作为由 250 余位行业领袖组成的阵容，他们将主持 200 多场专题会议，旨在推动您的业务增长并提升您的竞争优势。此外，您还将有机会与数百家在各领域进行创新的初创企业建立联系。

加入 Disrupt 2026 候补名单

立即注册 Disrupt 2026 候补名单，以便在早鸟票开售时优先获得购票资格。往届 Disrupt 活动曾邀请 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、 Hugging Face、Elad Gil 和 Vinod Khosla 等嘉宾登台亮相——他们是超过 250 位行业领袖中的一员，将共同主持 200 多场专题会议，旨在推动您的业务增长并增强您的竞争优势。此外，您还将有机会与数百家活跃于各行各业的创新初创企业建立联系。

深度伪造（Deepfakes）最初在Reddit上崭露头角，当时一个发布名人合成色情视频的页面曾一度疯传，直到2018年该平台将其删除。此后，针对名人和政界人士的色情深度伪造内容在TikTok和YouTube上激增，尽管这些内容通常源自其他平台。

Meta的监督委员会去年重点指出两起涉及女性公众人物露骨AI图像的案例，该平台上曾有“裸体化”应用投放广告——尽管后来Meta起诉了一家名为CrushAI的公司。此外，还有多份报告称，儿童在Snapchat上传播同学的深度伪造视频。 此外，未被参议员们列入名单的Telegram，也因托管专门用于给女性照片“脱衣”的机器人而闻名。

针对这封信，X平台援引了其关于Grok更新的公告。

“我们目前不允许、将来也不会允许Reddit上出现任何未经同意的私密媒体（NCIM），不提供任何能够制作此类内容的工具，并会采取主动措施查找并删除此类内容，”Reddit发言人在一封电子邮件声明中表示。 “Reddit 严格禁止 NCIM，包括伪造或由 AI 生成的图像。我们还禁止向他人索要此类内容、分享‘裸体化’应用的链接，或在其他平台上讨论如何制作此类内容，”该发言人补充道。

Alphabet、Snap、TikTok和Meta尚未立即回应置评请求。

该信函要求这些公司提供：

• 关于“深度伪造”内容、“未经同意的私密影像”或类似术语的政策定义。
• 各公司针对未经同意的AI深度伪造人体图像、非裸露照片、服装修改以及“虚拟脱衣”内容的政策说明及执行方式。
• 针对编辑过的媒体和露骨内容的现行内容政策说明，以及提供给内容审核员的内部指导方针。
• 现行政策如何规范涉及暗示性或私密内容的AI工具及图像生成器。
• 已实施哪些过滤机制、防护措施或手段来防止深度伪造内容的生成和传播。
• 各公司采用哪些机制来识别深度伪造内容并防止其被重新上传。
• 它们如何防止用户从此类内容中牟利。
• 平台如何防止自身通过未经同意的AI生成内容获利。
• 各公司的服务条款如何授权其封禁或暂停发布深度伪造内容的用户。
• 相关公司采取了哪些措施来通知未经同意的性深度伪造视频的受害者。

该信函由参议员丽莎·布兰特·罗切斯特（民主党，特拉华州）、塔米·鲍德温（民主党，威斯康星州）、理查德·布卢门撒尔（民主党，康涅狄格州）、柯尔斯滕·吉利布兰德（民主党，纽约州）、 马克·凯利（亚利桑那州民主党）、本·雷·卢汉（新墨西哥州民主党）、布莱恩·沙茨（夏威夷州民主党）和亚当·希夫（加利福尼亚州民主党）。

这一举措恰逢xAI所有者埃隆·马斯克表示“未获悉任何由Grok生成的未成年人裸体图像”仅一天之后。 周三晚些时候，在世界各地政府因Grok缺乏防护措施而导致此类事件频发、压力日益增大的背景下，加利福尼亚州总检察长对xAI的聊天机器人展开了调查。

xAI一直坚称，该公司会采取行动删除“X平台上的非法内容，包括[儿童色情材料]和未经同意的裸露内容”，但无论是该公司还是马斯克，都未解释为何Grok最初被允许生成此类编辑内容。

问题也不仅限于未经同意的性化图像篡改。虽然并非所有基于AI的图像生成和编辑服务都允许用户“脱去”人物衣物，但它们仍然使得生成深度伪造内容变得轻而易举。 例如，据报道，OpenAI的Sora 2允许用户制作涉及儿童的露骨视频；谷歌的Nano Banana似乎生成了一张查理·柯克（Charlie Kirk）遭枪击的图像；而利用谷歌AI视频模型制作的种族主义视频在社交媒体上已获得数百万次观看。

当中国的图像和视频生成工具进入这一领域时，问题变得更加复杂。许多中国科技公司和应用程序——尤其是与字节跳动相关的那些——提供了轻松编辑面部、声音和视频的功能，而这些生成内容已传播到西方社交平台。 中国对合成内容的标注要求更为严格，而美国联邦层面尚无此类规定，美国民众只能依赖各平台自身制定的、零散且执行不一的政策。

美国立法者已通过了一些旨在遏制深度伪造色情内容的立法，但成效有限。 今年5月成为联邦法律的《取下法案》（Take It Down Act）旨在将制作和传播未经同意的色情图像定为犯罪。然而，该法律中的若干条款使得难以追究图像生成平台的责任，因为大部分监管压力反而落在了个人用户身上。

与此同时，许多州正试图自主采取行动，以保护消费者和选举安全。本周，纽约州州长凯西·霍丘尔提出了一系列法案，要求对人工智能生成的内容进行标注，并在选举前的特定时期内禁止未经同意的深度伪造内容，包括对反对派候选人的伪造形象。