新泽西州诉讼凸显打击深度伪造色情内容的挑战

两年多来，一款名为ClothOff的应用程序持续对年轻女性实施网络恐吓——而阻止其运作却成了令人抓狂的难题。尽管该应用已被两大应用商店下架，并遭多数社交平台封禁，但用户仍可通过网页和Telegram机器人访问。今年十月，耶鲁法学院诊所提起诉讼，旨在彻底摧毁该应用，迫使其所有者删除所有图片并完全停止运营。 然而，仅是锁定被告身份就已面临重大挑战。

"该实体在英属维尔京群岛注册成立，"诉讼案联合首席律师约翰·兰福德教授解释道，"但我们认为实际运营者是居住在白俄罗斯的一对兄妹。它甚至可能是更庞大全球网络的一部分。"

这起案件在埃隆·马斯克旗下xAI公司近期制造大量未经同意的合成色情内容（其中包含众多未成年受害者）后，提供了令人警醒的教训。儿童性虐待材料（CSAM）是网络上最具法律危害性的内容——其制作、传播或存储均属违法，各大云服务平台都在积极扫描此类内容。 然而正如兰福德案所示，尽管法律严禁，ClothOff这类工具仍难以根除。虽然可对个人用户提起诉讼，但监管ClothOff和Grok等平台复杂得多，受害者通过司法途径寻求正义的渠道极为有限。

该诊所公开的诉状揭露了令人深感不安的事件：原告是新泽西州一名匿名高中生，其同学利用ClothOff篡改了她的Instagram照片。原始照片拍摄时她年仅14岁，这意味着经AI修改的版本在法律上构成儿童性虐待影像。然而尽管篡改图片的违法性毋庸置疑，当地当局却以从嫌疑人设备获取证据存在困难为由拒绝起诉。

诉状指出："校方和执法部门从未查明简·多伊及其他女孩的儿童性虐待图像究竟传播多广。"

诉讼进展缓慢。自去年十月提交诉状后，兰福德及其团队耗费数月试图向被告送达法律文书——鉴于该行动涉及国际范围，此举难度极大。待文书送达后，诊所方可安排出庭日程并寻求判决。在此之前，司法体系对ClothOff受害者几乎未提供任何慰藉。

相比之下，Grok案似乎更易处理。埃隆·马斯克的xAI公司并未隐匿行踪，若诉讼成功或可获得巨额赔偿。但Grok作为通用工具，其滥用行为的法律责任认定将复杂得多。

加入Disrupt 2026候补名单

加入Disrupt 2026候补名单，抢先获取早鸟票优先购买权。 往届Disrupt盛会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face等行业领袖，以及埃拉德·吉尔、维诺德·科斯拉等250余位思想领袖，共同打造200多场加速企业成长、强化竞争优势的主题会议。您还将有机会与数百家跨领域创新初创企业建立深度联结。

加入Disrupt 2026候补名单

加入Disrupt 2026候补名单，抢先获取早鸟票优先购买权。 往届Disrupt盛会汇聚了来自谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等企业的行业领袖——逾250位领军人物将主持200余场专题会议，助您加速发展并提升竞争优势。您还将与数百家跨领域创新先锋初创企业建立联系。

"ClothOff明确定位并宣传为图像和视频深度伪造色情内容生成器，"兰福德向我解释道，"当你起诉一个用户可随意查询的通用系统时，法律环境将变得极其复杂。"

美国多项法律（尤以《下架法案》为代表）已明确禁止深度伪造色情内容。然而尽管特定用户显然触犯了这些法规，但追究整个平台的责任却困难得多。现行法律通常要求证明存在造成伤害的意图，即需证明xAI明知其工具会被用于制作非自愿色情内容。若缺乏此类证据，xAI基于《第一修正案》的核心权利将获得实质性法律保护。

兰福德指出："从第一修正案角度看，儿童性虐待材料显然不属于受保护言论。因此，若专门设计系统生产此类内容，则明显超出第一修正案保护范围。但对于响应多样化用户查询的通用系统，法律边界则模糊得多。"

最直接的法律途径是证明xAI蓄意忽视滥用行为。鉴于近期报道称马斯克曾指示员工放松Grok的安全防护措施，此论点具有合理性。但即便采取这种策略，此类诉讼仍将面临远超常规的法律风险。

"理性观察者或许会指出，这种风险数年前本可预见，"兰福德表示，"为何不实施更严格的管控来预防？这暗示着某种程度的鲁莽或知情，但仍会使诉讼变得更为复杂。"

这些涉及第一修正案的复杂性解释了为何针对xAI的最严厉监管反击源自缺乏强有力言论自由保护的司法管辖区。印尼和马来西亚已着手封禁Grok聊天机器人，英国监管机构也启动了可能导致类似禁令的调查。欧盟委员会、法国、爱尔兰、印度和巴西也采取了初步行动。相比之下，美国尚未有任何监管机构发布正式回应。

这些调查结果尚不明朗，但人工智能生成的不当图像激增无疑给监管机构提出了关键问题——而调查结果可能具有指控性。

兰福德指出："若发布、传播或散布儿童性虐待材料，即构成刑事犯罪并须承担法律责任。更棘手的法律问题在于：平台知晓多少？采取了哪些行动或未采取哪些行动？以及当前采取了哪些应对措施？"