新澤西州訴訟凸顯打擊深度偽造色情內容的挑戰

兩年多來，一款名為ClothOff的應用程式持續對網路上的年輕女性實施恐怖活動——而阻止這項活動卻證明是項令人抓狂的艱鉅任務。儘管該應用程式已被兩大應用商店下架，並在多數社交平台遭禁，但使用者仍可透過網頁及Telegram機器人存取。去年十月，耶魯大學法學院診所發起訴訟，旨在永久取締該應用程式，迫使其所有者刪除所有圖片並全面停止營運。 然而，光是鎖定被告的身份與所在地就已構成重大挑戰。

「該實體在英屬維京群島註冊成立，」訴訟共同首席律師約翰·蘭福德教授解釋道，「但我們認為實際由居住在白俄羅斯的兄妹二人運作。它甚至可能是更龐大全球網絡的一部分。」

此案在近期馬斯克旗下xAI公司製造大量非自願合成色情內容（含眾多未成年受害者）的事件後，提供了令人警醒的教訓。兒童性剝削材料（CSAM）是網路最嚴重的違法內容——其製作、傳播或儲存均屬非法，各大雲端服務平台皆積極掃描此類內容。 然而正如朗福德案所示，儘管法律嚴禁，ClothOff這類工具仍難以根除。雖然可對個別使用者提起訴訟，但監管ClothOff與Grok等平台的複雜性遠超預期，使受害者透過司法途徑伸張正義的管道極為有限。

該診所公開的申訴書揭露了令人深感不安的狀況。原告為紐澤西州一名匿名高中生，其同學利用ClothOff篡改她的Instagram照片。原始照片拍攝時她年僅14歲，意味著經AI修改的版本在法律上構成兒童性虐待影像。然而儘管篡改影像的違法性明確，地方當局仍以從嫌疑人裝置取得證據存在困難為由，拒絕提起訴訟。

訴狀指出：「校方與執法機關從未釐清這名化名『Jane Doe』的少女及其他女孩的兒童性虐待影像究竟被散布到何種程度。」

訴訟進展緩慢。自去年十月提起訴訟後，朗福德及其團隊耗費數月試圖向被告送達法律通知——鑑於該行動涉及國際範疇，此舉難度極高。待送達程序完成，診所方能安排出庭日程並尋求判決。在此之前，司法體系對ClothOff受害者幾乎未提供任何慰藉。

相較之下，Grok案似乎更易處理。馬斯克的xAI公司並未隱匿行蹤，若訴訟成功可望獲得巨額賠償。然而Grok作為通用工具，其濫用行為的法律追責難度大幅提升。

加入 Disrupt 2026 候補名單

加入Disrupt 2026候補名單，搶先獲取早鳥票優先購買權。 歷屆Disrupt大會曾匯聚谷歌雲端、Netflix、微軟、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face等企業領袖，以及Elad Gil、Vinod Khosla等業界先驅——逾250位領袖驅動200多場專題議程，助您加速成長並強化競爭優勢。您還將與橫跨各領域的數百家創新新創企業建立連結。

立即加入Disrupt 2026候補名單

立即加入Disrupt 2026候補名單，搶先獲取早鳥票優先購買權。 歷屆Disrupt盛會曾匯聚Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等業界領袖——逾250位頂尖人物將引領200多場專題議程，助您加速成長並強化競爭優勢。您還將與橫跨各領域的數百家創新新創企業建立連結。

「ClothOff明確定位並宣傳為圖像與影片的深度偽造色情生成器，」朗福德向我解釋道。「當你對抗的是用戶可任意查詢用途的通用系統時，法律層面將變得極其複雜。」

美國多項法律（尤以《下架法案》為甚）已明令禁止深度偽造色情內容。然而，儘管特定使用者明顯違反法規，要追究整個平台的法律責任卻難度極高。現行法律通常要求證明存在造成傷害的意圖，這意味著必須證實xAI明知其工具將被用於製作非自願色情內容。若缺乏此類證據，xAI基於《第一修正案》的基本權利將提供強有力的法律保護。

「從第一修正案角度而言，兒童性虐待素材絕非受保護言論，」蘭福德強調。「因此若專門設計系統製作此類內容，顯然已超出憲法保障範圍。但面對能回應多元使用者查詢的通用系統，法律邊界就模糊得多。」

最直接的法律途徑是證明xAI蓄意忽視濫用行為。鑑於近期報導指出馬斯克曾指示員工放寬Grok的安全防護措施，此論點頗具說服力。然而即便採取此策略，此類訴訟仍將承擔遠高於常規的法律風險。

「理性觀察者或將質疑：此風險數年前本可預見，」朗福德指出。「為何未實施更嚴格管控以防範？這暗示存在某種程度的魯莽或知情，但訴訟過程仍將更為複雜。」

這些涉及第一修正案的複雜性，解釋了為何針對xAI最嚴厲的監管反制，源自缺乏強健言論自由保障的司法管轄區。印尼與馬來西亞已採取行動封鎖Grok聊天機器人，英國監管機構則啟動可能導致類似禁令的調查。歐盟委員會、法國、愛爾蘭、印度及巴西亦已採取初步行動。相對地，美國監管機構尚未發布正式回應。

這些調查結果尚不明朗，但人工智慧生成的不當影像激增現象，無疑為監管機構提出了關鍵質疑——而調查結果可能構成指控依據。

「若發布、散佈或傳播兒童性剝削素材，即屬違反刑法並須承擔法律責任，」朗福德強調。「更棘手的法律問題在於：平台知情程度為何？其採取或未採取哪些行動？以及當前如何應對？」