加州總檢察長就深度偽造色情內容起訴 xAI

本週稍早,加州總檢察長針對 xAI 展開調查,起因是據報該公司的聊天機器人「Grok」被用於生成未經同意的女性及未成年人性感影像。週五,該州升級了應對措施,發出停止令,要求該公司立即停止製作此類親密影像及兒童性虐待素材(CSAM)。
「今日,我已向 xAI 發出停止令,要求該公司立即停止製作及散佈深度偽造(deepfake)、未經同意的私密影像以及兒童性虐待素材,」加州總檢察長羅伯·邦塔(Rob Bonta)在新聞稿中表示。「此類行為屬違法。我完全期待 xAI 能立即遵守。加州對兒童性虐待素材採取零容忍政策。」
總檢察長辦公室進一步指控,xAI 似乎正在「助長大規模製作」未經同意的裸體影像,這些影像隨後被「用於在網路上騷擾婦女和女孩」。該機構已給予 xAI 五天時間,要求其證明正在採取具體措施解決這些問題。
爭議的核心在於Grok的「辣味」模式,這是xAI設計用來生成露骨內容的功能。這波反彈已擴散至加州以外,日本、加拿大和英國也相繼針對Grok展開調查。馬來西亞和印尼則已全面暫時封鎖該平台的存取。儘管xAI在週三晚間對其圖片編輯功能實施了部分限制,加州總檢察長仍照常發出停止令。
X平台的安全團隊此前已譴責此類用戶行為,聲明指出:「任何利用Grok製作非法內容者,將面臨與直接上傳該內容相同的法律後果。」當TechCrunch聯繫xAI尋求評論時,僅收到一封自動回覆郵件,內容僅寫著「傳統媒體在撒謊」。TechCrunch亦已聯繫加州總檢察長辦公室以獲取更多背景資訊。
免費生成式 AI 工具的興起,助長了非自願性情色素材的令人憂慮的增長。這不僅是 X 面臨的挑戰,更是許多平台共同面臨的難題。此議題已引起州政府官員與聯邦立法者的關注。事實上,週四國會已致函數家大型科技公司的高層——包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta——詢問他們針對遏止性化深度偽造內容傳播的計畫。
相關文章
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了
加州自動駕駛合規:罰單、地理圍欄與 100 萬英里的新時代
Guident 在南佛羅里達州營運一輛 AuveTech 接駁車,並運用其遠端監控技術,管理西棕櫚灘的一條四英里路線以及博卡拉頓的一條一英里路線。| 圖片來源:Guident加州正重新定義無人駕駛車輛的監管格局,從科技產業的「快速行動、打破常規」心態,轉向嚴格的問責制與嚴謹的行駛里程要求。Guident 執行董事長兼執行長哈羅德·布勞恩(Harold Braun)在《機器人報告》(The Robo
相關專題推薦
評論 (0)
0/500

本週稍早,加州總檢察長針對 xAI 展開調查,起因是據報該公司的聊天機器人「Grok」被用於生成未經同意的女性及未成年人性感影像。週五,該州升級了應對措施,發出停止令,要求該公司立即停止製作此類親密影像及兒童性虐待素材(CSAM)。
「今日,我已向 xAI 發出停止令,要求該公司立即停止製作及散佈深度偽造(deepfake)、未經同意的私密影像以及兒童性虐待素材,」加州總檢察長羅伯·邦塔(Rob Bonta)在新聞稿中表示。「此類行為屬違法。我完全期待 xAI 能立即遵守。加州對兒童性虐待素材採取零容忍政策。」
總檢察長辦公室進一步指控,xAI 似乎正在「助長大規模製作」未經同意的裸體影像,這些影像隨後被「用於在網路上騷擾婦女和女孩」。該機構已給予 xAI 五天時間,要求其證明正在採取具體措施解決這些問題。
爭議的核心在於Grok的「辣味」模式,這是xAI設計用來生成露骨內容的功能。這波反彈已擴散至加州以外,日本、加拿大和英國也相繼針對Grok展開調查。馬來西亞和印尼則已全面暫時封鎖該平台的存取。儘管xAI在週三晚間對其圖片編輯功能實施了部分限制,加州總檢察長仍照常發出停止令。
X平台的安全團隊此前已譴責此類用戶行為,聲明指出:「任何利用Grok製作非法內容者,將面臨與直接上傳該內容相同的法律後果。」當TechCrunch聯繫xAI尋求評論時,僅收到一封自動回覆郵件,內容僅寫著「傳統媒體在撒謊」。TechCrunch亦已聯繫加州總檢察長辦公室以獲取更多背景資訊。
免費生成式 AI 工具的興起,助長了非自願性情色素材的令人憂慮的增長。這不僅是 X 面臨的挑戰,更是許多平台共同面臨的難題。此議題已引起州政府官員與聯邦立法者的關注。事實上,週四國會已致函數家大型科技公司的高層——包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta——詢問他們針對遏止性化深度偽造內容傳播的計畫。
DeepMind執行長哈西里斯:我每天睡六個小時,通常在凌晨1點左右感到精力充沛。
Fortune 最近刊登了對谷歌 DeepMind 執行長 Demis Hassabis 的採訪,揭示了他對休息和生產力的非傳統方法。Hassabis 透露,他睡眠時間非常少,將清醒時間劃分為兩個不同的工作階段。關於他的睡眠習慣,Hassabis 表示:“我目標睡六小時,但我的習慣非同尋常。我可以在白天有效運作。”他強調,睡眠少於六小時會對大腦健康產生負面影響。Hassabis 於 2010 年聯合創立了 DeepMind(後被谷歌收購),並因其在蛋白質結構預測方面的開創性工作榮獲 20
儘管營收未達預期,OpenAI 與 Anthropic 仍爭奪市場份額
儘管近期有報導指出 OpenAI 未達營收目標,導致本週二科技股承壓,但私人人工智慧實驗室的投資者仍展現出韌性。資深投資者已確認,儘管媒體報導負面,他們仍不會削減投資。分析師認為當前的 AI 競逐仍處於初期階段,因此排除「贏家通吃」的結果。儘管高昂的運算成本對營收造成壓力,但各實驗室可透過調高訂閱費來提升獲利能力。產業格局正經歷微妙的變化與 OpenAI 不同,競爭對手 Anthropic 獲得了





首頁






