加州總檢察長就深度偽造色情內容起訴 xAI

本週稍早,加州總檢察長針對 xAI 展開調查,起因是據報該公司的聊天機器人「Grok」被用於生成未經同意的女性及未成年人性感影像。週五,該州升級了應對措施,發出停止令,要求該公司立即停止製作此類親密影像及兒童性虐待素材(CSAM)。
「今日,我已向 xAI 發出停止令,要求該公司立即停止製作及散佈深度偽造(deepfake)、未經同意的私密影像以及兒童性虐待素材,」加州總檢察長羅伯·邦塔(Rob Bonta)在新聞稿中表示。「此類行為屬違法。我完全期待 xAI 能立即遵守。加州對兒童性虐待素材採取零容忍政策。」
總檢察長辦公室進一步指控,xAI 似乎正在「助長大規模製作」未經同意的裸體影像,這些影像隨後被「用於在網路上騷擾婦女和女孩」。該機構已給予 xAI 五天時間,要求其證明正在採取具體措施解決這些問題。
爭議的核心在於Grok的「辣味」模式,這是xAI設計用來生成露骨內容的功能。這波反彈已擴散至加州以外,日本、加拿大和英國也相繼針對Grok展開調查。馬來西亞和印尼則已全面暫時封鎖該平台的存取。儘管xAI在週三晚間對其圖片編輯功能實施了部分限制,加州總檢察長仍照常發出停止令。
X平台的安全團隊此前已譴責此類用戶行為,聲明指出:「任何利用Grok製作非法內容者,將面臨與直接上傳該內容相同的法律後果。」當TechCrunch聯繫xAI尋求評論時,僅收到一封自動回覆郵件,內容僅寫著「傳統媒體在撒謊」。TechCrunch亦已聯繫加州總檢察長辦公室以獲取更多背景資訊。
免費生成式 AI 工具的興起,助長了非自願性情色素材的令人憂慮的增長。這不僅是 X 面臨的挑戰,更是許多平台共同面臨的難題。此議題已引起州政府官員與聯邦立法者的關注。事實上,週四國會已致函數家大型科技公司的高層——包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta——詢問他們針對遏止性化深度偽造內容傳播的計畫。
相關文章
蘋果移除了Cal AI應用程式,原因是該應用存在未經授權的店內購買行為以及欺詐性計費問題。
蘋果最近移除了MyFitnessPal中頗受歡迎的人工智慧食物追蹤應用Cal AI,這一舉動凸顯了其對App Store關於外部支付和訂閱政策的嚴格執行。該應用每年能帶來5000萬美元的重複收入,曾因違反多項開發者指南而被暫時下架,但在解決了相關問題後已重新上線。有報道稱,儘管Epic Games訴蘋果的案件允許美國開發者連結到外部支付系統,但蘋果指出Cal AI存在嚴重的合規問題。其主要違規行為在於:該應用試圖透過嵌入Stripe等第三方支付流程來繞過蘋果的應用內購買機制以解鎖數字內容,卻未
Github Copilot的基於令牌的計費方式引發了開發者的強烈不滿
微軟GitHub Copilot的黃金時代可能即將結束,尤其是對個人使用者而言。該公司正從統一的訂閱費模式轉向基於代幣的計費方式,這可能會大幅增加使用成本。雖然大型企業或許還能承受這種變化,但小型企業和自由職業者可能會發現新的收費機制讓他們的月預算難以承受。這些變更將於6月1日正式生效,屆時使用者將按照工作中消耗的代幣數量來支付費用,而不再是按每次請求收取固定費用。一些開發者受到這一財務變動的影響,在Reddit和X平臺上表達了他們對這種看似過高的成本增加的擔憂。一位Redditor最近寫道:“
SpaceX的IPO申請檔案重點體現了其在衛星網際網路和人工智慧領域的發展雄心
在為即將進行的IPO提交的S-1註冊檔案中,SpaceX公佈了一系列令人矚目的業務資料,這些資料凸顯了其在航空航天通訊和人工智慧領域的強大實力:Starlink使用者數突破1000萬:截至2026年第一季度,全球付費Starlink使用者數量已達到1030萬,這一數字在過去一年內翻了一番。這一增長充分證明了作為全球最大的近地軌道衛星星座,Starlink在寬頻和行動通訊領域的領先地位。目前該衛星網路由大約9600顆衛星組成,這些衛星佔在軌所有活躍衛星總數的65%。Grok與X人工智慧生態體系:通
相關專題推薦
評論 (0)
0/500

本週稍早,加州總檢察長針對 xAI 展開調查,起因是據報該公司的聊天機器人「Grok」被用於生成未經同意的女性及未成年人性感影像。週五,該州升級了應對措施,發出停止令,要求該公司立即停止製作此類親密影像及兒童性虐待素材(CSAM)。
「今日,我已向 xAI 發出停止令,要求該公司立即停止製作及散佈深度偽造(deepfake)、未經同意的私密影像以及兒童性虐待素材,」加州總檢察長羅伯·邦塔(Rob Bonta)在新聞稿中表示。「此類行為屬違法。我完全期待 xAI 能立即遵守。加州對兒童性虐待素材採取零容忍政策。」
總檢察長辦公室進一步指控,xAI 似乎正在「助長大規模製作」未經同意的裸體影像,這些影像隨後被「用於在網路上騷擾婦女和女孩」。該機構已給予 xAI 五天時間,要求其證明正在採取具體措施解決這些問題。
爭議的核心在於Grok的「辣味」模式,這是xAI設計用來生成露骨內容的功能。這波反彈已擴散至加州以外,日本、加拿大和英國也相繼針對Grok展開調查。馬來西亞和印尼則已全面暫時封鎖該平台的存取。儘管xAI在週三晚間對其圖片編輯功能實施了部分限制,加州總檢察長仍照常發出停止令。
X平台的安全團隊此前已譴責此類用戶行為,聲明指出:「任何利用Grok製作非法內容者,將面臨與直接上傳該內容相同的法律後果。」當TechCrunch聯繫xAI尋求評論時,僅收到一封自動回覆郵件,內容僅寫著「傳統媒體在撒謊」。TechCrunch亦已聯繫加州總檢察長辦公室以獲取更多背景資訊。
免費生成式 AI 工具的興起,助長了非自願性情色素材的令人憂慮的增長。這不僅是 X 面臨的挑戰,更是許多平台共同面臨的難題。此議題已引起州政府官員與聯邦立法者的關注。事實上,週四國會已致函數家大型科技公司的高層——包括 X、Reddit、Snap、TikTok、Alphabet 及 Meta——詢問他們針對遏止性化深度偽造內容傳播的計畫。
蘋果移除了Cal AI應用程式,原因是該應用存在未經授權的店內購買行為以及欺詐性計費問題。
蘋果最近移除了MyFitnessPal中頗受歡迎的人工智慧食物追蹤應用Cal AI,這一舉動凸顯了其對App Store關於外部支付和訂閱政策的嚴格執行。該應用每年能帶來5000萬美元的重複收入,曾因違反多項開發者指南而被暫時下架,但在解決了相關問題後已重新上線。有報道稱,儘管Epic Games訴蘋果的案件允許美國開發者連結到外部支付系統,但蘋果指出Cal AI存在嚴重的合規問題。其主要違規行為在於:該應用試圖透過嵌入Stripe等第三方支付流程來繞過蘋果的應用內購買機制以解鎖數字內容,卻未
Github Copilot的基於令牌的計費方式引發了開發者的強烈不滿
微軟GitHub Copilot的黃金時代可能即將結束,尤其是對個人使用者而言。該公司正從統一的訂閱費模式轉向基於代幣的計費方式,這可能會大幅增加使用成本。雖然大型企業或許還能承受這種變化,但小型企業和自由職業者可能會發現新的收費機制讓他們的月預算難以承受。這些變更將於6月1日正式生效,屆時使用者將按照工作中消耗的代幣數量來支付費用,而不再是按每次請求收取固定費用。一些開發者受到這一財務變動的影響,在Reddit和X平臺上表達了他們對這種看似過高的成本增加的擔憂。一位Redditor最近寫道:“
SpaceX的IPO申請檔案重點體現了其在衛星網際網路和人工智慧領域的發展雄心
在為即將進行的IPO提交的S-1註冊檔案中,SpaceX公佈了一系列令人矚目的業務資料,這些資料凸顯了其在航空航天通訊和人工智慧領域的強大實力:Starlink使用者數突破1000萬:截至2026年第一季度,全球付費Starlink使用者數量已達到1030萬,這一數字在過去一年內翻了一番。這一增長充分證明了作為全球最大的近地軌道衛星星座,Starlink在寬頻和行動通訊領域的領先地位。目前該衛星網路由大約9600顆衛星組成,這些衛星佔在軌所有活躍衛星總數的65%。Grok與X人工智慧生態體系:通





首頁






