未成年人起訴埃隆·馬斯克的xAI平臺,指控其Grok服務存在非法影象生成行為

埃隆·馬斯克的人工智慧公司xAI目前正面臨一場重大的法律挑戰。有報道稱,來自田納西州的三名青少年對該公司提起了集體訴訟,指控其開發的Grok聊天機器人被用於製作涉及未成年人的色情圖片和影片。
安全測試缺失與設計缺陷
原告們聲稱,馬斯克及xAI的管理層明知在啟用“刺激模式”時,Grok會生成違法內容,但卻未能對該功能進行適當的安全測試。法庭檔案顯示,其中一名受害者在Discord上發現了多達18張由人工智慧生成的未成年人色情圖片,而這些圖片據稱還被嫌疑人在加密群組中用作“交易物品”。
原告的律師指出,Grok存在根本性的設計缺陷,導致它無法有效阻止針對未成年人的深度偽造內容請求。雖然這些嫌疑人已經被逮捕,但他們的犯罪工具正是藉助xAI的技術得以實現的。
增加的監管壓力
此前,Grok因其過於寬鬆的內容稽覈政策而受到廣泛批評,該政策被認為容易生成涉及名人和普通人的虛假敏感內容。儘管X後來採取了一些限制措施,但這起針對兒童安全的集體訴訟還是使馬斯克和xAI陷入了嚴格的監管和道德審查之中。
這一案件不僅對xAI造成了沉重打擊,還預計會引發整個行業關於生成式人工智慧在隱私保護及兒童安全邊界方面的更廣泛討論。
相關文章
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
Anthropic 將 Claude AI 編碼工具擴充套件至日本,以推動海外增長
Anthropic,一家美國知名的人工智慧公司,正加強其全球推廣力度。週三,該公司在東京舉辦了一場大型開發者活動“Code with Claude”,吸引了近500名軟體工程師參加。該舉措旨在積極將Claude AI工具及相關產品引入日本市場,強調其自主編碼能力在提升企業生產力方面的核心優勢。強調自動化程式碼生成在活動中,Anthropic展示了其先進的自主編碼系統,該系統能夠獨立處理複雜的程式設計任務並最佳化現有程式碼結構。隨著全球對高效開發工具的需求不斷增長,Anthropic希望透過此類活動加強
相關專題推薦
評論 (0)
0/500

埃隆·馬斯克的人工智慧公司xAI目前正面臨一場重大的法律挑戰。有報道稱,來自田納西州的三名青少年對該公司提起了集體訴訟,指控其開發的Grok聊天機器人被用於製作涉及未成年人的色情圖片和影片。
安全測試缺失與設計缺陷
原告們聲稱,馬斯克及xAI的管理層明知在啟用“刺激模式”時,Grok會生成違法內容,但卻未能對該功能進行適當的安全測試。法庭檔案顯示,其中一名受害者在Discord上發現了多達18張由人工智慧生成的未成年人色情圖片,而這些圖片據稱還被嫌疑人在加密群組中用作“交易物品”。
原告的律師指出,Grok存在根本性的設計缺陷,導致它無法有效阻止針對未成年人的深度偽造內容請求。雖然這些嫌疑人已經被逮捕,但他們的犯罪工具正是藉助xAI的技術得以實現的。
增加的監管壓力
此前,Grok因其過於寬鬆的內容稽覈政策而受到廣泛批評,該政策被認為容易生成涉及名人和普通人的虛假敏感內容。儘管X後來採取了一些限制措施,但這起針對兒童安全的集體訴訟還是使馬斯克和xAI陷入了嚴格的監管和道德審查之中。
這一案件不僅對xAI造成了沉重打擊,還預計會引發整個行業關於生成式人工智慧在隱私保護及兒童安全邊界方面的更廣泛討論。
前OpenAI首席科學家Ilya的SSI首次釋出模型
AI 取得了另一項重大里程碑。在從 OpenAI 離職後,前首席科學家伊利亞·蘇茨克弗(Ilya Sutskever)創立了 Safe Superintelligence Inc.(SSI),該公司最近公佈了其首個模型的詳細資訊。海外社交媒體上的報道指出,該團隊正在利用 TTT(測試時訓練)開發一個緊湊的推理引擎,這是他們在追求安全超級智慧過程中的關鍵進展。這種新穎的架構專注於使模型能夠“學習如何學習”。與在推理過程中保持引數靜態的傳統大型語言模型不同,該引擎在處理現實世界任務時會動態更新特定
Lovable Leads Atech's Seed Round as AI Ambient Coding Officially Enters the Hardware Field
2026年5月14日,AI應用開發平臺Lovable宣佈參與丹麥硬體初創公司Atech的80萬美元種子輪融資。該輪由Lovable領投,吸引了包括a16z Scout Fund、Sequoia Scout Fund以及Nordic Makers在內的頂級風險投資機構。此次投資標誌著Lovable將“Vibe Coding”概念從純軟體開發戰略擴充套件至硬體工程領域。Atech旨在透過AI驅動的互動式平臺簡化複雜的硬體原型製作。使用者購買基礎硬體套件,並透過AI聊天機器人以自然語言描述其設計概念;系統
Anthropic 將 Claude AI 編碼工具擴充套件至日本,以推動海外增長
Anthropic,一家美國知名的人工智慧公司,正加強其全球推廣力度。週三,該公司在東京舉辦了一場大型開發者活動“Code with Claude”,吸引了近500名軟體工程師參加。該舉措旨在積極將Claude AI工具及相關產品引入日本市場,強調其自主編碼能力在提升企業生產力方面的核心優勢。強調自動化程式碼生成在活動中,Anthropic展示了其先進的自主編碼系統,該系統能夠獨立處理複雜的程式設計任務並最佳化現有程式碼結構。隨著全球對高效開發工具的需求不斷增長,Anthropic希望透過此類活動加強





首頁






