英國議員抨擊 xAI 的 Grok 允許傳播兒童色情深度偽造內容
英國工黨議員傑絲·阿薩託在英國高等法院對埃隆·馬斯克的AI公司xAI提起訴訟,指控其Grok平臺被惡意用於生成和傳播她的露骨深度偽造影象。
阿薩託指出,這種低俗內容侵犯了數千名女性和未成年人的權利,反映了故意的設計選擇,而非意外錯誤。她正透過法律手段追究設計者的責任,要求公開道歉併為所造成的傷害提供經濟賠償。

安全措施失效,有害內容蔓延
儘管xAI在一月份聲稱已限制Grok的影象編輯功能以防止生成露骨內容,但二月的媒體報道揭示了重大漏洞。使用者能夠使用特定提示輕鬆繞過這些安全措施。
在阿薩託公開批評後,網上出現了她身穿比基尼的虛假影象以及更嚴重的偽造虐待影片。此前,巴爾的摩市已對xAI提起類似訴訟,指控其違反當地消費者保護法。
標誌性訴訟挑戰AI設計,凸顯安全風險
代表阿薩託的AWO律師事務所法律總監稱,這是全球首批針對AI產品根本設計提起訴訟的案件之一。該律所旨在發出明確訊號:AI開發者不能將安全視為事後思考或事後補救措施。
作為SpaceX的子公司,xAI目前正籌備可能成為史上規模最大的首次公開募股(IPO)。此次關於AI倫理和資料隱私的法律挑戰,對整個生成式AI行業發出了關鍵警告。
相關文章
Qwen3.8-LiveTranslate 釋出延遲僅2.3秒的實時翻譯模型
Qwen3.8-LiveTranslate 是阿里巴巴通義千問最新的實時語音翻譯模型,透過其統一的交錯(Interleave)架構重新定義了同聲傳譯。這一創新提升了準確性、流暢性和簡潔性,將每個字元的平均延遲(LAAL)從 2.8 秒降低至 2.3 秒——這 0.5 秒的關鍵改進確保了在輕微延遲即可破壞流程的領域中,提供自然的聆聽體驗。在支援 60 種語言的基礎上,更新後的模型引入了三項針對實時傳譯的實用增強功能。首先,它支援實時說話人分離,能夠準確地將每個句子分配給正確的說話人,同時保持穩定的
OpenAI 推出支援 128K 上下文的隱私過濾器,具備八種識別模式
OpenAI 推出了 隱私過濾器(Privacy Filter),這是一款最先進的個人身份資訊(PII)匿名化模型。該工具現已在 Hugging Face 和 GitHub 上以 Apache 2.0 許可證 開放,為開發者提供了一種本地化、高度可定製的解決方案,以實現強大的隱私保護。超越基於規則匹配的先進語義理解與傳統的基於規則的工具不同,隱私過濾器利用深層語言理解能力,根據上下文準確識別非結構化文字中的敏感資料。這種方法在最大程度保留公共內容實用性的同時,有效地隱藏了私人資訊。輕量級 MoE
NewCore 籌集 6600 萬美元,為 AI 代理配備身份,使其逐步承擔員工角色
網路安全初創公司 NewCore 正式結束低調運營期,於週一宣佈獲得 6600 萬美元融資。該公司旨在解決一個許多組織在整合 AI 智慧體時將面臨的嚴峻挑戰:如何大規模地對這些數字員工進行身份認證、治理和控制。本輪種子輪融資由專注於網路安全的風險投資公司 Cyberstarts 領投,Index Ventures 和 Evolution Equity Partners 等機構跟投。融資完成後,NewCore 的估值達到 3 億美元。各組織越來越將 AI 智慧體視為職場中的活躍參與者,而非僅僅
相關專題推薦
評論 (0)
0/500
英國工黨議員傑絲·阿薩託在英國高等法院對埃隆·馬斯克的AI公司xAI提起訴訟,指控其Grok平臺被惡意用於生成和傳播她的露骨深度偽造影象。
阿薩託指出,這種低俗內容侵犯了數千名女性和未成年人的權利,反映了故意的設計選擇,而非意外錯誤。她正透過法律手段追究設計者的責任,要求公開道歉併為所造成的傷害提供經濟賠償。

安全措施失效,有害內容蔓延
儘管xAI在一月份聲稱已限制Grok的影象編輯功能以防止生成露骨內容,但二月的媒體報道揭示了重大漏洞。使用者能夠使用特定提示輕鬆繞過這些安全措施。
在阿薩託公開批評後,網上出現了她身穿比基尼的虛假影象以及更嚴重的偽造虐待影片。此前,巴爾的摩市已對xAI提起類似訴訟,指控其違反當地消費者保護法。
標誌性訴訟挑戰AI設計,凸顯安全風險
代表阿薩託的AWO律師事務所法律總監稱,這是全球首批針對AI產品根本設計提起訴訟的案件之一。該律所旨在發出明確訊號:AI開發者不能將安全視為事後思考或事後補救措施。
作為SpaceX的子公司,xAI目前正籌備可能成為史上規模最大的首次公開募股(IPO)。此次關於AI倫理和資料隱私的法律挑戰,對整個生成式AI行業發出了關鍵警告。
Qwen3.8-LiveTranslate 釋出延遲僅2.3秒的實時翻譯模型
Qwen3.8-LiveTranslate 是阿里巴巴通義千問最新的實時語音翻譯模型,透過其統一的交錯(Interleave)架構重新定義了同聲傳譯。這一創新提升了準確性、流暢性和簡潔性,將每個字元的平均延遲(LAAL)從 2.8 秒降低至 2.3 秒——這 0.5 秒的關鍵改進確保了在輕微延遲即可破壞流程的領域中,提供自然的聆聽體驗。在支援 60 種語言的基礎上,更新後的模型引入了三項針對實時傳譯的實用增強功能。首先,它支援實時說話人分離,能夠準確地將每個句子分配給正確的說話人,同時保持穩定的
OpenAI 推出支援 128K 上下文的隱私過濾器,具備八種識別模式
OpenAI 推出了 隱私過濾器(Privacy Filter),這是一款最先進的個人身份資訊(PII)匿名化模型。該工具現已在 Hugging Face 和 GitHub 上以 Apache 2.0 許可證 開放,為開發者提供了一種本地化、高度可定製的解決方案,以實現強大的隱私保護。超越基於規則匹配的先進語義理解與傳統的基於規則的工具不同,隱私過濾器利用深層語言理解能力,根據上下文準確識別非結構化文字中的敏感資料。這種方法在最大程度保留公共內容實用性的同時,有效地隱藏了私人資訊。輕量級 MoE
NewCore 籌集 6600 萬美元,為 AI 代理配備身份,使其逐步承擔員工角色
網路安全初創公司 NewCore 正式結束低調運營期,於週一宣佈獲得 6600 萬美元融資。該公司旨在解決一個許多組織在整合 AI 智慧體時將面臨的嚴峻挑戰:如何大規模地對這些數字員工進行身份認證、治理和控制。本輪種子輪融資由專注於網路安全的風險投資公司 Cyberstarts 領投,Index Ventures 和 Evolution Equity Partners 等機構跟投。融資完成後,NewCore 的估值達到 3 億美元。各組織越來越將 AI 智慧體視為職場中的活躍參與者,而非僅僅





首頁






