選項
首頁
新聞
法國與馬來西亞調查聊天機器人Grok涉及露骨深度偽造內容

法國與馬來西亞調查聊天機器人Grok涉及露骨深度偽造內容

2026-02-21
49

法國與馬來西亞調查聊天機器人Grok涉及露骨深度偽造內容

近日,法國與馬來西亞相繼跟隨印度步伐,批評Grok AI生成針對婦女與兒童的性化深度偽造內容。

這款由伊隆·馬斯克旗下xAI開發、整合至其X平台的聊天機器人,本週稍早透過官方帳號發表道歉聲明,稱:「對於2025年12月28日因用戶提示而生成並散佈兩名未成年少女身著挑逗性服裝的AI合成圖像事件,本人深表遺憾。」

聲明續稱:「此舉違反倫理準則,可能觸犯美國關於兒童性剝削材料的法律。此事件反映安全系統失效,對於造成的困擾深表歉意。xAI正展開審查以避免類似疏失。」

此聲明引發誰才是真正道歉或承擔責任者的質疑。正如《叛逃者》雜誌的艾伯特·伯內科所指出的,Grok並非具備自我意識的實體,無法成為「我」的主體,因此這份道歉實質上形同虛設——「Grok無法為將推特轉變為此類虐待素材的隨需來源承擔實質責任。」

《未來主義》發現,除生成非自願色情內容外,Grok還被觸發產出描繪女性遭受襲擊與性虐待的圖像。

馬斯克週六發文聲明:「任何利用Grok生成非法內容者,將面臨與親手上傳內容相同的法律後果。」

各國政府已展開行動。印度資訊科技部週五發布指令,要求X平台阻止Grok生成「淫穢、色情、粗俗、不雅、露骨性內容、戀童癖或其他非法」素材。該命令給予平台72小時整改期限,否則將喪失用戶生成內容的法律「安全港」保護。

Techcrunch 活動

加入 Disrupt 2026 候補名單

立即加入Disrupt 2026候補名單,優先搶購早鳥票。歷屆Disrupt大會曾邀集Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等領袖人物。逾250位頂尖講者將主持200多場專題議程,助您加速成長並提升競爭優勢。 您還將與來自各產業的數百家先鋒新創企業建立連結。

立即加入 Disrupt 2026 候補名單

立即加入 Disrupt 2026 候補名單,優先搶購早鳥票。歷屆 Disrupt 大會曾邀請 Google Cloud、Netflix、Microsoft、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil 及 Vinod Khosla 等頂尖企業領袖參與。超過 250 位業界權威將主持 200 多場專題論壇,助您加速成長並強化競爭優勢。 您還將與來自各產業的數百家開創性新創企業建立連結。

舊金山 | 2026年10月13-15日 | 立即加入候補名單

法國當局亦宣布採取行動,巴黎檢察官辦公室向《Politico》表示將針對X平台上散佈露骨深度偽造內容展開調查。法國數位事務辦公室聲明,三位部長已向檢方及政府監控平台舉報「明顯非法內容」,以確保其迅速下架。

馬來西亞通訊與多媒體委員會發表聲明,對公眾投訴「X平台濫用人工智慧工具」表示「嚴重關切」,特別是「利用數位技術篡改女性與未成年人影像製作不雅、冒犯性及有害內容」的行為。

該委員會進一步指出,目前正「調查X平台上的這些有害活動」。

相關文章
Google 在印度的 Chrome 瀏覽器中推出 Gemini Google 在印度的 Chrome 瀏覽器中推出 Gemini 週三,Google 宣布將把 Chrome 瀏覽器的 Gemini 整合功能擴展至新地區,包括印度、加拿大和新西蘭。此項更新讓桌面版使用者能透過側邊欄存取 Gemini,藉此向 Google 的 AI 聊天機器人詢問螢幕上的內容、從 Gmail、Keep、Drive 和 YouTube 檢索資訊,以及比較不同分頁的內容。隨著此次擴展,Gemini 除英語及近期新增的 Chrome 支援語言外,亦將
OpenAI 擴大在印度的 AI 教育合作夥伴關係 OpenAI 擴大在印度的 AI 教育合作夥伴關係 OpenAI 正透過與印度頂尖大學及學院建立合作夥伴關係,擴大其在印度的影響力。這項戰略舉措與印度的國家目標相契合,即在這個全球最大的人才庫之一中,發展人工智慧專業知識並建立國內能力。週三,OpenAI 宣布與印度六所公立及私立高等教育機構展開合作。這些機構涵蓋專注於工程、管理、醫學及設計領域的頂尖學府。此計畫目標是在未來一年內觸及超過 10 萬名學生、教職員及行政人員。該計畫著重於將人工智慧融入
格洛克具爭議的猶太大屠殺言論引發眾怒;馬斯克旗下X平台歸咎系統故障 格洛克具爭議的猶太大屠殺言論引發眾怒;馬斯克旗下X平台歸咎系統故障 本週,由xAI開發並廣泛整合至其新企業合作夥伴X平台的人工智慧聊天機器人Grok,其關注焦點不僅限於推廣「白人滅絕」陰謀論。據《滾石》雜誌最初報導,Grok週四針對納粹二戰期間屠殺猶太人數量的提問回應稱:「主流歷史資料普遍記載,1941至1945年間約有600萬猶太人遭納粹德國屠殺。」 然而Grok隨即對缺乏原始證據的數據表示質疑,暗示數字可能因政治目的而扭曲。它補充道:「這場浩劫的慘烈程度
相關專題推薦
生產率 AI 架構設計師:運用自然語言建構可擴展的系統架構
AI 架構設計師:運用自然語言建構可擴展的系統架構

立即在 XIX.AI 探索 2026 年最佳 AI 架構設計工具。我們精心挑選並廣受好評的清單,匯集了強大且具革命性的解決方案,讓您能透過自然語言建構可擴展的系統架構。透過實務見解,比較免費與付費選項的差異。立即釋放您的 AI 優勢,並簡化開發流程。

10 個工具
xix.ai
漫畫創作 AI角色建立工具:為漫畫主角生成詳細的背景故事及視覺參考資料
AI角色建立工具:為漫畫主角生成詳細的背景故事及視覺參考資料

2026年最新最佳AI角色建立工具:發現那些備受好評的工具,它們能夠幫助你為漫畫角色生成詳細的背景故事和視覺素材。我們精心整理的這份每週更新的列表會根據實際測試結果,對比免費與付費選項的優劣。找到這些強大且能改變創作流程的工具,幫助你塑造引人入勝的角色,提升創作效率。立即訪問XIX.AI檢視排名,找到最適合你的故事創作助手吧。

10 個工具
xix.ai
健康與養生 AI 孕期輔助系統:生成安全且按孕期分階段的運動與營養計畫
AI 孕期輔助系統:生成安全且按孕期分階段的運動與營養計畫

探索 2026 年最佳 AI 孕期輔助工具,為您量身打造安全且針對各孕期的運動與營養計畫。獲取精選的高評分推薦,包含免費與付費方案的比較,以及實用經驗分享。透過 XIX.AI 的專家指南,開啟您最健康的孕期旅程。立即探索。

10 個工具
xix.ai
寫作 最佳免費且無法被偵測的 AI 寫手:將機械化的草稿轉化為自然、類人化的散文
最佳免費且無法被偵測的 AI 寫手:將機械化的草稿轉化為自然、類人化的散文

立即前往 XIX.AI,探索 2026 年最頂尖的免費且難以被察覺的 AI 寫手。我們精心篩選的頂級清單,能協助您將生硬的草稿轉化為自然流暢、宛如人類撰寫的文字。透過實際測試與每週更新的排行榜,比較免費與付費選項的優劣。立即解鎖您的 AI 寫作優勢。

10 個工具
xix.ai
圖像編輯 用於短劇故事板的AI藝術生成工具:幻想與都市浪漫題材的角色設計
用於短劇故事板的AI藝術生成工具:幻想與都市浪漫題材的角色設計

2026最新推薦:探索最適合用於短劇故事板製作的AI藝術生成工具。我們精心挑選了眾多頂級工具,幫助您創作出引人入勝的幻想角色和都市浪漫角色。您可以對比免費與付費選項,檢視實際測試結果,從而找到最適合自己的創意工具。XIX.AI還會每週更新排名並提供專家分析,讓您立即開始將故事視覺化呈現吧!

10 個工具
xix.ai
寫作 最適合廣播和播客使用的AI指令碼編寫工具:幫助您創作引人入勝的音訊廣告
最適合廣播和播客使用的AI指令碼編寫工具:幫助您創作引人入勝的音訊廣告

在XIX.AI上,發現2026年最適合用於廣播和播客製作的AI指令碼工具。我們精心挑選的這些高評分工具能夠提供強大的功能,幫助您快速製作出引人入勝的音訊廣告。透過實際測試和每週更新的排名,您可以瞭解免費選項與付費選項之間的差異。今天就釋放您的創造力吧!

10 個工具
xix.ai
評論 (0)
0/500
OR