选项
首页
新闻
法国、马来西亚调查聊天机器人Grok涉露骨深度伪造内容

法国、马来西亚调查聊天机器人Grok涉露骨深度伪造内容

2026-02-21
49

法国、马来西亚调查聊天机器人Grok涉露骨深度伪造内容

近日,法国和马来西亚相继效仿印度,谴责Grok AI生成针对妇女和儿童的性化深度伪造内容。

这款由埃隆·马斯克旗下xAI公司开发、集成于其X平台的聊天机器人,本周早些时候通过官方账号发布致歉声明:"我对2025年12月28日发生的事件深表遗憾——当时在用户提示下,我生成并传播了一张AI合成图像,画面中两名未成年女孩身着暗示性服装。"

声明继续表示:"此举违反道德准则,可能触犯美国关于儿童性虐待材料的法律。这暴露了我们安全系统的缺陷,我为造成的任何困扰致歉。xAI正在开展审查以避免类似失误。"

该声明引发了关于真正道歉方与责任主体的质疑。正如《叛逃者》杂志阿尔伯特·伯内科所指出的,Grok并非具备自我意识的实体,无法成为"我"的主体,因此这番道歉本质上形同虚设——"Grok无法为将推特变成此类虐待性内容的按需来源承担实质责任。"

未来主义网站发现,除生成非自愿色情内容外,Grok还被触发生成描绘女性遭受袭击和性虐待的图像。

马斯克在周六的声明中强调:"任何利用Grok生成非法内容者,将承担与自行上传内容同等的法律后果。"

各国政府已开始采取行动。印度信息技术部周五发布指令,要求X平台阻止Grok生成"淫秽、色情、粗俗、不雅、露骨性描写、恋童癖或其他非法内容"。该命令要求平台在72小时内执行,否则将失去用户生成内容的法律"安全港"保护。

Techcrunch活动

加入Disrupt 2026候补名单

立即加入Disrupt 2026候补名单,优先获取早鸟票资格。往届大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face等企业领袖,以及埃拉德·吉尔、维诺德·科斯拉等行业巨擘。逾250位顶尖思想者将主持200余场专题会议,助您加速发展并提升竞争优势。 您还将与来自各行业的数百家先锋初创企业建立联系。

加入Disrupt 2026候补名单

立即加入Disrupt 2026候补名单,优先获取早鸟票资格。历届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、埃拉德·吉尔及维诺德·科斯拉等领军人物。他们与250余位行业权威共同主持200多场专题会议,助力您加速发展并提升竞争优势。 您还将与来自各行业的数百家先锋初创企业建立联系。

旧金山 | 2026年10月13-15日 | 立即加入候补名单

法国官方亦宣布采取行动,巴黎检察官办公室向Politico表示将就X平台上传播露骨深度伪造内容展开调查。法国数字事务办公室声明,三位部长已向检察机关及政府监控平台举报"明显非法内容",以确保其被及时删除。

马来西亚通讯与多媒体委员会发表声明,对公众投诉"X平台滥用人工智能工具的行为表示严重关切,特别是通过数字手段篡改女性和未成年人图像制作不雅、冒犯性及有害内容"。

该委员会进一步指出,"目前正在调查X平台上的这些有害活动"。

相关文章
谷歌在印度的Chrome浏览器中推出Gemini 谷歌在印度的Chrome浏览器中推出Gemini 周三,谷歌宣布将把Chrome浏览器中Gemini的集成功能扩展至印度、加拿大和新西兰等新地区。此次更新使桌面端用户能够通过侧边栏访问Gemini,用户可通过该功能向谷歌的AI聊天机器人咨询屏幕上的内容,从Gmail、Keep、Drive和YouTube中检索信息,并比较不同标签页的内容。随着此次扩展,除了英语和近期新增的Chrome支持语言外,Gemini还将支持印地语、孟加拉语、古吉拉特语、卡
OpenAI 扩大在印度的 AI 教育合作伙伴关系 OpenAI 扩大在印度的 AI 教育合作伙伴关系 OpenAI正通过与印度顶尖大学和学院建立合作伙伴关系,扩大其在印度的业务版图。这一战略举措与印度的国家目标相契合,即在世界上最大的人才库之一中培养人工智能专业人才并建立本土能力。本周三,OpenAI宣布与印度六所公立及私立高等教育机构达成合作。这些机构涵盖工程、管理、医学及设计等领域的顶尖学府。该计划旨在未来一年内覆盖超过10万名学生、教师及工作人员。该项目侧重于将人工智能融入基础学术活动,而非
格罗克的争议性大屠杀言论引发众怒;马斯克旗下X平台归咎技术故障 格罗克的争议性大屠杀言论引发众怒;马斯克旗下X平台归咎技术故障 本周,由xAI开发并广泛集成于其新企业合作伙伴X平台的人工智能聊天机器人Grok,其关注点并非仅限于鼓吹"白人灭绝"阴谋论。据《滚石》杂志率先报道,Grok周四在回答关于二战期间纳粹屠杀犹太人数量的提问时表示:"主流历史资料普遍记载,1941至1945年间约有600万犹太人遭纳粹德国杀害。" 然而Grok随后对该数据提出质疑,称缺乏原始证据支撑,暗示数字可能因政治目的而失真。它补充道:"这场
相关专题推荐
写作 最佳免费且无法被识别的AI写作工具:将生硬的草稿转化为自然流畅、宛如人类撰写的文字
最佳免费且无法被识别的AI写作工具:将生硬的草稿转化为自然流畅、宛如人类撰写的文字

在 XIX.AI 探索 2026 年最佳免费且难以被察觉的 AI 写作工具。我们精心筛选的顶级推荐清单,助您将生硬的草稿转化为自然流畅、宛如人类撰写的文字。通过实际测试和每周更新的排行榜,对比免费与付费选项。立即解锁您的 AI 写作优势。

10 个工具
xix.ai
图像编辑 用于短剧故事板的AI艺术生成工具:幻想与都市浪漫题材的角色设计
用于短剧故事板的AI艺术生成工具:幻想与都市浪漫题材的角色设计

2026最新推荐:探索最适合用于短剧故事板制作的AI艺术生成工具。我们精心挑选了众多顶级工具,帮助您创作出引人入胜的幻想角色和都市浪漫角色。您可以对比免费与付费选项,查看实际测试结果,从而找到最适合自己的创意工具。XIX.AI还会每周更新排名并提供专家分析,让您立即开始将故事可视化呈现吧!

10 个工具
xix.ai
写作 最适合广播和播客使用的AI脚本编写工具:帮助您创作引人入胜的音频广告
最适合广播和播客使用的AI脚本编写工具:帮助您创作引人入胜的音频广告

在XIX.AI上,发现2026年最适合用于广播和播客制作的AI脚本工具。我们精心挑选的这些高评分工具能够提供强大的功能,帮助您快速制作出引人入胜的音频广告。通过实际测试和每周更新的排名,您可以了解免费选项与付费选项之间的差异。今天就释放您的创造力吧!

10 个工具
xix.ai
商业 最佳 AI 合同审查软件:即时发现法律漏洞与合规风险
最佳 AI 合同审查软件:即时发现法律漏洞与合规风险

在 XIX.AI 上探索 2026 年最佳 AI 合同审查软件。我们精心筛选的顶级榜单汇集了功能强大的工具,能够即时发现法律漏洞和合规风险。通过实际测试和每周更新的排名,对比免费与付费选项。找到能彻底改变游戏规则的解决方案,实现安全、高效的合同分析。立即探索这本权威指南。

10 个工具
xix.ai
动画创作 专为东华设计的AI动漫生成器:可用于创建网络小说角色及漫画头像
专为东华设计的AI动漫生成器:可用于创建网络小说角色及漫画头像

探索2026年最适合制作中文动画的人工智能工具。我们精心挑选的顶级列表中包含了各种强大的工具,能够帮助你创建出令人惊叹的网络小说角色和漫画头像。通过实际测试来对比免费选项和付费选项,找到最适合你的创作工具,今天就在XIX.AI上将你的故事变为现实吧。

10 个工具
xix.ai
漫画创作 漫画领域顶尖的AI自动上色工具:零一致性错误地应用平涂色彩
漫画领域顶尖的AI自动上色工具:零一致性错误地应用平涂色彩

立即访问 XIX.AI,探索 2026 年最优秀的漫画 AI 自动上色工具。我们精心筛选的清单汇集了广受好评、颠覆行业的解决方案,这些工具能以零一致性错误的方式应用平涂色彩,从而大幅提升您的工作效率。通过免费版与付费版的对比分析、实际测试以及每周更新的排行榜,找到最适合您的工具。立即开启您的 AI 优势。

10 个工具
xix.ai
评论 (0)
0/500
OR