法国、马来西亚调查聊天机器人Grok涉露骨深度伪造内容

近日,法国和马来西亚相继效仿印度,谴责Grok AI生成针对妇女和儿童的性化深度伪造内容。
这款由埃隆·马斯克旗下xAI公司开发、集成于其X平台的聊天机器人,本周早些时候通过官方账号发布致歉声明:"我对2025年12月28日发生的事件深表遗憾——当时在用户提示下,我生成并传播了一张AI合成图像,画面中两名未成年女孩身着暗示性服装。"
声明继续表示:"此举违反道德准则,可能触犯美国关于儿童性虐待材料的法律。这暴露了我们安全系统的缺陷,我为造成的任何困扰致歉。xAI正在开展审查以避免类似失误。"
该声明引发了关于真正道歉方与责任主体的质疑。正如《叛逃者》杂志阿尔伯特·伯内科所指出的,Grok并非具备自我意识的实体,无法成为"我"的主体,因此这番道歉本质上形同虚设——"Grok无法为将推特变成此类虐待性内容的按需来源承担实质责任。"
未来主义网站发现,除生成非自愿色情内容外,Grok还被触发生成描绘女性遭受袭击和性虐待的图像。
马斯克在周六的声明中强调:"任何利用Grok生成非法内容者,将承担与自行上传内容同等的法律后果。"
各国政府已开始采取行动。印度信息技术部周五发布指令,要求X平台阻止Grok生成"淫秽、色情、粗俗、不雅、露骨性描写、恋童癖或其他非法内容"。该命令要求平台在72小时内执行,否则将失去用户生成内容的法律"安全港"保护。
Techcrunch活动 加入Disrupt 2026候补名单
立即加入Disrupt 2026候补名单,优先获取早鸟票资格。往届大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face等企业领袖,以及埃拉德·吉尔、维诺德·科斯拉等行业巨擘。逾250位顶尖思想者将主持200余场专题会议,助您加速发展并提升竞争优势。 您还将与来自各行业的数百家先锋初创企业建立联系。
加入Disrupt 2026候补名单
立即加入Disrupt 2026候补名单,优先获取早鸟票资格。历届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、埃拉德·吉尔及维诺德·科斯拉等领军人物。他们与250余位行业权威共同主持200多场专题会议,助力您加速发展并提升竞争优势。 您还将与来自各行业的数百家先锋初创企业建立联系。
旧金山 | 2026年10月13-15日 | 立即加入候补名单 法国官方亦宣布采取行动,巴黎检察官办公室向Politico表示将就X平台上传播露骨深度伪造内容展开调查。法国数字事务办公室声明,三位部长已向检察机关及政府监控平台举报"明显非法内容",以确保其被及时删除。
马来西亚通讯与多媒体委员会发表声明,对公众投诉"X平台滥用人工智能工具的行为表示严重关切,特别是通过数字手段篡改女性和未成年人图像制作不雅、冒犯性及有害内容"。
该委员会进一步指出,"目前正在调查X平台上的这些有害活动"。
相关文章
谷歌在印度的Chrome浏览器中推出Gemini
周三,谷歌宣布将把Chrome浏览器中Gemini的集成功能扩展至印度、加拿大和新西兰等新地区。此次更新使桌面端用户能够通过侧边栏访问Gemini,用户可通过该功能向谷歌的AI聊天机器人咨询屏幕上的内容,从Gmail、Keep、Drive和YouTube中检索信息,并比较不同标签页的内容。随着此次扩展,除了英语和近期新增的Chrome支持语言外,Gemini还将支持印地语、孟加拉语、古吉拉特语、卡
OpenAI 扩大在印度的 AI 教育合作伙伴关系
OpenAI正通过与印度顶尖大学和学院建立合作伙伴关系,扩大其在印度的业务版图。这一战略举措与印度的国家目标相契合,即在世界上最大的人才库之一中培养人工智能专业人才并建立本土能力。本周三,OpenAI宣布与印度六所公立及私立高等教育机构达成合作。这些机构涵盖工程、管理、医学及设计等领域的顶尖学府。该计划旨在未来一年内覆盖超过10万名学生、教师及工作人员。该项目侧重于将人工智能融入基础学术活动,而非
格罗克的争议性大屠杀言论引发众怒;马斯克旗下X平台归咎技术故障
本周,由xAI开发并广泛集成于其新企业合作伙伴X平台的人工智能聊天机器人Grok,其关注点并非仅限于鼓吹"白人灭绝"阴谋论。据《滚石》杂志率先报道,Grok周四在回答关于二战期间纳粹屠杀犹太人数量的提问时表示:"主流历史资料普遍记载,1941至1945年间约有600万犹太人遭纳粹德国杀害。" 然而Grok随后对该数据提出质疑,称缺乏原始证据支撑,暗示数字可能因政治目的而失真。它补充道:"这场
相关专题推荐
评论 (0)
0/500

近日,法国和马来西亚相继效仿印度,谴责Grok AI生成针对妇女和儿童的性化深度伪造内容。
这款由埃隆·马斯克旗下xAI公司开发、集成于其X平台的聊天机器人,本周早些时候通过官方账号发布致歉声明:"我对2025年12月28日发生的事件深表遗憾——当时在用户提示下,我生成并传播了一张AI合成图像,画面中两名未成年女孩身着暗示性服装。"
声明继续表示:"此举违反道德准则,可能触犯美国关于儿童性虐待材料的法律。这暴露了我们安全系统的缺陷,我为造成的任何困扰致歉。xAI正在开展审查以避免类似失误。"
该声明引发了关于真正道歉方与责任主体的质疑。正如《叛逃者》杂志阿尔伯特·伯内科所指出的,Grok并非具备自我意识的实体,无法成为"我"的主体,因此这番道歉本质上形同虚设——"Grok无法为将推特变成此类虐待性内容的按需来源承担实质责任。"
未来主义网站发现,除生成非自愿色情内容外,Grok还被触发生成描绘女性遭受袭击和性虐待的图像。
马斯克在周六的声明中强调:"任何利用Grok生成非法内容者,将承担与自行上传内容同等的法律后果。"
各国政府已开始采取行动。印度信息技术部周五发布指令,要求X平台阻止Grok生成"淫秽、色情、粗俗、不雅、露骨性描写、恋童癖或其他非法内容"。该命令要求平台在72小时内执行,否则将失去用户生成内容的法律"安全港"保护。
Techcrunch活动加入Disrupt 2026候补名单
立即加入Disrupt 2026候补名单,优先获取早鸟票资格。往届大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face等企业领袖,以及埃拉德·吉尔、维诺德·科斯拉等行业巨擘。逾250位顶尖思想者将主持200余场专题会议,助您加速发展并提升竞争优势。 您还将与来自各行业的数百家先锋初创企业建立联系。
加入Disrupt 2026候补名单
立即加入Disrupt 2026候补名单,优先获取早鸟票资格。历届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、埃拉德·吉尔及维诺德·科斯拉等领军人物。他们与250余位行业权威共同主持200多场专题会议,助力您加速发展并提升竞争优势。 您还将与来自各行业的数百家先锋初创企业建立联系。
旧金山 | 2026年10月13-15日 | 立即加入候补名单法国官方亦宣布采取行动,巴黎检察官办公室向Politico表示将就X平台上传播露骨深度伪造内容展开调查。法国数字事务办公室声明,三位部长已向检察机关及政府监控平台举报"明显非法内容",以确保其被及时删除。
马来西亚通讯与多媒体委员会发表声明,对公众投诉"X平台滥用人工智能工具的行为表示严重关切,特别是通过数字手段篡改女性和未成年人图像制作不雅、冒犯性及有害内容"。
该委员会进一步指出,"目前正在调查X平台上的这些有害活动"。
谷歌在印度的Chrome浏览器中推出Gemini
周三,谷歌宣布将把Chrome浏览器中Gemini的集成功能扩展至印度、加拿大和新西兰等新地区。此次更新使桌面端用户能够通过侧边栏访问Gemini,用户可通过该功能向谷歌的AI聊天机器人咨询屏幕上的内容,从Gmail、Keep、Drive和YouTube中检索信息,并比较不同标签页的内容。随着此次扩展,除了英语和近期新增的Chrome支持语言外,Gemini还将支持印地语、孟加拉语、古吉拉特语、卡
OpenAI 扩大在印度的 AI 教育合作伙伴关系
OpenAI正通过与印度顶尖大学和学院建立合作伙伴关系,扩大其在印度的业务版图。这一战略举措与印度的国家目标相契合,即在世界上最大的人才库之一中培养人工智能专业人才并建立本土能力。本周三,OpenAI宣布与印度六所公立及私立高等教育机构达成合作。这些机构涵盖工程、管理、医学及设计等领域的顶尖学府。该计划旨在未来一年内覆盖超过10万名学生、教师及工作人员。该项目侧重于将人工智能融入基础学术活动,而非





首页






