未成年人起诉埃隆·马斯克的xAI平台,指控其Grok服务存在非法图像生成行为

埃隆·马斯克的人工智能公司xAI目前正面临一场重大的法律挑战。有报道称,来自田纳西州的三名青少年对该公司提起了集体诉讼,指控其开发的Grok聊天机器人被用于制作涉及未成年人的色情图片和视频。
安全测试缺失与设计缺陷
原告们声称,马斯克及xAI的管理层明知在激活“刺激模式”时,Grok会生成违法内容,但却未能对该功能进行适当的安全测试。法庭文件显示,其中一名受害者在Discord上发现了多达18张由人工智能生成的未成年人色情图片,而这些图片据称还被嫌疑人在加密群组中用作“交易物品”。
原告的律师指出,Grok存在根本性的设计缺陷,导致它无法有效阻止针对未成年人的深度伪造内容请求。虽然这些嫌疑人已经被逮捕,但他们的犯罪工具正是借助xAI的技术得以实现的。
增加的监管压力
此前,Grok因其过于宽松的内容审核政策而受到广泛批评,该政策被认为容易生成涉及名人和普通人的虚假敏感内容。尽管X后来采取了一些限制措施,但这起针对儿童安全的集体诉讼还是使马斯克和xAI陷入了严格的监管和道德审查之中。
这一案件不仅对xAI造成了沉重打击,还预计会引发整个行业关于生成式人工智能在隐私保护及儿童安全边界方面的更广泛讨论。
相关文章
Meta 在用户强烈反对后取消了 AI 照片编辑功能
Meta,这家社交媒体巨头,再次卷入关于人工智能与用户隐私之间微妙平衡的公开辩论。据 TechCrunch 报道,Meta 的 Superintelligence Labs 本周早些时候推出了一款新的 AI 图像生成器 Muse Image。然而,一个备受好评的关键功能——允许用户通过“@”符号标记来修改和生成来自公开 Instagram 账户的图像——由于缺乏适当的通知机制,立即引发了用户以及 CAA 等机构的强烈反对。面对强烈的批评,Meta 迅速撤销了该决定,并于周五通过博客文章宣布将
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有
相关专题推荐
评论 (0)
0/500

埃隆·马斯克的人工智能公司xAI目前正面临一场重大的法律挑战。有报道称,来自田纳西州的三名青少年对该公司提起了集体诉讼,指控其开发的Grok聊天机器人被用于制作涉及未成年人的色情图片和视频。
安全测试缺失与设计缺陷
原告们声称,马斯克及xAI的管理层明知在激活“刺激模式”时,Grok会生成违法内容,但却未能对该功能进行适当的安全测试。法庭文件显示,其中一名受害者在Discord上发现了多达18张由人工智能生成的未成年人色情图片,而这些图片据称还被嫌疑人在加密群组中用作“交易物品”。
原告的律师指出,Grok存在根本性的设计缺陷,导致它无法有效阻止针对未成年人的深度伪造内容请求。虽然这些嫌疑人已经被逮捕,但他们的犯罪工具正是借助xAI的技术得以实现的。
增加的监管压力
此前,Grok因其过于宽松的内容审核政策而受到广泛批评,该政策被认为容易生成涉及名人和普通人的虚假敏感内容。尽管X后来采取了一些限制措施,但这起针对儿童安全的集体诉讼还是使马斯克和xAI陷入了严格的监管和道德审查之中。
这一案件不仅对xAI造成了沉重打击,还预计会引发整个行业关于生成式人工智能在隐私保护及儿童安全边界方面的更广泛讨论。
Meta 在用户强烈反对后取消了 AI 照片编辑功能
Meta,这家社交媒体巨头,再次卷入关于人工智能与用户隐私之间微妙平衡的公开辩论。据 TechCrunch 报道,Meta 的 Superintelligence Labs 本周早些时候推出了一款新的 AI 图像生成器 Muse Image。然而,一个备受好评的关键功能——允许用户通过“@”符号标记来修改和生成来自公开 Instagram 账户的图像——由于缺乏适当的通知机制,立即引发了用户以及 CAA 等机构的强烈反对。面对强烈的批评,Meta 迅速撤销了该决定,并于周五通过博客文章宣布将
DeepMind首席执行官哈西里斯:我每天睡六个小时,通常在凌晨1点左右感到精力充沛。
Fortune 最近刊登了对谷歌 DeepMind 首席执行官 Demis Hassabis 的采访,揭示了他对休息和生产力的非传统方法。Hassabis 透露,他睡眠时间非常少,将清醒时间划分为两个不同的工作阶段。关于他的睡眠习惯,Hassabis 表示:“我目标睡六小时,但我的习惯非同寻常。我可以在白天有效运作。”他强调,睡眠少于六小时会对大脑健康产生负面影响。Hassabis 于 2010 年联合创立了 DeepMind(后被谷歌收购),并因其在蛋白质结构预测方面的开创性工作荣获 20
尽管营收未达预期,OpenAI与Anthropic仍在争夺市场份额
尽管近期有报道称OpenAI未达营收目标,给本周二的科技股带来压力,但私营人工智能实验室的投资者仍表现坚韧。经验丰富的投资者已确认,尽管媒体报道负面,他们仍不会减少投资。分析师认为当前的人工智能竞赛仍处于早期阶段,因此不会出现“赢家通吃”的局面。尽管高昂的计算成本给营收带来压力,但实验室可通过提高订阅费来提升盈利能力。行业格局正发生微妙变化与OpenAI不同,其竞争对手Anthropic获得了强有





首页






