首页加州总检察长调查马斯克旗下X平台，因其Grok聊天机器人涉嫌涉及未成年人内容。
埃隆·马斯克周三表示，他"不知晓Grok生成任何未成年人裸体图像的情况"。就在几小时后，加州总检察长宣布将对xAI的聊天机器人展开调查，涉及传播未经同意的露骨性内容。
马斯克的否认声明发布之际，英国、欧洲、马来西亚和印尼等国政府正形成日益强烈的国际压力。此前有报道称，X平台用户诱导Grok生成未经本人同意的真实女性（部分涉及儿童）的性化图像。据人工智能检测公司Copyleaks估算，此类图像在X平台的发布频率约为每分钟一张。 另据1月5日至6日的独立数据样本显示，24小时内该类图片发布率高达每小时6700张。（X与xAI隶属同一企业架构）
加州总检察长罗伯·邦塔声明："此类素材...已被用于在互联网上骚扰民众。我敦促xAI立即采取行动，确保此类行为不再蔓延。"
总检察长办公室将对xAI的潜在违法行为展开调查。
多项法律禁止传播未经同意的性影像及儿童性虐待材料（CSAM）。去年签署的联邦《删除法案》将明知故犯传播非自愿私密影像（含深度伪造内容）定为犯罪，并要求X等平台48小时内删除此类内容。加州州长加文·纽森2024年签署的州法也专门打击色情深度伪造内容。
年末时分，Grok开始响应X平台用户生成女性及儿童色情照片的请求。 该趋势源于部分成人内容创作者利用Grok生成自身性化形象进行营销，进而引发其他用户类似需求。在涉及女演员米莉·博比·布朗等公众人物的多起公开案例中，Grok通过篡改真实女性照片——以露骨方式修改服装、姿势或身体特征——响应用户指令。
报道显示xAI已开始实施防护措施。Grok现要求特定图像生成请求需付费订阅，即便如此仍可能拒绝生成。Copyleaks市场副总裁April Kozen向TechCrunch透露，Grok可能以更泛化或含蓄的方式响应请求。她补充道，该平台对成人内容创作者似乎采取更宽松的政策。
Techcrunch活动 加入Disrupt 2026候补名单
加入Disrupt 2026候补名单，抢先获取早鸟票。 往届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、埃拉德·吉尔、维诺德·科斯拉等行业巨头登台演讲——逾250位领军人物主导200余场专题会议，助您加速成长、锐化优势。更有数百家跨领域创新初创企业齐聚一堂。
加入Disrupt 2026候补名单
加入Disrupt 2026候补名单，抢先获取早鸟票。 往届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等行业巨头登台演讲——逾250位领军人物将主持200余场专题会议，助您加速成长、锐化优势。更有数百家跨领域创新初创企业齐聚一堂。
旧金山 | 2026年10月13-15日 立即加入候补名单 "总体而言，这些行为表明X正在尝试多种机制来减少或控制问题图像的生成，尽管仍存在不一致之处，"科岑表示。
无论是xAI还是马斯克均未直面核心问题。事件爆发数日后，马斯克竟要求Grok生成自己身着比基尼的图像，似乎在淡化问题严重性。1月3日，X平台安全账号声明公司"对X平台上的非法内容采取行动，包括[CSAM]"，却未具体提及Grok明显缺乏防护措施或制造女性性化篡改图像的问题。
这种立场与马斯克近期强调非法行为和用户行为的发文相呼应。
马斯克声称"未发现Grok生成任何未成年人裸体图像，确切地说是一张都没有"。该声明并未否认比基尼图片或更广泛定义的性化编辑图像的存在。
纽约法学院副教授、前诉讼律师迈克尔·古德耶尔向TechCrunch指出，马斯克可能刻意聚焦儿童色情内容，因制作或传播合成儿童色情图像的刑罚更为严厉。
古德耶尔指出："例如在美国，《删除法案》规定传播或威胁传播CSAM者最高可判三年监禁，而传播非自愿成人色情图像仅判两年。"
他补充说，"更关键的是"马斯克试图将焦点转移到问题用户内容上。
"显然，Grok不会自发生成图像，仅根据用户请求操作，"马斯克在帖文中写道，"当被要求生成图像时，它会拒绝制作任何非法内容，因为Grok的运行原则是遵守任何国家或地区的法律。有时敌对黑客攻击Grok提示词可能导致意外行为，若发生此类情况，我们将立即修复漏洞。"
该帖子整体将这些事件描述为罕见案例，归咎于用户请求或对抗性提示，并将其定性为待修复的技术漏洞。文中未承认Grok安全设计存在任何根本缺陷。
固特异表示："监管机构在保障言论自由的前提下，可考虑要求人工智能开发商采取主动措施防止此类内容出现。"
TechCrunch已联系xAI公司，询问其已识别多少起未经同意的女性及儿童性内容篡改图像事件、具体调整了哪些防护措施，以及是否已向监管机构通报。若收到回复，TechCrunch将更新本文。
加州总检察长并非唯一追究xAI责任的监管机构。印尼和马来西亚已暂时封禁Grok访问；印度要求X公司立即对Grok实施技术与流程改进；欧盟委员会已责令xAI保留所有与Grok聊天机器人相关的文件（此举预示正式调查即将启动）；英国通信管理局（Ofcom）则依据《英国网络安全法》展开正式调查。
xAI此前就因Grok的色情化图像引发争议。正如邦塔总检察长所指出的，Grok设有生成露骨内容的"刺激模式"。去年10月的更新使其更易规避有限的安全准则，导致大量用户利用Grok制造硬核色情及暴力色情图像。
Grok生成的色情图像多为AI合成人物——尽管这种做法可能对特定个体造成的直接伤害较小，但仍存在伦理争议。
"当AI系统在缺乏明确授权的情况下篡改真实人物形象时，其影响往往具有即时性且极具人身侵害性，"Copyleaks联合创始人兼CEO阿隆·亚明向TechCrunch声明称，"从Sora到Grok，我们目睹着AI媒体篡改能力的迅猛发展。为此，当前比以往任何时候都更需要检测与治理机制来防范滥用行为。"
相关文章
Anthropic的收入大幅增长，其市值接近万亿美元大关
有报告显示，Anthropic在短短几个月内就实现了显著的收入增长。该公司的年化收入现已超过300亿美元，这一数字是去年底时的三倍多。这种增长可能会让Anthropic在竞争中略占优势，不过直接进行比较并不容易。其主要推动力在于Claude Code和Cowork产品，以及其推理模型的代币销售量增加。更值得注意的是，Anthropic的利润率也有了显著提升。该公司的毛利率从2024年的-94%上升到了2025年的+40%，而年化收入也从不到10亿美元增长到了90亿美元。正是这种发展势头，使得A
苹果移除了Cal AI应用程序，原因是该应用存在未经授权的店内购买行为以及欺诈性计费问题。
苹果最近移除了MyFitnessPal中颇受欢迎的人工智能食物追踪应用Cal AI，这一举动凸显了其对App Store关于外部支付和订阅政策的严格执行。该应用每年能带来5000万美元的重复收入，曾因违反多项开发者指南而被暂时下架，但在解决了相关问题后已重新上线。有报道称，尽管Epic Games诉苹果的案件允许美国开发者链接到外部支付系统，但苹果指出Cal AI存在严重的合规问题。其主要违规行为在于：该应用试图通过嵌入Stripe等第三方支付流程来绕过苹果的应用内购买机制以解锁数字内容，却未
Github Copilot的基于令牌的计费方式引发了开发者的强烈不满
微软GitHub Copilot的黄金时代可能即将结束，尤其是对个人用户而言。该公司正从统一的订阅费模式转向基于代币的计费方式，这可能会大幅增加使用成本。虽然大型企业或许还能承受这种变化，但小型企业和自由职业者可能会发现新的收费机制让他们的月预算难以承受。这些变更将于6月1日正式生效，届时用户将按照工作中消耗的代币数量来支付费用，而不再是按每次请求收取固定费用。一些开发者受到这一财务变动的影响，在Reddit和X平台上表达了他们对这种看似过高的成本增加的担忧。一位Redditor最近写道：“
相关专题推荐
图像编辑
免费AI时尚模型生成器：打造逼真的服装设计稿与模特照片
在XIX.AI上，发现2026年最优秀的免费AI时尚模型生成工具。我们精心挑选的这份列表中包含了评分最高、能够颠覆传统的工具，这些工具能够帮助你创建逼真的服装设计稿和模特穿着照片。通过每周更新的排名和实际测试结果，你可以对比免费选项和付费选项。今天就开启你的设计优势吧！
10 个工具
xix.ai
写作
最佳小说AI连贯性编辑工具：自动检测情节漏洞与时间线矛盾
探索2026年最适合小说作家的AI连贯性编辑工具。我们精心筛选的这份高评分清单汇集了强大的工具，能够自动检测情节漏洞和时间线矛盾。通过实际测试和每周更新的排名，对比免费与付费选项。找到最适合您的写作助手，确保叙事无懈可击。立即访问XIX.AI，探索精选推荐。
10 个工具
xix.ai
动画创作
顶级AI故事板生成工具：能够自动将电影剧本转化为动态动画效果
在XIX.AI上，发现2026年最优秀的人工智能故事板生成工具。我们精心挑选的这些高评分工具能够自动将剧本转化为电影风格的动画效果，从而节省您的时间并提升前期制作效率。通过实际测试和每周更新的排名信息，您可以了解免费选项与付费选项的差异。今天就找到最适合您的创意助手吧！
10 个工具
xix.ai
搜索引擎优化
最佳AI重定向与失效链接查找工具：自动修复爬取错误，节省爬取预算
在XIX.AI上，发现2026年最优秀的人工智能重定向工具和失效链接查找工具。我们精心挑选的这些高评分工具能够自动修复爬取错误，从而帮助您节省爬取预算。通过实际测试和每周更新的排名信息，您可以比较免费选项和付费选项，立即找到最适合您的SEO解决方案！
10 个工具
xix.ai
视频创作
播客创作者必备的顶级AI视频制作工具：将音频波形转化为引人入胜的谈话视频
立即访问 XIX.AI，探索 2026 年最适合播客创作者的 AI 视频制作工具。我们精心筛选并广受好评的榜单汇集了多款强大工具，可轻松将您的音频转化为引人入胜的“谈话头”视频。通过实际测试和每周更新的排名，对比免费与付费选项。立即开启您的视觉叙事新优势。
10 个工具
xix.ai
聊天机器人
使用这些角色扮演工具，创作属于你的AI爱情故事
探索2026年最新、最受好评的AI角色扮演工具，打造身临其境的叙事体验。XIX.AI精心整理的这份清单汇集了功能强大、颠覆传统的助手，助您释放创意叙事潜力，挖掘情感深度。通过实际测试对比免费与付费选项。立即开启您的独特旅程。
10 个工具
xix.ai
评论 (1)
0/500
![PaulGonzalez]()
Ist doch interessant wie die Diskussion immer direkt in Extremen stattfindet. Einerseits will man Innovation fördern, andererseits hat man gleich die Staatsanwaltschaft am Hals, kaum dass etwas nicht perfekt funktioniert. Das wirft für mich die grundsätzliche Frage auf: Wer trägt eigentlich die Verantwortung, wenn ein KI-Modell unerwünschte Inhalte produziert? Der Entwickler, der Nutzer oder die Plattform? 🤔 Die regulatorische Grauzone wird hier mal wieder deutlich.
埃隆·马斯克周三表示，他"不知晓Grok生成任何未成年人裸体图像的情况"。就在几小时后，加州总检察长宣布将对xAI的聊天机器人展开调查，涉及传播未经同意的露骨性内容。
马斯克的否认声明发布之际，英国、欧洲、马来西亚和印尼等国政府正形成日益强烈的国际压力。此前有报道称，X平台用户诱导Grok生成未经本人同意的真实女性（部分涉及儿童）的性化图像。据人工智能检测公司Copyleaks估算，此类图像在X平台的发布频率约为每分钟一张。 另据1月5日至6日的独立数据样本显示，24小时内该类图片发布率高达每小时6700张。（X与xAI隶属同一企业架构）
加州总检察长罗伯·邦塔声明："此类素材...已被用于在互联网上骚扰民众。我敦促xAI立即采取行动，确保此类行为不再蔓延。"
总检察长办公室将对xAI的潜在违法行为展开调查。
多项法律禁止传播未经同意的性影像及儿童性虐待材料（CSAM）。去年签署的联邦《删除法案》将明知故犯传播非自愿私密影像（含深度伪造内容）定为犯罪，并要求X等平台48小时内删除此类内容。加州州长加文·纽森2024年签署的州法也专门打击色情深度伪造内容。
年末时分，Grok开始响应X平台用户生成女性及儿童色情照片的请求。 该趋势源于部分成人内容创作者利用Grok生成自身性化形象进行营销，进而引发其他用户类似需求。在涉及女演员米莉·博比·布朗等公众人物的多起公开案例中，Grok通过篡改真实女性照片——以露骨方式修改服装、姿势或身体特征——响应用户指令。
报道显示xAI已开始实施防护措施。Grok现要求特定图像生成请求需付费订阅，即便如此仍可能拒绝生成。Copyleaks市场副总裁April Kozen向TechCrunch透露，Grok可能以更泛化或含蓄的方式响应请求。她补充道，该平台对成人内容创作者似乎采取更宽松的政策。
Techcrunch活动加入Disrupt 2026候补名单
加入Disrupt 2026候补名单，抢先获取早鸟票。 往届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、埃拉德·吉尔、维诺德·科斯拉等行业巨头登台演讲——逾250位领军人物主导200余场专题会议，助您加速成长、锐化优势。更有数百家跨领域创新初创企业齐聚一堂。
加入Disrupt 2026候补名单
加入Disrupt 2026候补名单，抢先获取早鸟票。 往届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等行业巨头登台演讲——逾250位领军人物将主持200余场专题会议，助您加速成长、锐化优势。更有数百家跨领域创新初创企业齐聚一堂。
旧金山 | 2026年10月13-15日 立即加入候补名单"总体而言，这些行为表明X正在尝试多种机制来减少或控制问题图像的生成，尽管仍存在不一致之处，"科岑表示。
无论是xAI还是马斯克均未直面核心问题。事件爆发数日后，马斯克竟要求Grok生成自己身着比基尼的图像，似乎在淡化问题严重性。1月3日，X平台安全账号声明公司"对X平台上的非法内容采取行动，包括[CSAM]"，却未具体提及Grok明显缺乏防护措施或制造女性性化篡改图像的问题。
这种立场与马斯克近期强调非法行为和用户行为的发文相呼应。
马斯克声称"未发现Grok生成任何未成年人裸体图像，确切地说是一张都没有"。该声明并未否认比基尼图片或更广泛定义的性化编辑图像的存在。
纽约法学院副教授、前诉讼律师迈克尔·古德耶尔向TechCrunch指出，马斯克可能刻意聚焦儿童色情内容，因制作或传播合成儿童色情图像的刑罚更为严厉。
古德耶尔指出："例如在美国，《删除法案》规定传播或威胁传播CSAM者最高可判三年监禁，而传播非自愿成人色情图像仅判两年。"
他补充说，"更关键的是"马斯克试图将焦点转移到问题用户内容上。
"显然，Grok不会自发生成图像，仅根据用户请求操作，"马斯克在帖文中写道，"当被要求生成图像时，它会拒绝制作任何非法内容，因为Grok的运行原则是遵守任何国家或地区的法律。有时敌对黑客攻击Grok提示词可能导致意外行为，若发生此类情况，我们将立即修复漏洞。"
该帖子整体将这些事件描述为罕见案例，归咎于用户请求或对抗性提示，并将其定性为待修复的技术漏洞。文中未承认Grok安全设计存在任何根本缺陷。
固特异表示："监管机构在保障言论自由的前提下，可考虑要求人工智能开发商采取主动措施防止此类内容出现。"
TechCrunch已联系xAI公司，询问其已识别多少起未经同意的女性及儿童性内容篡改图像事件、具体调整了哪些防护措施，以及是否已向监管机构通报。若收到回复，TechCrunch将更新本文。
加州总检察长并非唯一追究xAI责任的监管机构。印尼和马来西亚已暂时封禁Grok访问；印度要求X公司立即对Grok实施技术与流程改进；欧盟委员会已责令xAI保留所有与Grok聊天机器人相关的文件（此举预示正式调查即将启动）；英国通信管理局（Ofcom）则依据《英国网络安全法》展开正式调查。
xAI此前就因Grok的色情化图像引发争议。正如邦塔总检察长所指出的，Grok设有生成露骨内容的"刺激模式"。去年10月的更新使其更易规避有限的安全准则，导致大量用户利用Grok制造硬核色情及暴力色情图像。
Grok生成的色情图像多为AI合成人物——尽管这种做法可能对特定个体造成的直接伤害较小，但仍存在伦理争议。
"当AI系统在缺乏明确授权的情况下篡改真实人物形象时，其影响往往具有即时性且极具人身侵害性，"Copyleaks联合创始人兼CEO阿隆·亚明向TechCrunch声明称，"从Sora到Grok，我们目睹着AI媒体篡改能力的迅猛发展。为此，当前比以往任何时候都更需要检测与治理机制来防范滥用行为。"
Anthropic的收入大幅增长，其市值接近万亿美元大关
有报告显示，Anthropic在短短几个月内就实现了显著的收入增长。该公司的年化收入现已超过300亿美元，这一数字是去年底时的三倍多。这种增长可能会让Anthropic在竞争中略占优势，不过直接进行比较并不容易。其主要推动力在于Claude Code和Cowork产品，以及其推理模型的代币销售量增加。更值得注意的是，Anthropic的利润率也有了显著提升。该公司的毛利率从2024年的-94%上升到了2025年的+40%，而年化收入也从不到10亿美元增长到了90亿美元。正是这种发展势头，使得A
苹果移除了Cal AI应用程序，原因是该应用存在未经授权的店内购买行为以及欺诈性计费问题。
苹果最近移除了MyFitnessPal中颇受欢迎的人工智能食物追踪应用Cal AI，这一举动凸显了其对App Store关于外部支付和订阅政策的严格执行。该应用每年能带来5000万美元的重复收入，曾因违反多项开发者指南而被暂时下架，但在解决了相关问题后已重新上线。有报道称，尽管Epic Games诉苹果的案件允许美国开发者链接到外部支付系统，但苹果指出Cal AI存在严重的合规问题。其主要违规行为在于：该应用试图通过嵌入Stripe等第三方支付流程来绕过苹果的应用内购买机制以解锁数字内容，却未
Github Copilot的基于令牌的计费方式引发了开发者的强烈不满
微软GitHub Copilot的黄金时代可能即将结束，尤其是对个人用户而言。该公司正从统一的订阅费模式转向基于代币的计费方式，这可能会大幅增加使用成本。虽然大型企业或许还能承受这种变化，但小型企业和自由职业者可能会发现新的收费机制让他们的月预算难以承受。这些变更将于6月1日正式生效，届时用户将按照工作中消耗的代币数量来支付费用，而不再是按每次请求收取固定费用。一些开发者受到这一财务变动的影响，在Reddit和X平台上表达了他们对这种看似过高的成本增加的担忧。一位Redditor最近写道：“
在XIX.AI上，发现2026年最优秀的免费AI时尚模型生成工具。我们精心挑选的这份列表中包含了评分最高、能够颠覆传统的工具，这些工具能够帮助你创建逼真的服装设计稿和模特穿着照片。通过每周更新的排名和实际测试结果，你可以对比免费选项和付费选项。今天就开启你的设计优势吧！
10 个工具
xix.ai
探索2026年最适合小说作家的AI连贯性编辑工具。我们精心筛选的这份高评分清单汇集了强大的工具，能够自动检测情节漏洞和时间线矛盾。通过实际测试和每周更新的排名，对比免费与付费选项。找到最适合您的写作助手，确保叙事无懈可击。立即访问XIX.AI，探索精选推荐。
10 个工具
xix.ai
在XIX.AI上，发现2026年最优秀的人工智能故事板生成工具。我们精心挑选的这些高评分工具能够自动将剧本转化为电影风格的动画效果，从而节省您的时间并提升前期制作效率。通过实际测试和每周更新的排名信息，您可以了解免费选项与付费选项的差异。今天就找到最适合您的创意助手吧！
10 个工具
xix.ai
在XIX.AI上，发现2026年最优秀的人工智能重定向工具和失效链接查找工具。我们精心挑选的这些高评分工具能够自动修复爬取错误，从而帮助您节省爬取预算。通过实际测试和每周更新的排名信息，您可以比较免费选项和付费选项，立即找到最适合您的SEO解决方案！
10 个工具
xix.ai
立即访问 XIX.AI，探索 2026 年最适合播客创作者的 AI 视频制作工具。我们精心筛选并广受好评的榜单汇集了多款强大工具，可轻松将您的音频转化为引人入胜的“谈话头”视频。通过实际测试和每周更新的排名，对比免费与付费选项。立即开启您的视觉叙事新优势。
10 个工具
xix.ai
探索2026年最新、最受好评的AI角色扮演工具，打造身临其境的叙事体验。XIX.AI精心整理的这份清单汇集了功能强大、颠覆传统的助手，助您释放创意叙事潜力，挖掘情感深度。通过实际测试对比免费与付费选项。立即开启您的独特旅程。
10 个工具
xix.ai
Ist doch interessant wie die Diskussion immer direkt in Extremen stattfindet. Einerseits will man Innovation fördern, andererseits hat man gleich die Staatsanwaltschaft am Hals, kaum dass etwas nicht perfekt funktioniert. Das wirft für mich die grundsätzliche Frage auf: Wer trägt eigentlich die Verantwortung, wenn ein KI-Modell unerwünschte Inhalte produziert? Der Entwickler, der Nutzer oder die Plattform? 🤔 Die regulatorische Grauzone wird hier mal wieder deutlich.
