加州总检察长调查马斯克旗下X平台，因其Grok聊天机器人涉嫌涉及未成年人内容。

埃隆·马斯克周三表示，他"不知晓Grok生成任何未成年人裸体图像的情况"。就在几小时后，加州总检察长宣布将对xAI的聊天机器人展开调查，涉及传播未经同意的露骨性内容。

马斯克的否认声明发布之际，英国、欧洲、马来西亚和印尼等国政府正形成日益强烈的国际压力。此前有报道称，X平台用户诱导Grok生成未经本人同意的真实女性（部分涉及儿童）的性化图像。据人工智能检测公司Copyleaks估算，此类图像在X平台的发布频率约为每分钟一张。 另据1月5日至6日的独立数据样本显示，24小时内该类图片发布率高达每小时6700张。（X与xAI隶属同一企业架构）

加州总检察长罗伯·邦塔声明："此类素材...已被用于在互联网上骚扰民众。我敦促xAI立即采取行动，确保此类行为不再蔓延。"

总检察长办公室将对xAI的潜在违法行为展开调查。

多项法律禁止传播未经同意的性影像及儿童性虐待材料（CSAM）。去年签署的联邦《删除法案》将明知故犯传播非自愿私密影像（含深度伪造内容）定为犯罪，并要求X等平台48小时内删除此类内容。加州州长加文·纽森2024年签署的州法也专门打击色情深度伪造内容。

年末时分，Grok开始响应X平台用户生成女性及儿童色情照片的请求。 该趋势源于部分成人内容创作者利用Grok生成自身性化形象进行营销，进而引发其他用户类似需求。在涉及女演员米莉·博比·布朗等公众人物的多起公开案例中，Grok通过篡改真实女性照片——以露骨方式修改服装、姿势或身体特征——响应用户指令。

报道显示xAI已开始实施防护措施。Grok现要求特定图像生成请求需付费订阅，即便如此仍可能拒绝生成。Copyleaks市场副总裁April Kozen向TechCrunch透露，Grok可能以更泛化或含蓄的方式响应请求。她补充道，该平台对成人内容创作者似乎采取更宽松的政策。

加入Disrupt 2026候补名单

加入Disrupt 2026候补名单，抢先获取早鸟票。 往届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、埃拉德·吉尔、维诺德·科斯拉等行业巨头登台演讲——逾250位领军人物主导200余场专题会议，助您加速成长、锐化优势。更有数百家跨领域创新初创企业齐聚一堂。

加入Disrupt 2026候补名单

加入Disrupt 2026候补名单，抢先获取早鸟票。 往届Disrupt大会曾汇聚谷歌云、奈飞、微软、Box、Phia、a16z、ElevenLabs、Wayve、Hugging Face、Elad Gil及Vinod Khosla等行业巨头登台演讲——逾250位领军人物将主持200余场专题会议，助您加速成长、锐化优势。更有数百家跨领域创新初创企业齐聚一堂。

"总体而言，这些行为表明X正在尝试多种机制来减少或控制问题图像的生成，尽管仍存在不一致之处，"科岑表示。

无论是xAI还是马斯克均未直面核心问题。事件爆发数日后，马斯克竟要求Grok生成自己身着比基尼的图像，似乎在淡化问题严重性。1月3日，X平台安全账号声明公司"对X平台上的非法内容采取行动，包括[CSAM]"，却未具体提及Grok明显缺乏防护措施或制造女性性化篡改图像的问题。

这种立场与马斯克近期强调非法行为和用户行为的发文相呼应。

马斯克声称"未发现Grok生成任何未成年人裸体图像，确切地说是一张都没有"。该声明并未否认比基尼图片或更广泛定义的性化编辑图像的存在。

纽约法学院副教授、前诉讼律师迈克尔·古德耶尔向TechCrunch指出，马斯克可能刻意聚焦儿童色情内容，因制作或传播合成儿童色情图像的刑罚更为严厉。

古德耶尔指出："例如在美国，《删除法案》规定传播或威胁传播CSAM者最高可判三年监禁，而传播非自愿成人色情图像仅判两年。"

他补充说，"更关键的是"马斯克试图将焦点转移到问题用户内容上。

"显然，Grok不会自发生成图像，仅根据用户请求操作，"马斯克在帖文中写道，"当被要求生成图像时，它会拒绝制作任何非法内容，因为Grok的运行原则是遵守任何国家或地区的法律。有时敌对黑客攻击Grok提示词可能导致意外行为，若发生此类情况，我们将立即修复漏洞。"

该帖子整体将这些事件描述为罕见案例，归咎于用户请求或对抗性提示，并将其定性为待修复的技术漏洞。文中未承认Grok安全设计存在任何根本缺陷。

固特异表示："监管机构在保障言论自由的前提下，可考虑要求人工智能开发商采取主动措施防止此类内容出现。"

TechCrunch已联系xAI公司，询问其已识别多少起未经同意的女性及儿童性内容篡改图像事件、具体调整了哪些防护措施，以及是否已向监管机构通报。若收到回复，TechCrunch将更新本文。

加州总检察长并非唯一追究xAI责任的监管机构。印尼和马来西亚已暂时封禁Grok访问；印度要求X公司立即对Grok实施技术与流程改进；欧盟委员会已责令xAI保留所有与Grok聊天机器人相关的文件（此举预示正式调查即将启动）；英国通信管理局（Ofcom）则依据《英国网络安全法》展开正式调查。

xAI此前就因Grok的色情化图像引发争议。正如邦塔总检察长所指出的，Grok设有生成露骨内容的"刺激模式"。去年10月的更新使其更易规避有限的安全准则，导致大量用户利用Grok制造硬核色情及暴力色情图像。

Grok生成的色情图像多为AI合成人物——尽管这种做法可能对特定个体造成的直接伤害较小，但仍存在伦理争议。

"当AI系统在缺乏明确授权的情况下篡改真实人物形象时，其影响往往具有即时性且极具人身侵害性，"Copyleaks联合创始人兼CEO阿隆·亚明向TechCrunch声明称，"从Sora到Grok，我们目睹着AI媒体篡改能力的迅猛发展。为此，当前比以往任何时候都更需要检测与治理机制来防范滥用行为。"