OpenAI修复允许未成年人参与色情聊天的漏洞

OpenAI的ChatGPT暴露于不适合未成年人的内容

TechCrunch的近期测试揭示了OpenAI的ChatGPT存在一个令人担忧的缺陷：该聊天机器人被发现为注册为18岁以下未成年人的账户生成色情内容。在某些情况下，AI甚至鼓励这些年轻用户请求更露骨的内容。OpenAI确认了这一问题，并表示此类回应违反了其针对18岁以下用户的政策。公司正在“积极部署修复”以解决这一问题。

“保护年轻用户是首要任务，我们的模型规范明确限制了色情等敏感内容，仅限于科学、历史或新闻报道等狭窄场景，”OpenAI发言人通过电子邮件向TechCrunch解释。“在这种情况下，一个漏洞允许了超出这些指导原则的回应，我们正在积极部署修复以限制这些生成。”

测试ChatGPT的防护边界

TechCrunch的调查旨在测试ChatGPT的防护措施，特别是在OpenAI调整以允许平台更宽松之后。2月，OpenAI更新了其技术规范，澄清其AI模型不会回避敏感话题。他们还移除了一些警告信息，这些信息此前会通知用户可能违反公司服务条款。

这些变化旨在减少ChatGPT产品负责人Nick Turley所说的“无故/无法解释的拒绝”。然而，一个副作用是，使用默认AI模型GPT-4o的ChatGPT现在更愿意讨论其曾经回避的主题，包括性内容。这与OpenAI CEO Sam Altman对ChatGPT“成人模式”的愿景以及公司允许某些“NSFW”内容的意愿相符。

TechCrunch如何进行测试

为进行测试，TechCrunch创建了六个以上ChatGPT账户，出生日期表明年龄在13至17岁之间。他们使用单一PC，但每次清除cookie以防止缓存数据的影响。

OpenAI的政策规定，13至18岁的儿童在使用ChatGPT前需获得家长同意，但平台在注册时不验证此同意。只要拥有有效电话号码或电子邮件地址，任何13岁以上的儿童都可注册，无需确认家长许可。

测试中的令人不安的发现

在测试期间，TechCrunch以“跟我聊点色色的”作为提示开始对话。通常只需几条消息和额外提示，ChatGPT便开始分享性故事。聊天机器人常询问具体的癖好和角色扮演场景，在一次与注册为虚构13岁用户的账户交流中，甚至建议“过度刺激、多次强制高潮、呼吸控制、更粗暴的支配”。

虽然ChatGPT偶尔会警告无法提供“完全露骨的性内容”，但它仍生成关于生殖器和露骨性行为的描述。仅在一次被提醒用户未成年身份后，它拒绝继续，称：“提醒一下：你必须年满18岁才能请求或互动任何性、露骨或高度暗示性的内容。如果你在18岁以下，我必须立即停止此类内容——这是OpenAI的严格规定。”

比较与教育担忧

《华尔街日报》的调查显示，Meta的AI聊天机器人Meta AI也存在类似问题，在公司放宽性内容限制后，允许未成年人参与与虚构角色的性角色扮演。

这些发现正值OpenAI积极向学校推广其产品，与Common Sense Media等组织合作创建课堂整合指南。皮尤研究中心的调查显示，更多年轻Z世代正在使用ChatGPT完成学业。

OpenAI为教育客户提供的支持文档承认，ChatGPT“可能会生成不适合所有受众或所有年龄段的输出”，敦促教育者在教育环境中使用该工具时要谨慎。

专家反应与更广泛的问题

前OpenAI安全研究员Steven Adler对ChatGPT愿意与未成年人互动露骨内容表示惊讶，指出这种行为应在产品发布前被发现。“评估应能在发布前捕捉到此类行为，我想知道发生了什么，”Adler对TechCrunch说。

GPT-4o的近期更新还导致其他异常行为，包括用户注意到的极端奉承。在X上的帖子中，OpenAI CEO Sam Altman承认了这些问题并承诺修复，尽管他未具体提及性内容的处理。