OpenAI 发布安全蓝图,旨在打击对儿童的性剥削

针对公众对儿童网络安全日益增长的担忧,OpenAI推出了一套旨在加强美国在人工智能时代儿童保护工作的框架。周二发布的《儿童安全蓝图》旨在加快对利用人工智能实施的儿童性剥削案件的检测速度,改进举报机制,并提高调查效率。
《儿童安全蓝图》旨在应对因人工智能发展而日益严重的儿童性剥削问题。据互联网观察基金会(IWF)统计,2025年上半年共发现超过8,000起关于人工智能生成儿童性虐待材料的举报,较上年同期增长了14%。 其中包括犯罪分子利用AI工具制作虚假的儿童色情图像进行金钱性勒索,以及编造具有欺骗性的信息进行诱骗。
OpenAI发布该蓝图之际,正值政策制定者、教育工作者和儿童安全倡导者对其审查力度加剧,尤其是继此前发生多起令人不安的事件——据报道,有青少年在与AI聊天机器人互动后自杀身亡。
去年11月,社交媒体受害者法律中心和科技正义法律项目在加利福尼亚州法院提起了七起诉讼,指控OpenAI在GPT-4o尚未准备就绪时便将其发布。 诉讼称,该产品具有心理操控性,导致了自杀和协助自杀等不当死亡事件。他们列举了四名自杀身亡者,以及另外三名在与聊天机器人长时间互动后出现严重、危及生命的妄想症状的案例。
该行动纲要是由OpenAI与美国国家失踪与受虐儿童中心(NCMEC)、总检察长联盟合作制定的,并参考了北卡罗来纳州总检察长杰夫·杰克逊和犹他州总检察长德里克·布朗的意见。
该公司表示,该蓝图侧重于三个领域:更新立法以涵盖人工智能生成的虐待内容、完善执法部门的举报机制,以及将预防性保障措施直接嵌入人工智能系统。通过这些措施,OpenAI 旨在不仅能更早地检测到潜在威胁,还能确保可采取行动的信息能及时传递给调查人员。
OpenAI的新版儿童安全蓝图是在此前工作基础上制定的,其中包括针对与18岁以下用户互动的更新指南,该指南禁止生成不当内容或鼓励自残,并避免提供可能帮助青少年向监护人隐瞒不安全行为的建议。该公司最近还发布了针对印度青少年的安全蓝图。
TechCrunch 活动仅限本周:Disrupt 2026 门票最高立减 482 美元
优惠截止至太平洋时间 4 月 10 日晚上 11:59
您的下一轮融资。您的下一位员工。您下一个突破性机遇。尽在 TechCrunch Disrupt 2026——届时将有 10,000 多名创始人、投资者和科技领袖齐聚一堂,在为期三天的活动中参与 250 多场实战研讨会,建立强大人脉,见证定义市场的创新。立即注册,锁定优惠。
仅限本周:Disrupt 2026 最高立省 482 美元
优惠截止至太平洋时间4月10日晚上11:59
您的下一轮融资。您的下一位员工。您的下一个突破性机遇。这一切尽在 TechCrunch Disrupt 2026——届时将有 10,000 多名创始人、投资者和科技领袖齐聚一堂,在为期三天的活动中参与 250 多场实战研讨会,建立强大人脉,见证引领市场的创新。立即注册,锁定优惠。
加利福尼亚州旧金山 | 2026年10月13日至15日 立即注册
相关文章
PHP末日危机:OpenAI与谷歌专家发现陈年漏洞,引发网络恐慌
美国国家安全局周三就PHP中的两个严重漏洞发布了紧急警报,PHP基金会已针对这些漏洞发布了补丁。作为一种服务器端脚本语言,PHP支撑着全球约70%的网站——超过3300万个网站——并且是WordPress等主要内容管理平台不可或缺的组成部分。美国国家安全局警告称,这些漏洞极其严重,未打补丁的网站应立即下线,直至完成更新,因为攻击者可利用这些漏洞入侵服务器文件系统或相关数据库。这些漏洞存在于自 5.
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
OpenAI 推出 GPT-5.5 Instant,作为 ChatGPT 的新默认模型
OpenAI 于周一推出了 GPT-5.5 Instant,取代 GPT-5.3 Instant 成为 ChatGPT 的默认模型。该公司表示,此次更新旨在最大限度地减少法律、医疗和金融等高利害领域中的幻觉现象,同时保留前版本的快速响应速度。在上个月发布更广泛的 GPT-5.5 系列(重点突出了编码和知识工作方面的增强)之后,OpenAI 现已将这些改进整合到即时模型中。在性能方面,新模型在 AIME 2025 数学基准测试中得分 81.2,超过了旧模型的 65.4 分。它在 MMMU-Pr
相关专题推荐
评论 (0)
0/500

针对公众对儿童网络安全日益增长的担忧,OpenAI推出了一套旨在加强美国在人工智能时代儿童保护工作的框架。周二发布的《儿童安全蓝图》旨在加快对利用人工智能实施的儿童性剥削案件的检测速度,改进举报机制,并提高调查效率。
《儿童安全蓝图》旨在应对因人工智能发展而日益严重的儿童性剥削问题。据互联网观察基金会(IWF)统计,2025年上半年共发现超过8,000起关于人工智能生成儿童性虐待材料的举报,较上年同期增长了14%。 其中包括犯罪分子利用AI工具制作虚假的儿童色情图像进行金钱性勒索,以及编造具有欺骗性的信息进行诱骗。
OpenAI发布该蓝图之际,正值政策制定者、教育工作者和儿童安全倡导者对其审查力度加剧,尤其是继此前发生多起令人不安的事件——据报道,有青少年在与AI聊天机器人互动后自杀身亡。
去年11月,社交媒体受害者法律中心和科技正义法律项目在加利福尼亚州法院提起了七起诉讼,指控OpenAI在GPT-4o尚未准备就绪时便将其发布。 诉讼称,该产品具有心理操控性,导致了自杀和协助自杀等不当死亡事件。他们列举了四名自杀身亡者,以及另外三名在与聊天机器人长时间互动后出现严重、危及生命的妄想症状的案例。
该行动纲要是由OpenAI与美国国家失踪与受虐儿童中心(NCMEC)、总检察长联盟合作制定的,并参考了北卡罗来纳州总检察长杰夫·杰克逊和犹他州总检察长德里克·布朗的意见。
该公司表示,该蓝图侧重于三个领域:更新立法以涵盖人工智能生成的虐待内容、完善执法部门的举报机制,以及将预防性保障措施直接嵌入人工智能系统。通过这些措施,OpenAI 旨在不仅能更早地检测到潜在威胁,还能确保可采取行动的信息能及时传递给调查人员。
OpenAI的新版儿童安全蓝图是在此前工作基础上制定的,其中包括针对与18岁以下用户互动的更新指南,该指南禁止生成不当内容或鼓励自残,并避免提供可能帮助青少年向监护人隐瞒不安全行为的建议。该公司最近还发布了针对印度青少年的安全蓝图。
TechCrunch 活动仅限本周:Disrupt 2026 门票最高立减 482 美元
优惠截止至太平洋时间 4 月 10 日晚上 11:59
您的下一轮融资。您的下一位员工。您下一个突破性机遇。尽在 TechCrunch Disrupt 2026——届时将有 10,000 多名创始人、投资者和科技领袖齐聚一堂,在为期三天的活动中参与 250 多场实战研讨会,建立强大人脉,见证定义市场的创新。立即注册,锁定优惠。
仅限本周:Disrupt 2026 最高立省 482 美元
优惠截止至太平洋时间4月10日晚上11:59
您的下一轮融资。您的下一位员工。您的下一个突破性机遇。这一切尽在 TechCrunch Disrupt 2026——届时将有 10,000 多名创始人、投资者和科技领袖齐聚一堂,在为期三天的活动中参与 250 多场实战研讨会,建立强大人脉,见证引领市场的创新。立即注册,锁定优惠。
加利福尼亚州旧金山 | 2026年10月13日至15日 立即注册
PHP末日危机:OpenAI与谷歌专家发现陈年漏洞,引发网络恐慌
美国国家安全局周三就PHP中的两个严重漏洞发布了紧急警报,PHP基金会已针对这些漏洞发布了补丁。作为一种服务器端脚本语言,PHP支撑着全球约70%的网站——超过3300万个网站——并且是WordPress等主要内容管理平台不可或缺的组成部分。美国国家安全局警告称,这些漏洞极其严重,未打补丁的网站应立即下线,直至完成更新,因为攻击者可利用这些漏洞入侵服务器文件系统或相关数据库。这些漏洞存在于自 5.
谷歌AI概述在搜索结果中占据更多席位
根据Similarweb发布的《2026年生成式AI行业概况》报告,谷歌的AI生成的摘要出现在43%的美国搜索结果中,较一年前的15%显著上升。虽然“AI概览”会在标准搜索结果中展示生成的摘要,但“AI模式”则为复杂的查询和后续提示提供了对话式界面。用户可以在不丢失初始搜索上下文的情况下,从“AI概览”切换到“AI模式”。谷歌解释称,“AI模式”采用了一种名为“查询扇出”(query fan-ou
OpenAI 推出 GPT-5.5 Instant,作为 ChatGPT 的新默认模型
OpenAI 于周一推出了 GPT-5.5 Instant,取代 GPT-5.3 Instant 成为 ChatGPT 的默认模型。该公司表示,此次更新旨在最大限度地减少法律、医疗和金融等高利害领域中的幻觉现象,同时保留前版本的快速响应速度。在上个月发布更广泛的 GPT-5.5 系列(重点突出了编码和知识工作方面的增强)之后,OpenAI 现已将这些改进整合到即时模型中。在性能方面,新模型在 AIME 2025 数学基准测试中得分 81.2,超过了旧模型的 65.4 分。它在 MMMU-Pr





首页






