选项
首页
新闻
OpenAI 加强 ChatGPT 安全防护,防范提示符注入攻击

OpenAI 加强 ChatGPT 安全防护,防范提示符注入攻击

2026-05-11
75

OpenAI 为 ChatGPT 推出了两项新的高级安全功能,以应对日益严峻的提示注入攻击威胁。此类攻击通常发生在 AI 系统与网站及外部应用程序交互时,可能使恶意攻击者操纵 AI 执行有害操作或泄露机密数据。这两项新功能均强化了平台的现有防御机制,包括沙箱环境、URL 数据泄露防护以及其他多层安全协议。

image.png

第一项功能是“锁定模式”(Lockdown Mode),这是一种可选的高级设置,专为有严格安全要求(而非普通用户)的用户设计。它通过严格控制 ChatGPT 与外部系统的通信方式,显著降低了数据泄露的风险。该模式会主动禁用或限制可能成为攻击载体的工具。例如,网页浏览功能将仅访问缓存内容,而缺乏强有力安全保障的功能将被完全关闭。

目前,该模式适用于 ChatGPT 企业版、教育版、医疗版和教师版。管理员可通过在仪表板设置中创建特定角色来启用该模式,同时还能在锁定模式激活期间精确定义允许使用的外部应用程序和操作。OpenAI 计划在未来数月内向普通用户开放此模式。此外,“合规 API 日志平台”可协助管理员对应用程序使用情况及数据共享实践进行合规审计。

第二项措施是在 ChatGPT、ChatGPT Atlas 和 Codex 中,对高风险功能统一标注 **“高风险”** 标签,从而规范向用户传达潜在威胁的方式。

OpenAI 解释称,某些联网功能虽能提升 AI 的实用性,但仍存在当前行业防护措施无法完全规避的风险。该标签能清晰揭示这些风险,使用户能够就是否使用相关功能做出明智决策,特别是在涉及敏感信息的情况下。例如,当开发者为 Codex 启用互联网访问时,该标签将显示在界面上,详细说明其带来的变化、潜在危险、适用的使用场景以及降低风险的建议。

相关文章
ChatGPT成人模式再次推迟;奥特曼:优先考虑智能 ChatGPT成人模式再次推迟;奥特曼:优先考虑智能 OpenAI再次推迟推出备受争议的功能,转而专注于个性化和主动交互“不适当内容”是否应成为高效AI工具的一部分,这一问题在科技界早已引发热议。 OpenAI曾承诺让ChatGPT更好地理解成年用户,但再次令期待这一变革的人们失望。据IT之家报道,该公司近日确认,原定于2026年第一季度推出的所谓“成人模式”已再次推迟。这并非萨姆·阿尔特曼(Sam Altman)首次食言。早在2025年底,他就曾宣
百度健康近期内部测试了AI医生助手“DoctorClaw”,用于学术文献检索和日常办公辅助 百度健康近期内部测试了AI医生助手“DoctorClaw”,用于学术文献检索和日常办公辅助 据报道,百度健康已开始对一款专为医生设计的专业AI智能助手进行内部测试。该产品内部代号为“DoctorClaw”(龙虾医生版),标志着百度在医疗领域部署大型语言模型方面迈出了重要一步。知情人士透露,该项目仍处于封闭开发阶段,目前已进入内部测试。虽然具体的产品形态尚未完全披露,但已接近上线。 在功能方面,DoctorClaw初期将侧重于学术文献检索和常规诊疗辅助。但其长期战略旨在深度融入临床诊断、医
Cursor Composer 2 与 Claude Opus 4.6:基准测试引发新一轮人工智能编程争论 Cursor Composer 2 与 Claude Opus 4.6:基准测试引发新一轮人工智能编程争论 3月19日,Cursor正式发布了其自主研发的编程模型Composer 2。 这一消息在开发者社区中立即引发热议——据 Cursor 称,Composer 2 在 Terminal-Bench 2.0 测试中获得了 61.7% 的得分,在相同的测试条件下,这一成绩显著超过了 Claude Opus 4.6 的 58.0%。Anthropic的旗舰模型竟被自家IDE内置的模型超越?随着消息传开,相关
相关专题推荐
写作 最适合广播和播客使用的AI脚本编写工具:帮助您创作引人入胜的音频广告
最适合广播和播客使用的AI脚本编写工具:帮助您创作引人入胜的音频广告

在XIX.AI上,发现2026年最适合用于广播和播客制作的AI脚本工具。我们精心挑选的这些高评分工具能够提供强大的功能,帮助您快速制作出引人入胜的音频广告。通过实际测试和每周更新的排名,您可以了解免费选项与付费选项之间的差异。今天就释放您的创造力吧!

10 个工具
xix.ai
商业 最佳 AI 合同审查软件:即时发现法律漏洞与合规风险
最佳 AI 合同审查软件:即时发现法律漏洞与合规风险

在 XIX.AI 上探索 2026 年最佳 AI 合同审查软件。我们精心筛选的顶级榜单汇集了功能强大的工具,能够即时发现法律漏洞和合规风险。通过实际测试和每周更新的排名,对比免费与付费选项。找到能彻底改变游戏规则的解决方案,实现安全、高效的合同分析。立即探索这本权威指南。

10 个工具
xix.ai
动画创作 专为东华设计的AI动漫生成器:可用于创建网络小说角色及漫画头像
专为东华设计的AI动漫生成器:可用于创建网络小说角色及漫画头像

探索2026年最适合制作中文动画的人工智能工具。我们精心挑选的顶级列表中包含了各种强大的工具,能够帮助你创建出令人惊叹的网络小说角色和漫画头像。通过实际测试来对比免费选项和付费选项,找到最适合你的创作工具,今天就在XIX.AI上将你的故事变为现实吧。

10 个工具
xix.ai
漫画创作 漫画领域顶尖的AI自动上色工具:零一致性错误地应用平涂色彩
漫画领域顶尖的AI自动上色工具:零一致性错误地应用平涂色彩

立即访问 XIX.AI,探索 2026 年最优秀的漫画 AI 自动上色工具。我们精心筛选的清单汇集了广受好评、颠覆行业的解决方案,这些工具能以零一致性错误的方式应用平涂色彩,从而大幅提升您的工作效率。通过免费版与付费版的对比分析、实际测试以及每周更新的排行榜,找到最适合您的工具。立即开启您的 AI 优势。

10 个工具
xix.ai
写作 顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷
顶尖 AI 角色设定生成器:生成一致的角色动机与致命缺陷

探索2026年最优秀的AI人物设定生成工具,助您塑造鲜活立体的角色。XIX.AI精心筛选的这份清单汇集了广受好评、颠覆传统的工具,能够生成具有内在逻辑的动机和致命缺陷。通过实际测试对比免费与付费选项。立即释放您的叙事潜能。

10 个工具
xix.ai
商业 顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格
顶级 AI 定价优化软件:追踪竞争对手并自动调整店铺价格

在 XIX.AI 上探索 2026 年最佳 AI 定价优化软件。我们精心挑选的清单汇集了备受好评、具有颠覆性意义的工具,这些工具不仅能追踪竞争对手,还能自动调整您的店铺价格,从而实现利润最大化。通过实际测试对比免费与付费选项。立即掌握您的定价优势。

10 个工具
xix.ai
评论 (0)
0/500
OR