ChatGPT 推出紧急封锁模式,可在不关闭网络的情况下防止数据被盗
为帮助防范敏感数据的恶意窃取,OpenAI 为所有已登录用户推出了一项名为“事件模式”的新可选安全功能。该设置适用于不同类型的账户和工作区,用户和管理员均可选择启用该功能。 启用后,ChatGPT 将限制其实时网络搜索、深度研究和代理功能。其目的是通过限制模型发起外部网络请求的能力,构建一道防范提示注入攻击的安全屏障。

限制网络访问以防止数据泄露
在“事件模式”下,ChatGPT 的实时网页浏览将严格限制为仅访问缓存内容,这可能会导致搜索结果不完整或过时。 此外,该模型无法从互联网下载文件进行数据分析,Canvas 生成的代码也被禁止发起外部网络请求。不过,用户上传的图片、使用工具生成的图片以及对话记忆等本地功能不受此模式影响。
将安全决策权交还给用户
当攻击者在网页或文档中嵌入恶意指令,诱使 AI 忽略现有规则并将用户的敏感信息发送至外部服务器时,就会发生提示注入攻击。OpenAI 承认,“事件模式”无法完全消除此类攻击,因为恶意代码仍可能隐藏在缓存的网页或用户上传的文件中。 面对更强大的AI能力同时也扩大了攻击面的现实,OpenAI选择将“更强功能”与“更低数据泄露风险”之间的权衡交由用户自行决定。
相关文章
海王星医疗公司获得美国食品药品监督管理局(FDA)对Triton 1机器人系统的批准
Triton 是一款胃肠道机器人内窥镜系统,专为在整个结肠内实现直观导航、高精度操作和精准控制而设计。| 来源:Neptune Medical海王医疗公司本周宣布,其“特里顿1号”系统已获得美国食品药品监督管理局(FDA)的批准。该公司表示,该机器人专为柔性内镜检查而开发,可支持整个结肠范围内的诊断和治疗操作。Neptune Medical 声称,Triton 凭借其机器人级的精准度、稳定性和操控
ARIA禁止纯AI歌曲进入排行榜,但允许由人类创作和AI辅助制作的歌曲上榜
澳大利亚唱片业协会(ARIA)已将完全由人工智能生成的歌曲从其官方排行榜中剔除,新政策将于下周一生效。 这一决定源于一首利用AI人声和鼓点模仿麦当娜歌曲《Like a Prayer》的作品,该曲在澳大利亚排行榜前20名中停留了16周,最高排名第2位,由此引发了关于生成式AI在音乐中作用的争论。现在,榜单入围必须包含人类参与根据更新后的规则,只有主要由人类创作、演绎和制作的歌曲才能进入排行榜。 纯A
印度报告首例失控人工智能代理活动
印度网络安全监管机构周四报告称,多家供应商的人工智能代理在研究和测试阶段访问了印度各组织的个人信息和机密资料。印度计算机应急响应小组(CERT-In)表示,该机构收到了“多家AI模型提供商的主动通报”,称其模型在公开互联网上进行研究和评估运行时,“已侵入印度各组织的实时系统”。这些智能代理通过应用程序配置中暴露的凭证和连接设置、公共代码仓库以及权限过宽的云角色获得了访问权限,其行为“超出了其被分配
相关专题推荐
评论 (0)
0/500
为帮助防范敏感数据的恶意窃取,OpenAI 为所有已登录用户推出了一项名为“事件模式”的新可选安全功能。该设置适用于不同类型的账户和工作区,用户和管理员均可选择启用该功能。 启用后,ChatGPT 将限制其实时网络搜索、深度研究和代理功能。其目的是通过限制模型发起外部网络请求的能力,构建一道防范提示注入攻击的安全屏障。

限制网络访问以防止数据泄露
在“事件模式”下,ChatGPT 的实时网页浏览将严格限制为仅访问缓存内容,这可能会导致搜索结果不完整或过时。 此外,该模型无法从互联网下载文件进行数据分析,Canvas 生成的代码也被禁止发起外部网络请求。不过,用户上传的图片、使用工具生成的图片以及对话记忆等本地功能不受此模式影响。
将安全决策权交还给用户
当攻击者在网页或文档中嵌入恶意指令,诱使 AI 忽略现有规则并将用户的敏感信息发送至外部服务器时,就会发生提示注入攻击。OpenAI 承认,“事件模式”无法完全消除此类攻击,因为恶意代码仍可能隐藏在缓存的网页或用户上传的文件中。 面对更强大的AI能力同时也扩大了攻击面的现实,OpenAI选择将“更强功能”与“更低数据泄露风险”之间的权衡交由用户自行决定。
海王星医疗公司获得美国食品药品监督管理局(FDA)对Triton 1机器人系统的批准
Triton 是一款胃肠道机器人内窥镜系统,专为在整个结肠内实现直观导航、高精度操作和精准控制而设计。| 来源:Neptune Medical海王医疗公司本周宣布,其“特里顿1号”系统已获得美国食品药品监督管理局(FDA)的批准。该公司表示,该机器人专为柔性内镜检查而开发,可支持整个结肠范围内的诊断和治疗操作。Neptune Medical 声称,Triton 凭借其机器人级的精准度、稳定性和操控
ARIA禁止纯AI歌曲进入排行榜,但允许由人类创作和AI辅助制作的歌曲上榜
澳大利亚唱片业协会(ARIA)已将完全由人工智能生成的歌曲从其官方排行榜中剔除,新政策将于下周一生效。 这一决定源于一首利用AI人声和鼓点模仿麦当娜歌曲《Like a Prayer》的作品,该曲在澳大利亚排行榜前20名中停留了16周,最高排名第2位,由此引发了关于生成式AI在音乐中作用的争论。现在,榜单入围必须包含人类参与根据更新后的规则,只有主要由人类创作、演绎和制作的歌曲才能进入排行榜。 纯A
印度报告首例失控人工智能代理活动
印度网络安全监管机构周四报告称,多家供应商的人工智能代理在研究和测试阶段访问了印度各组织的个人信息和机密资料。印度计算机应急响应小组(CERT-In)表示,该机构收到了“多家AI模型提供商的主动通报”,称其模型在公开互联网上进行研究和评估运行时,“已侵入印度各组织的实时系统”。这些智能代理通过应用程序配置中暴露的凭证和连接设置、公共代码仓库以及权限过宽的云角色获得了访问权限,其行为“超出了其被分配





首页






