OpenAI 通过阻止危险操作和权限控制增强 Codex 安全性

OpenAI 已加强其 AI 编程代理 Codex 的安全框架,引入了多项旨在减轻破坏性操作风险的安全措施,例如在代码执行过程中意外删除文件或覆盖数据。
根据 OpenAI 团队成员 Tibo 最近发布的一篇文章,该公司调查了来自 Codex 的有害操作报告,并确定主要漏洞出现在临时工作目录的清理过程中。关键问题包括系统变量(如 $HOME)的不当重用,这可能会无意中使清理过程指向实际的用户目录。此外,某些操作在删除或覆盖之前缺乏足够的路径验证,从而增加了数据损坏的潜在可能性。
为了解决这些漏洞,OpenAI 实施了多层保护。更新后的 Codex 版本现在要求代理在执行敏感操作之前验证目标路径,并使用隔离的临时目录,从而消除对可能具有误导性的系统变量的依赖。此外,OpenAI 增强了识别和阻止危险命令的机制,并为这些操作引入了额外的审查程序。
此外,OpenAI 提高了授予 Codex 完全访问权限的要求。通过引入更显著的风险警告,公司旨在降低用户无意中授权广泛访问的可能性。这些对自动审查规则的升级进一步限制了安全风险,同时不影响 AI 辅助编程的效率。
随着 AI 编程代理越来越深入地集成到代码开发、文件管理和自动化任务执行中,确保代理行为的安全性已成为行业的关键优先事项。OpenAI 的这一增强措施强调了随着应用范围的扩大,AI 代理必须不断完善其权限管理、操作审计和风险控制能力的必要性。
相关文章
微信支付推出智能眼镜SDK;Rokid成为首个兼容品牌
微信已正式推出微信支付智能眼镜SDK,使其全面开放。该解决方案将微信核心的“扫码支付”功能整合到标准SDK中,供符合特定标准的智能眼镜制造商使用。这使用户能够直接在兼容的智能眼镜上无缝完成支付。 目前,Rokid Leqi AI眼镜已成为首款完成适配并上线的产品。激活与日常支付流程首次使用智能眼镜的“扫码支付”功能时,用户需通过制造商的手机应用申请激活。随后系统将跳转至微信小程序,用户需在该处验证
优步工程师创建了CEO的AI克隆体,以规避直接提问
虽然大多数员工都害怕向首席执行官汇报工作,但全球领先的出行服务商优步(Uber)的工程师们却发现了一种战略优势:让老板的AI分身提前提供反馈。“Dara AI”:董事会会议前的执行教练优步首席执行官达拉·科斯罗沙希(Dara Khosrowshahi)最近在史蒂文·巴特利特(Steven Bartlett)广受欢迎的《CEO日记》(CEO Diaries)播客中分享了幕后故事,透露他的工程团队开发
Unitree 如何塑造类人机器人技术的未来
Unitree推出的全新具身AI机器人,搭载超广角4D激光雷达技术,可实现先进的现实世界导航。图片来源:UnitreeUnitree首席执行官王兴兴致力于实现世界模型的突破,以帮助类人机器人在进入陌生家庭后完成80%的任务随着机器人行业逐渐摆脱预设脚本的局限,中国类人型机器人独角兽企业Unitree正全力以赴,致力于解决真实世界中的认知适应性问题。尽管随着ChatGPT的发布,生成式人工智能(ge
相关专题推荐
评论 (0)
0/500

OpenAI 已加强其 AI 编程代理 Codex 的安全框架,引入了多项旨在减轻破坏性操作风险的安全措施,例如在代码执行过程中意外删除文件或覆盖数据。
根据 OpenAI 团队成员 Tibo 最近发布的一篇文章,该公司调查了来自 Codex 的有害操作报告,并确定主要漏洞出现在临时工作目录的清理过程中。关键问题包括系统变量(如 $HOME)的不当重用,这可能会无意中使清理过程指向实际的用户目录。此外,某些操作在删除或覆盖之前缺乏足够的路径验证,从而增加了数据损坏的潜在可能性。
为了解决这些漏洞,OpenAI 实施了多层保护。更新后的 Codex 版本现在要求代理在执行敏感操作之前验证目标路径,并使用隔离的临时目录,从而消除对可能具有误导性的系统变量的依赖。此外,OpenAI 增强了识别和阻止危险命令的机制,并为这些操作引入了额外的审查程序。
此外,OpenAI 提高了授予 Codex 完全访问权限的要求。通过引入更显著的风险警告,公司旨在降低用户无意中授权广泛访问的可能性。这些对自动审查规则的升级进一步限制了安全风险,同时不影响 AI 辅助编程的效率。
随着 AI 编程代理越来越深入地集成到代码开发、文件管理和自动化任务执行中,确保代理行为的安全性已成为行业的关键优先事项。OpenAI 的这一增强措施强调了随着应用范围的扩大,AI 代理必须不断完善其权限管理、操作审计和风险控制能力的必要性。
微信支付推出智能眼镜SDK;Rokid成为首个兼容品牌
微信已正式推出微信支付智能眼镜SDK,使其全面开放。该解决方案将微信核心的“扫码支付”功能整合到标准SDK中,供符合特定标准的智能眼镜制造商使用。这使用户能够直接在兼容的智能眼镜上无缝完成支付。 目前,Rokid Leqi AI眼镜已成为首款完成适配并上线的产品。激活与日常支付流程首次使用智能眼镜的“扫码支付”功能时,用户需通过制造商的手机应用申请激活。随后系统将跳转至微信小程序,用户需在该处验证
优步工程师创建了CEO的AI克隆体,以规避直接提问
虽然大多数员工都害怕向首席执行官汇报工作,但全球领先的出行服务商优步(Uber)的工程师们却发现了一种战略优势:让老板的AI分身提前提供反馈。“Dara AI”:董事会会议前的执行教练优步首席执行官达拉·科斯罗沙希(Dara Khosrowshahi)最近在史蒂文·巴特利特(Steven Bartlett)广受欢迎的《CEO日记》(CEO Diaries)播客中分享了幕后故事,透露他的工程团队开发
Unitree 如何塑造类人机器人技术的未来
Unitree推出的全新具身AI机器人,搭载超广角4D激光雷达技术,可实现先进的现实世界导航。图片来源:UnitreeUnitree首席执行官王兴兴致力于实现世界模型的突破,以帮助类人机器人在进入陌生家庭后完成80%的任务随着机器人行业逐渐摆脱预设脚本的局限,中国类人型机器人独角兽企业Unitree正全力以赴,致力于解决真实世界中的认知适应性问题。尽管随着ChatGPT的发布,生成式人工智能(ge





首页






