选项
首页
快讯
内容
JoseMiller
JoseMiller
2025-12-22

OpenAI 承认,对人工智能代理(如其 ChatGPT Atlas 浏览器)的提示注入攻击是一种类似于网络诈骗的持久性、难以解决的威胁。该公司正在利用基于 LLM 的自动攻击机器人来应对这一威胁,该机器人通过强化学习训练,在模拟中主动发现新的攻击策略。OpenAI 和专家们指出,在通过快速测试周期加固防御的同时,人工智能浏览器对敏感数据的高访问权限也造成了重大的安全权衡。

OpenAI 承认,对人工智能代理(如其 ChatGPT Atlas 浏览器)的提示注入攻击是一种类似于网络诈骗的持久性、难以解决的威胁。该公司正在利用基于 LLM 的自动攻击机器人来应对这一威胁,该机器人通过强化学习训练,在模拟中主动发现新的攻击策略。OpenAI 和专家们指出,在通过快速测试周期加固防御的同时,人工智能浏览器对敏感数据的高访问权限也造成了重大的安全权衡。
评论 (0)
0/300
OR